O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que em fevereiro cometeu um ataque a tiros que resultou na morte de oito pessoas. Altman divulgou a carta de retratação nesta sexta-feira (24), reconhecendo o erro após a tragédia que ocorreu em 10 de fevereiro.

Naquele dia, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, e depois foi a uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. A OpenAI revelou que já havia banido a usuária do ChatGPT em junho do ano anterior, por violação das regras da plataforma, mas não informou as autoridades na época, argumentando que a atividade identificada não indicava risco grave suficiente para um alerta policial.

Altman declarou estar “profundamente arrependido” por não ter comunicado as forças de segurança sobre o caso e afirmou que o pedido de desculpas tardio buscou respeitar o período de luto dos moradores de Tumbler Ridge. O primeiro-ministro da província da Colúmbia Britânica, David Eby, considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados para monitorar e moderar conteúdos em tempo real, podendo restringir ou banir contas que violem suas políticas, que incluem a proibição de exploração sexual, autolesão, suicídio e promoção de violência. Em casos graves, alertas são enviados para revisão humana, que pode encaminhar informações às autoridades policiais se identificada uma ameaça credível.

Após o ataque, o governo canadense solicitou reuniões com a equipe de segurança da OpenAI e ameaçou implementar ações regulatórias caso as medidas de prevenção não fossem aprimoradas. Em resposta, a empresa afirmou que fortalecerá seus protocolos de segurança e criou um canal direto de comunicação com a polícia local.

A carta de Altman também destacou o compromisso da OpenAI em trabalhar junto aos governos para evitar novos incidentes semelhantes. “Nosso foco será garantir que algo assim nunca aconteça novamente”, escreveu o CEO.

Paralelamente, a família de uma das vítimas, uma menina ferida gravemente no tiroteio, entrou com uma ação judicial contra a OpenAI, alegando negligência. Segundo o processo, a empresa teria conhecimento dos planos da atiradora para cometer mortes em massa e não tomou nenhuma providência para impedir o crime.

O caso levanta questionamentos sobre a responsabilidade das empresas de tecnologia na detecção e comunicação de ameaças potenciais, além do papel dos sistemas de moderação automatizada na prevenção de atos violentos.

Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio, Tumbler Ridge, ChatGPT, ataque em massa, segurança digital, moderação de conteúdo, denúncia de violência, ação judicial, tecnologia e responsabilidade.

Fonte: g1.globo.com