Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que cometeu um ataque em fevereiro, deixando oito mortos. O pedido foi feito após a empresa ter banido a suspeita oito meses antes, mas não ter reportado o caso às autoridades.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária da cidade, onde matou cinco crianças e um professor antes de tirar a própria vida. A tragédia provocou 10 mortes e 25 feridos.

A OpenAI afirmou que identificou e baniu a conta da suspeita em junho do ano passado por meio de seus sistemas automáticos de moderação que detectam abusos no ChatGPT. A empresa explicou que não fez o repasse à polícia na época porque a atividade da usuária não foi avaliada como grave o suficiente para justificar comunicação oficial.

Na carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” pela falha em avisar as autoridades e reconheceu o impacto da tragédia na comunidade de Tumbler Ridge. Ele também justificou o atraso do pedido de desculpas para respeitar o período de luto da população.

David Eby qualificou o pedido de Altman como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses haviam convocado a equipe de segurança da OpenAI após o ataque e ameaçado responder com ações regulatórias caso não houvesse mudanças nas políticas da empresa.

A OpenAI explicou que seus sistemas de moderação funcionam com análise automatizada em tempo real e que, em casos graves, as atividades suspeitas são sinalizadas para revisão humana. Quando uma ameaça crível é identificada, dados relevantes podem ser compartilhados com a polícia.

Em resposta ao incidente, a empresa anunciou que irá reforçar as medidas de segurança e criou um canal de comunicação direta com as autoridades policiais para evitar que tragédias semelhantes se repitam. Altman afirmou que continuarão a trabalhar com diferentes níveis de governo para garantir maior prevenção.

Paralelamente, a família de uma das vítimas feridas no tiroteio apresenta ação judicial contra a OpenAI por negligência. Alegam que a empresa tinha conhecimento dos planos da atiradora para cometer um ataque em massa e não tomou providências para impedir o evento.

O episódio levanta debate sobre a responsabilidade das plataformas de inteligência artificial na prevenção de crimes e o limite de atuação das tecnologias de moderação diante de ameaças potenciais.

Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio, Tumbler Ridge, Canadá, moderação de conteúdo, segurança, denúncia de violência, políticas de segurança, inteligência artificial, responsabilidade social, ataque em massa.

Fonte: g1.globo.com