Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia a respeito de conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi divulgado em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola local, onde disparou contra alunos e um professor, causando cinco mortes e o suicídio da própria agressora. A OpenAI afirmou ter identificado e banido a conta dela do ChatGPT oito meses antes do ataque, em junho do ano anterior.

Apesar do banimento, a empresa não informou as autoridades na época, alegando que a atividade detectada não justificava um reporte policial. Altman reconheceu o erro e se disse “profundamente arrependido” por não ter acionado a polícia. Ele afirmou ainda que o pedido de desculpas foi feito após um tempo para respeitar o luto da comunidade.

A Colúmbia Britânica, por meio do primeiro-ministro David Eby, considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses reuniram-se com a equipe de segurança da OpenAI para exigir mudanças e condicionaram a adoção de medidas regulatórias caso as ações não fossem efetivas.

A OpenAI utiliza sistemas automatizados para moderação de conteúdo, que monitoram e bloqueiam comportamentos que violam as regras, como incentivo à violência e autopropagação de danos. Em casos graves, conteúdos são revisados por humanos e podem resultar no compartilhamento de dados com a polícia, segundo a empresa.

Após o episódio, a OpenAI anunciou que planeja reforçar suas medidas de segurança e criou um canal direto de contato com autoridades policiais para melhorar a resposta a ameaças. Altman afirmou que a empresa está comprometida em trabalhar com os governos para evitar futuras tragédias.

Uma família de vítima que ficou gravemente ferida no ataque iniciou uma ação judicial contra a OpenAI, alegando negligência e afirmando que a empresa tinha conhecimento do planejamento da atiradora para um “evento com mortes em massa” e não tomou providências.

O caso levanta questionamentos sobre a responsabilidade das empresas de tecnologia no monitoramento e na comunicação de conteúdos e comportamentos potencialmente perigosos gerados em suas plataformas.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, violência online, denúncia de abuso, segurança digital, responsabilidade tecnológica, moderação de conteúdo.

Fonte: g1.globo.com