Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária que, em fevereiro, matou oito pessoas em um ataque a tiros. A mulher transgênero de 18 anos foi banida do ChatGPT oito meses antes do incidente, mas a empresa não comunicou as autoridades na época.

No dia 10 de fevereiro, a suspeita matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola local, onde matou cinco alunos e um professor, levando a própria morte em seguida. Após o ataque, a OpenAI revelou que identificou a conta da suspeita em junho do ano anterior e a baniu por violar suas políticas.

A empresa afirmou que não informou a polícia porque as atividades detectadas não foram consideradas graves o suficiente para justificar um alerta formal. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” por não ter compartilhado informações com as autoridades, reconhecendo o impacto irreversível sofrido pela comunidade de Tumbler Ridge.

David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele enfatizou a importância de ações concretas para evitar episódios semelhantes no futuro. Altman justificou o atraso no pedido de desculpas, explicando que queria respeitar o período de luto das vítimas e moradores da cidade.

A OpenAI utiliza sistemas automatizados para moderação de conteúdo em tempo real, capazes de restringir ou banir contas que incentivem violência, suicídio ou exploração sexual. Nessas situações, contas com comportamentos considerados de alto risco são analisadas por humanos, e dados podem ser compartilhados com a polícia se uma ameaça crível for identificada.

Após o ataque, autoridades canadenses reuniram a equipe de segurança da OpenAI e alertaram que tomariam medidas regulatórias caso as práticas não fossem aprimoradas. Em resposta, a empresa anunciou o fortalecimento das medidas de segurança e a criação de um canal de comunicação direto com as autoridades policiais locais.

Na carta, Altman declarou que a OpenAI está comprometida em colaborar com os governos para evitar que tragédias como essa se repitam. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, afirmou.

A família de uma das meninas gravemente feridas no ataque entrou com uma ação judicial contra a OpenAI, alegando negligência. Segundo a denúncia, a empresa tinha conhecimento das intenções da atiradora em promover um “evento com mortes em massa” e não adotou nenhuma medida preventiva.

O episódio ressalta desafios no equilíbrio entre moderação automatizada e responsabilidades legais das plataformas de inteligência artificial diante de suspeitas de violência. O caso continua sob avaliação pelas autoridades e órgãos reguladores.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, moderação de conteúdo, ataque a tiros, violência, denúncia, polícia, segurança digital, responsabilidade tecnologia, ação judicial, Canadá.

Fonte: g1.globo.com