Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária no ChatGPT que, em fevereiro, matou oito pessoas em um ataque. O pedido foi feito em carta divulgada nesta sexta-feira (24) e acompanha uma manifestação pública de arrependimento pelo episódio.
Em 10 de fevereiro, uma jovem de 18 anos, ex-usuária do ChatGPT, matou a mãe e o meio-irmão em casa antes de abrir fogo numa escola local, onde matou cinco alunos e um professor, e depois cometeu suicídio. A empresa disse ter identificado e banido a conta da suspeita em junho do ano anterior, oito meses antes da tragédia, por violações das regras da plataforma.
A OpenAI declarou que não comunicou as autoridades na época porque as atividades não apresentavam gravidade suficiente para um relatório policial. Sam Altman considerou que o pedido de desculpas era necessário para reconhecer o dano causado à comunidade de Tumbler Ridge, embora tenha sido feito mais de dois meses após o ataque, justificando o respeito ao luto da população local.
O primeiro-ministro da província da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. As autoridades canadenses convocaram a equipe de segurança da OpenAI após o incidente e ameaçaram tomar medidas regulatórias caso não fossem reforçadas as formas de detecção e resposta a situações de risco.
A OpenAI afirmou que utiliza sistemas automatizados para detectar conteúdos que violam suas políticas, como a promoção de violência e automutilação. Quando os sistemas identificam comportamentos de alto risco, a empresa realiza uma revisão humana e pode compartilhar informações relevantes com a polícia. Após o ataque, a empresa criou um canal direto de comunicação com as autoridades locais para agilizar ações futuras.
Em sua carta, Altman afirmou que a OpenAI está comprometida em trabalhar com diferentes níveis de governo para evitar novos casos similares. O CEO reforçou que o foco da empresa será aprimorar suas práticas de segurança e colaboração institucional para proteger as comunidades.
A família de uma das vítimas, uma menina ferida no tiroteio, entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para um ataque em massa, mas não tomou medidas para impedir o crime.
O episódio colocou em debate as responsabilidades das plataformas de inteligência artificial no monitoramento e na prevenção de crimes graves, além do limite entre privacidade dos usuários e segurança pública. A OpenAI enfrenta pressão crescente para aprimorar seus mecanismos de controle e colaborar de forma mais eficaz com as autoridades.
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, ataque em escola, segurança da inteligência artificial, denúncia de violência, ação judicial, moderação de conteúdo.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
