Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado as autoridades sobre conteúdos preocupantes gerados por uma usuária do ChatGPT antes de ela cometer um ataque que matou oito pessoas em fevereiro. A justificativa foi o arrependimento por não ter comunicado a polícia, apesar de a conta da suspeita ter sido banida oito meses antes da tragédia.

O ataque ocorreu em 10 de fevereiro, quando uma mulher de 18 anos matou a mãe e o meio-irmão antes de abrir fogo em uma escola secundária local, onde matou cinco estudantes e um professor, e depois tirou a própria vida. A OpenAI afirmou que identificou e baniu a conta da usuária em junho do ano anterior, após sistemas automatizados detectarem conteúdo abusivo e violação das regras da plataforma.

No entanto, a empresa não comunicou a polícia naquele momento, alegando que a atividade da usuária não parecia grave o suficiente para justificar um encaminhamento. Em carta divulgada na sexta-feira (24), Altman disse estar “profundamente arrependido” por essa decisão e destacou que o pedido de desculpas visava reconhecer o dano e a perda sofridos pela comunidade.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a gravidade da negligência. Autoridades canadenses também convocaram a equipe de segurança da OpenAI após o ataque e alertaram para possíveis ações regulatórias caso medidas não fossem reforçadas.

A OpenAI explicou que utiliza sistemas automatizados para moderação e detecção de comportamento de risco em tempo real, que podem restringir ou banir contas que violem suas regras, incluindo promoção de violência, automutilação e suicídio. Em situações de ameaça crível, os casos devem ser encaminhados para revisão humana e compartilhados com a polícia.

Desde o incidente, a empresa afirmou que está fortalecendo suas medidas de segurança e estabeleceu um canal de contato direto com agências policiais para evitar que casos semelhantes se repitam. Altman reforçou o compromisso da OpenAI em colaborar com governos para prevenir futuras tragédias.

Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles afirmam que a companhia tinha conhecimento dos planos da suspeita para um “evento com mortes em massa” e não tomou providências adequadas para impedir a tragédia.

O episódio levanta debates sobre a responsabilidade das empresas de tecnologia na moderação de conteúdo e no encaminhamento de possíveis ameaças às autoridades competentes. A OpenAI mantém que continuará aprimorando seus sistemas para monitorar e lidar com situações de risco.

Fonte: g1.globo.com