Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido ocorreu após denúncias de que a empresa havia banido a suspeita meses antes, mas não comunicou as autoridades.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, matando cinco crianças e um professor, e em seguida cometeu suicídio. A OpenAI identificou a conta da suspeita e a baniu em junho do ano anterior, oito meses antes do ataque. A empresa alegou que, na época, a atividade da usuária não justificava a notificação às autoridades.

Sam Altman, em carta divulgada no dia 24 de abril, declarou estar “profundamente arrependido” pela falha em informar a polícia. Ele afirmou que o pedido de desculpas, embora tardio, buscou respeitar o luto da comunidade de Tumbler Ridge. O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido “necessário, mas ainda insuficiente.”

A OpenAI utiliza sistemas automatizados de moderação para monitorar o uso do ChatGPT em tempo real. Contas podem ser suspensas ou banidas por violar regras, como promoção de violência, suicídio e exploração sexual. Em casos graves, comportamentos de alto risco são encaminhados para revisão humana, e os dados podem ser compartilhados com autoridades policiais.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso as medidas de segurança não fossem reforçadas. A empresa anunciou a criação de um canal de comunicação direto com a polícia e prometeu aprimorar seus controles para prevenir situações semelhantes.

A carta de Altman ressaltou o compromisso da empresa em trabalhar com governos para evitar tragédias futuras. “Nosso foco continuará sendo a colaboração com todos os níveis de governo para garantir que algo assim não aconteça novamente”, afirmou.

Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI. Eles alegam negligência da empresa, afirmando que esta sabia do plano da atiradora para um “evento com mortes em massa” e não tomou providências.

O caso levanta questões sobre a responsabilidade das empresas de tecnologia na prevenção de conteúdos perigosos em suas plataformas e a efetividade dos sistemas de monitoramento atualmente empregados.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilidade corporativa, policiamento de IA, violência online, ação judicial, prevenção a tragédias.

Fonte: g1.globo.com