Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido ocorre após críticas ao manejo da situação pela empresa.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola secundária local, onde matou cinco estudantes e um professor, antes de tirar a própria vida. A OpenAI afirmou que havia banido essa usuária do ChatGPT em junho do ano anterior, com base em sistemas de detecção automática de abuso.

A empresa não informou às autoridades na época, pois avaliou que as atividades da conta banida não eram graves o suficiente para justificar um encaminhamento à polícia. Altman declarou estar “profundamente arrependido” por essa decisão e enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, reconhecendo o erro.

Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses pressionaram a OpenAI a revisar suas políticas de segurança, ameaçando medidas regulatórias se mudanças não fossem implementadas.

OpenAI usa sistemas automatizados de moderação que identificam e bloqueiam conteúdos que violam regras contra exploração sexual, automutilação, suicídio e incitação à violência. Para casos de alto risco, o sistema sinaliza para revisão humana, e dados podem ser compartilhados com a polícia caso a ameaça seja considerada credível.

Desde o ataque, a empresa reforçou suas medidas de segurança e criou um canal direto de comunicação com as autoridades policiais. Altman afirmou na carta que a OpenAI buscará colaborar com governos para evitar novas tragédias.

A família de uma menina gravemente ferida no tiroteio entrou com ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado medidas diante do planejamento de um “evento com mortes em massa” pela suspeita.

O caso levanta questões sobre a responsabilidade das plataformas de inteligência artificial na prevenção de crimes e a eficácia dos mecanismos de moderação automáticos na identificação e encaminhamento de riscos reais às autoridades. A discussão sobre regulação do setor tecnológico ganha espaço diante desses episódios.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, moderação de conteúdo, ataque em escola, segurança digital, responsabilidade AI, denúncia automática, ação judicial, prevenção de violência, comunicação com autoridades.

Fonte: g1.globo.com