O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre mensagens preocupantes enviadas por uma usuária do ChatGPT que cometeu um ataque em massa em fevereiro, resultando em oito mortes. O pedido foi feito em carta divulgada na sexta-feira (24), dois meses após a tragédia.

Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em sua casa, depois abriu fogo em uma escola secundária local, onde matou cinco estudantes e um professor antes de tirar a própria vida. A OpenAI afirmou que identificou e baniu a conta da suspeita em junho do ano anterior, oito meses antes do ataque, após detectar conteúdos que violavam suas políticas internas.

A empresa informou que não notificou as autoridades canadenses na época porque as mensagens analisadas não atingiam o critério de gravidade para um encaminhamento formal. Altman reconheceu o erro e disse estar “profundamente arrependido” por não ter reportado os sinais de alerta às forças policiais.

O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Ele ressaltou a gravidade do ocorrido e a necessidade de ações concretas para prevenir futuros incidentes.

A tecnologia do ChatGPT usa sistemas automáticos de moderação para analisar conteúdos em tempo real, podendo restringir ou banir contas que violam regras sobre exploração sexual, incentivo a automutilação, suicídio e promoção de violência. Em casos de alto risco, o sistema aciona uma revisão humana e, quando pertinente, compartilha dados com as autoridades.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e sinalizaram a possibilidade de medidas regulatórias caso melhorias não fossem implementadas. A empresa se comprometeu a reforçar seus protocolos de segurança e criar um canal de comunicação direto com a polícia local.

Altman declarou que a OpenAI trabalhará em parceria com diferentes níveis de governo para minimizar riscos e impedir que tragédias semelhantes ocorram no futuro. Ele justificou o atraso no pedido de desculpas para respeitar o período de luto da comunidade de Tumbler Ridge.

Paralelamente, a família de uma das vítimas, uma menina que sobreviveu com ferimentos graves, moveu uma ação judicial contra a empresa por negligência, alegando que a OpenAI tinha conhecimento dos planos da atiradora para cometer um “evento com mortes em massa” e não tomou providências adequadas.

O episódio levanta discussões sobre a responsabilidade das empresas de tecnologia na prevenção de crimes relacionados ao uso de suas plataformas e a eficácia dos mecanismos de denúncia e moderação automatizados.

Palavras-chave: OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, ataque em massa, Colúmbia Britânica, moderação de conteúdo, policiamento digital, tecnologia e segurança, responsabilidade corporativa

Fonte: g1.globo.com