Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque perpetrado por uma ex-usuária do ChatGPT que matou oito pessoas em fevereiro. A admissão ocorreu após críticas sobre a falta de alerta da empresa às autoridades sobre sinais preocupantes detectados na plataforma.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária em Tumbler Ridge, na Colúmbia Britânica, e abrir fogo. Ela matou cinco crianças e um professor, e depois tirou a própria vida. A tragédia deixou dez mortos e 25 feridos.

A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior, por meio de seus sistemas automáticos de moderação, e banido a usuária do ChatGPT oito meses antes do ataque. A empresa explicou que não notificou a polícia canadense porque considerou que a atividade da conta não era grave o suficiente para justificar um encaminhamento.

Em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman disse estar “profundamente arrependido” por a OpenAI não ter alertado as autoridades na época do banimento. Ele destacou que, mesmo sabendo que palavras são insuficientes, o pedido de desculpas é necessário diante do dano causado à comunidade.

David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses haviam convocado a equipe de segurança da OpenAI após o ataque e ameaçaram aplicar ações regulatórias caso a empresa não reforçasse seus mecanismos de segurança.

A OpenAI explicou que seus sistemas de moderação automatizados analisam conteúdos em tempo real e podem banir contas que violam regras, incluindo exploração sexual, incentivo à automutilação e promoção de violência. Em casos considerados graves, as ameaças são sinalizadas para avaliação humana, e dados podem ser compartilhados com a polícia.

Após o incidente, a empresa afirmou que criou um canal de comunicação direto com as autoridades e se comprometeu a melhorar suas medidas de segurança. Altman ressaltou o compromisso da OpenAI em colaborar com governos para evitar tragédias similares no futuro.

Familiares de uma menina que ficou gravemente ferida no ataque entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento de que a suspeita planejava um “evento com mortes em massa”, mas não tomou providências para impedir o ataque.

O caso levanta debates sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos potencialmente perigosos e a cooperação com autoridades para prevenir incidentes violentos.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, ataque a tiros, tecnologia e segurança, responsabilidade corporativa.

Fonte: g1.globo.com