O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que em fevereiro cometeu um ataque a tiros que matou oito pessoas. A empresa havia banido a conta da suspeita oito meses antes, mas não informou as autoridades na época.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola local, onde matou cinco crianças e um professor antes de tirar a própria vida. A OpenAI identificou atividade suspeita na conta da usuária em junho do ano anterior e bloqueou o acesso dela ao chatbot.

Segundo Altman, a OpenAI não repassou informações à polícia porque a atividade detectada não foi considerada grave o suficiente para justificar uma denúncia formal. Ele afirmou estar “profundamente arrependido” pela falha e justificou o pedido de desculpas, divulgado em abril, por respeito ao período de luto da comunidade.

O primeiro-ministro da província da Colúmbia Britânica, David Eby, considerou o pedido de desculpas “necessário, mas grosseiramente insuficiente”. Ele e outras autoridades exigem medidas mais rigorosas para prevenir casos semelhantes no futuro.

A OpenAI utiliza sistemas automatizados para monitorar e moderar conteúdos em tempo real. Essas ferramentas identificam violações das regras, como promoção de violência e apoio à automutilação, e podem levar à restrição ou banimento de contas. Em situações de risco elevado, o sistema sinaliza o caso para revisão humana e, se necessário, compartilha dados com a polícia.

Após o ataque em Tumbler Ridge, autoridades canadenses convocaram a equipe de segurança da OpenAI e advertiram sobre possíveis medidas regulatórias caso a empresa não aprimorasse seus controles. A OpenAI informou que está reforçando suas medidas de segurança e estabeleceu um canal direto de comunicação com as forças policiais.

Em sua carta, Altman afirmou que a empresa está comprometida em trabalhar com governos para evitar futuras tragédias. “Nosso foco continuará sendo colaborar para garantir que algo assim nunca aconteça novamente”, disse ele.

Familiares de uma criança gravemente ferida no tiroteio entraram com uma ação judicial por negligência contra a OpenAI. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para cometer mortes em massa e não tomou providências adequadas.

O caso levanta questões sobre a responsabilidade de plataformas de inteligência artificial na identificação e encaminhamento de ameaças reais. O reforço nos sistemas de monitoramento e a cooperação com autoridades são apontados como medidas essenciais para prevenir novas tragédias.

Palavras-chave para SEO: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, violência online, moderação de conteúdo, responsabilidade da IA, segurança digital, ação judicial.

Fonte: g1.globo.com