Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes no ChatGPT antes de um ataque que resultou em oito mortes em fevereiro. A retratação veio após críticas do governo local, que considerou o pedido insuficiente.

Em 10 de fevereiro, uma jovem de 18 anos matou a mãe e o meio-irmão em casa, depois atirou contra alunos e um professor em uma escola secundária da cidade, provocando seis mortes no local e tirando a própria vida. A mulher havia sido banida do ChatGPT oito meses antes do ataque devido a violações nas regras da plataforma.

A OpenAI informou que identificou a suspeita em junho do ano anterior por meio de seus sistemas automatizados de detecção de abuso e a removeu do chatbot. No entanto, a empresa não comunicou as autoridades policiais canadenses, alegando que o comportamento detectado não justificava um alerta à polícia naquele momento.

Sam Altman afirmou estar “profundamente arrependido” por não ter reportado a situação às autoridades. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse que as palavras não são suficientes, mas que o pedido de desculpas é necessário para reconhecer o impacto irreversível na comunidade de Tumbler Ridge.

David Eby respondeu que o pedido da OpenAI é “necessário, e ainda assim grosseiramente insuficiente”, apontando para a necessidade de ações mais efetivas por parte da empresa para prevenir novos incidentes.

O sistema da OpenAI usa moderação automatizada para analisar conteúdos em tempo real, restringindo ou banindo contas que violam regras relacionadas à exploração sexual, apoio à automutilação, suicídio ou promoção de violência. Em casos graves, o sistema pode sinalizar ameaças para revisão humana e, se necessário, compartilhar dados com autoridades.

Após o tiroteio, autoridades canadenses exigiram que a OpenAI melhorasse suas práticas de segurança e criasse um canal direto de comunicação com a polícia local. A empresa afirmou que fará ajustes para evitar tragédias semelhantes e trabalhará com governos para aumentar a segurança.

Além disso, a família de uma menina gravemente ferida no ataque entrou com ação judicial contra a OpenAI, alegando negligência. Eles sustentam que a empresa tinha conhecimento dos planos da atiradora para um ataque em massa, mas não tomou providências.

O episódio levanta debates sobre a responsabilidade das plataformas digitais no monitoramento de conteúdos que possam indicar riscos reais à segurança pública e evidencia a pressão crescente por regulamentações mais rigorosas no setor.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa, segurança digital, moderação automatizada, responsabilidade tecnológica, ação judicial, Colúmbia Britânica.

Fonte: g1.globo.com