Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes em uma conta do ChatGPT antes de um ataque que deixou oito mortos em fevereiro. A resposta veio após pressão das autoridades locais e envolve o uso de sistemas de moderação da empresa.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois matou cinco estudantes e um professor em uma escola secundária de Tumbler Ridge, na Colúmbia Britânica, e, por fim, tirou a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior, banindo-a do ChatGPT.

Segundo a empresa, a conta foi removida por violar regras internas que envolvem conteúdos relacionados a violência. No entanto, a empresa não comunicou a polícia canadense, afirmando que a atividade não tinha gravidade suficiente para justificar o repasse das informações.

Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman declarou estar “profundamente arrependido” pela falha em alertar as autoridades. Ele justificou a demora do pedido público em mais de dois meses como uma forma de respeitar o período de luto da comunidade afetada.

O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”, enfatizando a gravidade do ocorrido e a necessidade de ações efetivas por parte da OpenAI para evitar novos incidentes.

A OpenAI informou que utiliza sistemas automatizados que monitoram conteúdos em tempo real no ChatGPT, podendo banir contas que promovam violência, automutilação, suicídio ou exploração sexual. Quando ameaças graves são detectadas, os casos são revisados por humanos e, em situações de risco comprovado, dados podem ser compartilhados com a polícia.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e indicaram a possibilidade de medidas regulatórias caso as práticas de segurança não fossem atualizadas. A empresa respondeu afirmando que intensificaria suas medidas e estabeleceria um canal de contato direto com a polícia local.

Além disso, a OpenAI comprometeu-se a colaborar com governos para prevenir eventos similares. Na carta, Altman destacou o foco em parcerias para garantir que tragédias como essa não se repitam.

A família de uma criança que ficou gravemente ferida no ataque move uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para cometer um massacre e não tomou providências adequadas.

O episódio destaca os desafios enfrentados por empresas de inteligência artificial em monitorar e agir diante de conteúdos potencialmente perigosos. A situação em Tumbler Ridge levantou debates sobre a responsabilidade das plataformas digitais no enfrentamento de ameaças reais.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, violência online, segurança digital, ação judicial, responsabilidade tecnológica.

Fonte: g1.globo.com