Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após o ataque, que ocorreu em uma escola e uma residência local.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária, onde matou cinco crianças e um professor, antes de tirar a própria vida. A OpenAI identificou a conta da suspeita e a baniu do ChatGPT em junho do ano anterior, oito meses antes do tiroteio.

Segundo a empresa, a conta foi banida após detectar violações das políticas de uso, mas a atividade não foi considerada grave o suficiente para justificar o encaminhamento às autoridades policiais. Altman afirmou estar “profundamente arrependido” por a empresa não ter reportado o caso às autoridades em tempo hábil.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou as desculpas como “necessárias, e ainda assim grosseiramente insuficientes”. Após o ataque, a OpenAI reforçou suas medidas de segurança e criou um canal de contato direto com a polícia local para prevenir situações semelhantes.

A OpenAI utiliza sistemas automatizados para monitorar e moderar conteúdos no ChatGPT em tempo real. Esses sistemas analisam mensagens para identificar exploração sexual, incentivo à violência, suicídio e automutilação. Comportamentos de alto risco são revisados por humanos e podem levar ao compartilhamento de dados relevantes às autoridades policiais.

Autoridades canadenses convocaram a equipe de segurança da OpenAI após o tiroteio e ameaçaram ações regulatórias caso as melhorias de segurança não fossem implementadas. Altman afirmou na carta enviada ao governo local que a empresa está comprometida em trabalhar com todos os níveis de governo para evitar novos casos.

Além do pedido de desculpas, uma família de uma menina ferida no ataque entrou com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do planejamento de um “evento com mortes em massa” pela atiradora e não tomou providências adequadas.

O episódio reacendeu debates sobre a responsabilidade de plataformas de inteligência artificial na prevenção de atos violentos e os limites da moderação automática frente a ameaças potencialmente graves. A OpenAI afirma que continuará aprimorando seus sistemas e cooperação com autoridades para reduzir os riscos associados.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, segurança digital, ação judicial, inteligência artificial, violência, prevenção, políticas de uso, responsabilidade, sistema automatizado.

Fonte: g1.globo.com