Sam Altman, CEO da OpenAI, pediu desculpas à comunidade de

Sam Altman, CEO da OpenAI, pediu desculpas à comunidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT oito meses antes de um tiroteio que matou oito pessoas em fevereiro. A empresa havia banido a conta da suspeita em junho do ano anterior, mas não comunicou as autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, atirou em uma escola local, onde matou cinco estudantes e um professor antes de tirar a própria vida. A OpenAI afirmou que seu sistema de moderação detectou a conta da suspeita por atividades abusivas, levando ao bloqueio da usuária em junho. A empresa não informou a polícia, considerando que a ameaça não era grave o suficiente naquele momento.

Sam Altman declarou em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, estar “profundamente arrependido” por não ter acionado as autoridades. Ele afirmou que o pedido de desculpas, divulgado em 24 de abril, reconhece o dano e a perda sofridos pela comunidade de Tumbler Ridge. Altman justificou o atraso do comunicado dizendo que buscava respeitar o período de luto dos moradores.

David Eby avaliou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e alertaram que poderiam adotar ações regulatórias se não houvesse reforço nas medidas de segurança. A OpenAI afirmou que pretende fortalecer seus controles internos e estabeleceu um canal direto de comunicação com a polícia local.

A OpenAI informou que seus sistemas automatizados de moderação monitoram em tempo real conteúdos relacionados a abusos, promoção de violência, suicídio e outros comportamentos nocivos. Contas que violem as regras podem ser suspensas ou banidas. Em casos de risco elevado, essas situações são revisadas por humanos e, se confirmadas como ameaças reais, os dados podem ser compartilhados com as autoridades competentes.

Além das medidas anunciadas, a empresa afirmou que continuará trabalhando com diferentes níveis de governo para prevenir eventos semelhantes no futuro. Entretanto, a família de uma menina ferida no ataque abriu uma ação judicial por negligência contra a OpenAI, alegando que a empresa tinha conhecimento do planejamento da atiradora para um ataque em massa e não tomou providências adequadas.

O episódio reacende o debate sobre o uso de inteligência artificial e a responsabilidade das empresas em monitorar e reportar riscos potencialmente graves à segurança pública. A OpenAI enfrenta pressão para aprimorar seus sistemas de detecção e responder com maior rapidez a conteúdos suspeitos que sugiram violência ou tragédias iminentes.

—

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, segurança pública, moderação de conteúdo, inteligência artificial, responsabilidade corporativa.

Fonte: g1.globo.com