Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado à polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes dela cometer um ataque em fevereiro que resultou em oito mortes. O pedido foi feito por meio de uma carta divulgada em 24 de abril, mais de dois meses após a tragédia.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola local onde matou cinco crianças e um professor, e em seguida tirou a própria vida. A OpenAI afirmou ter identificado e banido a conta da suspeita em junho do ano anterior, oito meses antes do ataque.

A empresa justificou a decisão de não alertar as autoridades na época alegando que a atividade detectada não era grave o suficiente para ser reportada. Altman afirmou que seu pedido de desculpas é uma forma de reconhecer o dano sofrido pela comunidade de Tumbler Ridge e que as palavras não são suficientes diante da perda.

A província canadense da Colúmbia Britânica, representada pelo primeiro-ministro David Eby, classificou o pedido de desculpas como necessário, mas “grosseiramente insuficiente”. Autoridades locais também pressionaram a OpenAI para adotar medidas mais rígidas de segurança após o evento.

A OpenAI explicou que utiliza sistemas automatizados para detectar e moderar conteúdos em tempo real no ChatGPT. Esses sistemas restringem ou banem contas que violam regras, especialmente em casos relacionados a exploração sexual, automutilação, suicídio, violência e promoção de danos. Quando sinais de alto risco são identificados, o caso passa por revisão humana e pode ser reportado às autoridades, segundo a empresa.

Após o ataque, a OpenAI afirma ter reforçado suas medidas de segurança e criado um canal direto de comunicação com a polícia canadense. Altman ressaltou o compromisso da empresa em trabalhar com todos os níveis de governo para evitar que tragédias semelhantes aconteçam novamente.

Além disso, a família de uma das vítimas entrou com uma ação judicial contra a OpenAI, alegando negligência. Segundo o processo, a empresa teria conhecimento dos planos da suspeita para um ataque com múltiplas vítimas, mas não tomou providências adequadas.

O episódio levanta debates sobre o papel das plataformas de inteligência artificial na prevenção de crimes e sobre a responsabilidade das empresas em reportar ameaças identificadas em seus sistemas. A OpenAI permanece sob pressão para aprimorar seus mecanismos de detecção e cooperação com as autoridades.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, denúncia de violência, moderação de conteúdo, responsabilidade de empresas de IA, segurança digital, ação judicial, prevenção de crimes.

Fonte: g1.globo.com