Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque realizado por uma ex-usuária do ChatGPT que deixou oito mortos em fevereiro. O pedido foi feito mais de dois meses depois da tragédia e reconhece a falha da empresa em alertar a polícia sobre sinais preocupantes na atividade da usuária banida do chatbot.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária local, onde matou cinco crianças e um professor. Em seguida, a suspeita tirou a própria vida. Após o ataque, a OpenAI confirmou ter identificado e banido a conta da mulher em junho do ano anterior, mas não comunicou as autoridades por considerar que o conteúdo não justificava uma ação policial.

Altman afirmou estar “profundamente arrependido” por não ter acionado a polícia e explicou que o atraso no pedido de desculpas ocorreu para respeitar o luto da comunidade de Tumbler Ridge. Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, ele reforçou o compromisso de trabalhar com governos para prevenir novos episódios semelhantes.

O primeiro-ministro Eby qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, criticando a postura da empresa diante do ocorrido. O governo canadense também cobrou mudanças nas políticas de segurança da OpenAI, ameaçando medidas regulatórias caso não houvesse melhorias.

A OpenAI informou que utiliza sistemas automatizados de moderação para identificar conteúdos que violem suas regras, incluindo apoio à automutilação, suicídio e promoção de violência. Esses sistemas sinalizam casos graves para revisão humana e, se confirmada uma ameaça crível, podem encaminhar informações às autoridades policiais.

Após o tiroteio, a empresa anunciou o reforço das medidas de segurança e a criação de um canal direto com as forças policiais para facilitar comunicações futuras. Enquanto isso, a família de uma vítima ferida entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado providências mesmo sabendo dos alertas sobre um possível “evento com mortes em massa”.

O episódio reacende o debate sobre a responsabilidade das plataformas de inteligência artificial no monitoramento e prevenção de riscos reais relacionados ao comportamento dos usuários, especialmente quando se trata de conteúdos que indicam perigos potenciais para terceiros.

A OpenAI enfrenta agora pressão para aprimorar suas políticas e garantir que sistemas de detecção atuem de forma eficaz em situações que possam resultar em violência. Ao mesmo tempo, o caso coloca em evidência a necessidade de uma regulamentação mais clara e eficiente para serviços baseados em inteligência artificial.

—

Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, ação judicial, inteligência artificial, violência online, responsabilidade das plataformas, Colúmbia Britânica, prevenção de crimes.

Fonte: g1.globo.com