O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma ex-usuária do ChatGPT antes de ela cometer um ataque a tiros que matou oito pessoas em fevereiro. A empresa afirma que a usuária foi banida do chatbot oito meses antes da tragédia, mas não comunicou as autoridades na ocasião.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior e a excluiu por violar regras, mas considerou que a atividade não era grave o suficiente para ser reportada à polícia.
Sam Altman enviou uma carta ao primeiro-ministro da província da Colúmbia Britânica, David Eby, expressando arrependimento pela falha. Ele afirmou que o pedido de desculpas, embora tardio, era necessário para reconhecer o sofrimento da comunidade. Altman também explicou que aguardou para respeitar o período de luto dos moradores de Tumbler Ridge.
David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses pressionaram a OpenAI para que aumentasse suas medidas de segurança, sob risco de sanções regulatórias. A empresa respondeu anunciando reforço em seus sistemas e a criação de um canal direto com a polícia.
A OpenAI informa que usa sistemas automatizados de moderação para analisar conteúdos em tempo real e pode restringir ou banir contas que violem as regras, incluindo temas como exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Esses sistemas também sinalizam casos de alto risco para revisão humana, com possibilidade de repasse de dados às autoridades quando uma ameaça é considerada crível.
Em sua carta, Altman afirmou que a empresa está comprometida em trabalhar com governos para evitar tragédias semelhantes. Enquanto isso, a família de uma menina gravemente ferida no ataque entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado medidas após identificar que a suspeita planejava um “evento com mortes em massa”.
O incidente reforça as discussões sobre a responsabilidade das empresas de tecnologia no monitoramento de conteúdos que possam indicar ameaças à segurança pública e os limites entre privacidade e prevenção de crimes.
Palavras-chave relacionadas (para SEO): Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, polícia, denúncia, sistema de moderação, ataque armado, negligência, ação judicial, segurança digital.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
