O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais preocupantes apresentados por uma ex-usuária do ChatGPT antes do tiroteio que matou oito pessoas em fevereiro. A tragédia ocorreu na Colúmbia Britânica, onde uma jovem de 18 anos cometeu o ataque e posteriormente tirou a própria vida.
Em carta dirigida ao primeiro-ministro da província, David Eby, Altman afirmou estar “profundamente arrependido” pela falha da empresa em relatar à polícia a conta banida em junho do ano anterior, oito meses antes do ataque. O pedido de desculpas foi divulgado em 24 de abril e justificado pela intenção de respeitar o luto dos habitantes de Tumbler Ridge.
A atiradora assassinou a mãe e um meio-irmão em casa antes de seguir para uma escola secundária local, onde matou cinco crianças e um professor. Após o massacre, a OpenAI informou que identificou a conta da suspeita por meio de seus sistemas automatizados de moderação e a desativou por violação das políticas internas, mas não alertou as autoridades, pois considerou que a atividade não configurava ameaça grave suficiente.
O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, destacando a gravidade da negligência da companhia em relação à prevenção do crime.
A OpenAI explicou que utiliza sistemas que analisam conteúdos em tempo real para detectar e restringir contas que promovem exploração sexual, suicídio, automutilação ou violência. Em casos de risco elevado, as informações são avaliadas por humanos e, se a ameaça for confirmada, podem ser encaminhadas às autoridades policiais.
Após o ocorrido, o governo canadense convocou a equipe de segurança da OpenAI e ameaçou impor ações regulatórias se as medidas de segurança não fossem aprimoradas. A empresa anunciou que criou um canal de comunicação direto com a polícia e intensificará o monitoramento de comportamentos de alto risco.
Sam Altman ressaltou que a OpenAI está comprometida a trabalhar com diferentes níveis governamentais para evitar novas tragédias desse tipo. “Nosso foco continuará sendo encontrar formas para que algo assim nunca aconteça novamente”, afirmou.
Além das medidas internas, a família de uma criança gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. O processo acusa a empresa de ter conhecimento dos planos da atiradora para cometer um “evento com mortes em massa” e não ter tomado providências para impedir o ataque.
O episódio reforça o debate sobre os limites e responsabilidades das tecnologias de inteligência artificial na identificação e prevenção de comportamentos violentos. Especialistas apontam a necessidade de regulamentação mais rigorosa e maior transparência na forma como empresas de IA lidam com conteúdos potencialmente perigosos.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio, ChatGPT, Tumbler Ridge, Colúmbia Britânica, Canadá, pedido de desculpas, moderação de conteúdo, responsabilidade de IA, violência em massa, segurança digital, ação judicial, prevenção de crimes, sistemas automatizados.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
