O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma ex-usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro deste ano. O episódio resultou na morte de oito pessoas, incluindo crianças e um professor.
O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois seguiu para uma escola secundária local e abriu fogo contra estudantes e um professor, causando cinco mortes no local. Em seguida, a atiradora cometeu suicídio.
A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior por meio de seus sistemas de detecção de abusos e banido a usuária do ChatGPT oito meses antes do ataque. A empresa não notificou as autoridades à época, alegando que a atividade da conta não era grave o suficiente para justificar um encaminhamento policial.
Na carta encaminhada ao primeiro-ministro da Colúmbia Britânica, David Eby, Sam Altman disse estar “profundamente arrependido” por não ter alertado a polícia sobre a conta banida em junho. Ele justificou o atraso no pedido de desculpas, feito mais de dois meses após a tragédia, afirmando que queria respeitar o período de luto da comunidade afetada.
O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também convocaram a equipe de segurança da OpenAI após o ataque e ameaçaram usar ações regulatórias caso as medidas de segurança da empresa não fossem reforçadas.
A OpenAI informou que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real, restringindo ou banindo contas que violem regras relacionadas à exploração sexual, automutilação, suicídio, promoção de violência e outros danos. Em casos graves, os sistemas sinalizam condutas de risco para revisão humana e podem compartilhar informações com autoridades policiais se a ameaça for considerada crível.
Após o incidente, a empresa anunciou que reforçaria suas políticas de segurança e criou um canal de contato direto com as autoridades locais para facilitar a comunicação em casos de risco. Sam Altman afirmou que a OpenAI está comprometida em trabalhar com governos para evitar que tragédias semelhantes ocorram.
Além disso, a família de uma menina que ficou gravemente ferida no tiroteio ingressou com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento de que a suspeita planejava um “evento com mortes em massa” e não tomou nenhuma medida para impedir.
O caso reforça o debate sobre a responsabilidade das empresas de tecnologia na detecção e prevenção de potenciais crimes relacionados ao uso de suas plataformas, especialmente no contexto de sistemas de inteligência artificial.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, contenção de abusos, moderação de conteúdo, segurança digital, ação judicial, inteligência artificial, prevenção de violência, sistemas automatizados, responsabilidade corporativa.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
