O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter comunicado à polícia conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A empresa banira a suspeita oito meses antes do ocorrido, mas não acionou as autoridades, alegando que as evidências não justificavam o alerta.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local, onde matou cinco crianças e um professor, e posteriormente tirou a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior por meio de seus sistemas automatizados de moderação e a baniu por violar regras do chatbot.
Embora a empresa tenha mecanismos para detectar conteúdos de risco e sinalizar ameaças às autoridades, a conta da usuária não foi reportada à polícia na época. Altman afirmou em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, que se arrepende de não ter feito o alerta e reconheceu os danos causados à comunidade de Tumbler Ridge.
O primeiro-ministro canadense qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Altman justificou o atraso no pedido para respeitar o luto da comunidade local. Ele também garantiu que a OpenAI pretende aprimorar seus protocolos para evitar incidentes semelhantes e trabalha em parceria com governos para aprimorar a segurança.
A OpenAI esclareceu que seus sistemas avaliam conteúdos em tempo real, restringindo ou banindo contas que violem regras contra exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos graves, o sistema encaminha os dados para revisão humana e, se necessário, para autoridades policiais.
Após o tiroteio, autoridades canadenses convocaram a equipe de segurança da OpenAI e indicaram que poderão adotar medidas regulatórias caso a empresa não aperfeiçoe suas práticas. Em resposta, a OpenAI criou um canal direto de comunicação com a polícia.
Familiares de uma menina que ficou gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência por parte da empresa. Eles afirmam que a empresa sabia dos planos da atiradora para um evento com mortes em massa, mas não tomou providências.
O caso reforça o debate sobre a responsabilidade das plataformas digitais na prevenção de crimes e o papel das tecnologias de moderação de conteúdo na segurança pública. A OpenAI afirmou estar comprometida em revisar seus processos para evitar que tragédias semelhantes voltem a ocorrer.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, pedido de desculpas, tiroteio Canadá, ChatGPT, moderação de conteúdo, segurança digital, denúncia de violência, ataque em escola, ação judicial, responsabilidade tecnológica, prevenção de crimes online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
