Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT que cometeu um tiroteio em massa em fevereiro. O ataque deixou dez mortos, incluindo a autora, e 25 feridos na Colúmbia Britânica.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola local, onde matou cinco estudantes e um professor. Após o ataque, ela tirou a própria vida. A OpenAI confirmou ter identificado a usuária por meio de seus sistemas de detecção de abuso e banido sua conta em junho do ano anterior, oito meses antes da tragédia.

Sam Altman admitiu ter se arrependido por não ter comunicado as autoridades canadenses sobre a conta banida. Ele explicou que a decisão de não alertar a polícia ocorreu porque a atividade da usuária não foi considerada grave o suficiente para um relatório oficial na época. O pedido de desculpas foi divulgado apenas em abril, quando Altman afirmou ter esperado para respeitar o luto da comunidade de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, qualificou a desculpa de Altman como “necessária, porém grosseiramente insuficiente”. Autoridades canadenses também convocaram a equipe de segurança da OpenAI e indicaram que podem adotar medidas regulatórias caso a empresa não fortaleça suas práticas de segurança.

A OpenAI informou que utiliza sistemas automatizados para moderação em tempo real e pode restringir ou banir contas que violam regras relacionadas a exploração sexual, automutilação, suicídio ou promoção de violência. Em casos graves, a empresa afirma realizar revisões humanas e compartilhar informações relevantes com as autoridades.

Na carta enviada a Eby, Altman afirmou que a companhia está comprometida em colaborar com governos para evitar ocorrências semelhantes no futuro. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, disse.

Familiares de uma das vítimas entraram com ação judicial contra a OpenAI, alegando negligência e afirmando que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou providências adequadas.

O episódio levantou discussões sobre a responsabilidade de plataformas de inteligência artificial na identificação e comunicação de ameaças. A OpenAI se comprometeu a reforçar as medidas de segurança e criou um canal direto de comunicação com a polícia local para futuros casos de alto risco.

Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, violência, segurança digital, denúncia automática, responsabilidade, tecnologia, inteligência artificial.

Fonte: g1.globo.com