Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes produzidos por uma ex-usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque. O pedido foi feito mais de dois meses após a tragédia e motivado pelo reconhecimento da gravidade da situação.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola secundária em Tumbler Ridge, na Colúmbia Britânica. A agressora matou cinco crianças e um professor antes de tirar a própria vida. O ataque deixou 10 mortos e 25 feridos.

A OpenAI afirmou ter identificado a conta da suspeita por meio de seus sistemas de moderação em junho do ano anterior, quando a baniram do chatbot. A empresa não comunicou a polícia na época porque considerou que a atividade não era grave o suficiente para justificar o encaminhamento aos órgãos de segurança pública.

Altman enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, manifestando arrependimento. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, escreveu. Eby considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”.

O CEO da OpenAI justificou o atraso no pedido de desculpas para respeitar o luto das vítimas e da comunidade local. Ele afirmou que a empresa está comprometida em melhorar seus processos para prevenir eventos semelhantes no futuro e prometeu trabalhar com governos para reforçar a segurança.

A OpenAI utiliza sistemas automatizados para moderar conteúdos do ChatGPT em tempo real. Esses sistemas identificam e restringem contas que violam regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em casos de ameaça grave, a empresa pode encaminhar informações às autoridades para investigação.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso não fossem feitas mudanças. Em resposta, a empresa afirmou que iria intensificar suas medidas de segurança e criou um canal de contato direto com a polícia.

Familiares de uma menina gravemente ferida no tiroteio abriram uma ação judicial contra a OpenAI por negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para um “evento com mortes em massa” e não tomou providências.

O caso reforça o debate sobre a responsabilidade de empresas de tecnologia no monitoramento e prevenção de conteúdos que possam gerar riscos reais à segurança pública. A OpenAI indicou que continuará ajustando suas políticas para evitar novas tragédias.

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, Tumbler Ridge, ataque a tiros, polícia, moderação de conteúdo, tiroteio em massa, negligência, segurança digital

Fonte: g1.globo.com