Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes postados por uma usuária do ChatGPT, que cometeu um ataque com mortes em fevereiro. A jovem, banida da plataforma oito meses antes da tragédia, matou oito pessoas antes de tirar a própria vida.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária local e matou cinco estudantes e um professor. Após o ataque, a OpenAI revelou que identificou a conta da suspeita em junho do ano anterior e a bloqueou por violações das regras da plataforma.

Sam Altman afirmou que a empresa não notificou a polícia porque o conteúdo da conta da usuária não era considerado grave o suficiente para justificar um alerta às autoridades. Ele enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, na qual demonstrou arrependimento pelo ocorrido e justificou a demora no pedido de desculpas para respeitar o período de luto da comunidade.

O primeiro-ministro David Eby afirmou que o pedido de desculpas foi “necessário, e ainda assim grosseiramente insuficiente”. Após o incidente, autoridades canadenses convocaram a equipe de segurança da OpenAI e exigiram mudanças, ameaçando medidas regulatórias caso as melhorias não fossem implementadas.

A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem restringir ou banir contas que violam regras, como exploração sexual, incentivo à automutilação ou promoção de violência. Em casos de risco elevado, a empresa afirma que realiza revisão humana e pode compartilhar informações com a polícia.

Em resposta às críticas e após o ataque, a OpenAI anunciou o reforço das medidas de segurança e a criação de um canal de comunicação direto com as autoridades policiais para reportar ameaças potenciais.

A família de uma vítima do ataque entrou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento de um plano para um “evento com mortes em massa” e não tomou medidas para impedir.

Sam Altman reafirmou o compromisso da OpenAI em trabalhar com governos para evitar que incidentes semelhantes voltem a ocorrer, destacando a busca por soluções que aumentem a segurança no uso da inteligência artificial.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, segurança digital, moderação de conteúdo, ação judicial, violência online.

Fonte: g1.globo.com