O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT antes do ataque que matou oito pessoas em fevereiro. A atacante, banida da plataforma oito meses antes da tragédia, cometeu o tiroteio em uma escola e em uma residência local.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária, onde matou cinco alunos e um professor. Após o ataque, ela tirou a própria vida. A OpenAI afirmou ter identificado a conta da usuária por meio de seus sistemas automatizados de detecção de abuso e banido o acesso ao chatbot em junho do ano anterior.

Em carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, Altman expressou arrependimento por não ter comunicado as autoridades policiais na época do banimento. Ele afirmou que, embora as palavras não revertam a perda, o pedido de desculpas é necessário para reconhecer o impacto na comunidade de Tumbler Ridge.

David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. O primeiro-ministro destacou a necessidade de medidas mais contundentes para evitar que eventos dessa natureza se repitam.

A OpenAI explicou que seus sistemas de moderação analisam conteúdo em tempo real para identificar violações das regras, que incluem exploração sexual, apoio à automutilação, suicídio e promoção de violência. Em casos de risco elevado, o sistema sinaliza o comportamento para revisão humana e pode compartilhar informações com as autoridades.

A empresa argumentou que a atividade da usuária banida não foi considerada grave o suficiente para justificar um alerta formal às forças policiais na época. Após a tragédia, as autoridades canadenses convocaram o time de segurança da OpenAI e advertiram sobre possíveis ações regulatórias caso mudanças não fossem implementadas.

Altman informou que a OpenAI reforçará suas medidas de segurança e criou um canal direto de comunicação com a polícia para melhorar a colaboração em casos futuros. Ele declarou que o foco da empresa é trabalhar junto aos governos para prevenir novas tragédias.

Familiares de uma menina gravemente ferida no tiroteio entraram com ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do plano da atiradora para um ataque com mortes em massa e não tomou providências adequadas.

O caso levou a questionamentos sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos e na prevenção de atos violentos que possam estar relacionados às suas plataformas. A OpenAI mantém que continua em busca de soluções para assegurar que seus sistemas não sejam utilizados para causar danos.

—

Palavras-chave relacionadas para SEO:
Sam Altman, OpenAI, ChatGPT, Tumbler Ridge, tiroteio, Colúmbia Britânica, Canadá, moderação de conteúdo, violência online, pedido de desculpas, ataque em escola, responsabilidade corporativa, segurança digital, prevenção de crimes, ação judicial, sistemas automatizados.

Fonte: g1.globo.com