Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT, que matou oito pessoas em um ataque em fevereiro. A escreveu a mensagem mais de dois meses após a tragédia, destacando arrependimento pela falta de comunicação com as autoridades.

No ataque, ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, onde matou cinco crianças e um professor, antes de tirar a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior pela OpenAI, que identificou sua conta por meio de sistemas de detecção de abuso, mas não informou a polícia.

Em sua carta ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou que a atividade da usuária não foi considerada grave o suficiente para notificar as autoridades na época. O pedido de desculpas foi classificado por Eby como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI explicou que seus sistemas de moderação analisam conteúdos em tempo real, restringindo ou banindo contas que violem regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em situações de alto risco, comportamentos suspeitos são revisados por humanos e dados relevantes podem ser compartilhados com a polícia.

Após a tragédia, autoridades canadenses reuniram-se com a equipe de segurança da OpenAI e ameaçaram sanções regulatórias caso medidas mais rígidas não fossem adotadas. A empresa informou que reforçaria suas políticas e criou um canal de comunicação direto com as forças policiais para futuras ocorrências.

Altman destacou no comunicado que a OpenAI está comprometida em trabalhar com governos para evitar novos incidentes do tipo. Ele reconheceu a dor da comunidade de Tumbler Ridge e justificou o atraso no pedido de desculpas para respeitar o período de luto dos moradores.

Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Segundo eles, a empresa tinha conhecimento de que a atiradora planejava um ataque com mortes em massa, mas não adotou medidas preventivas.

O caso levanta questionamentos sobre a responsabilidade das plataformas digitais na identificação e comunicação de ameaças reais às autoridades. A OpenAI afirmou que segue aprimorando seus sistemas de segurança para responder de forma mais eficaz a comportamentos de risco.

Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, ataque no Canadá, moderação de conteúdo, segurança digital, denúncia de violência, responsabilidade das plataformas.

Fonte: g1.globo.com