Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, oito meses antes dela cometer um ataque que matou oito pessoas em fevereiro. O pedido ocorreu após pressão das autoridades locais e críticas sobre a resposta da empresa ao caso.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola secundária, onde matou cinco alunos e um professor, antes de tirar a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior, quando a baniram por violações às regras de uso do ChatGPT, porém não fez o reporte às autoridades policiais na época.

Altman afirmou que a empresa não encaminhou os dados à polícia porque a análise interna não indicou gravidade suficiente para tal ação. Ele disse estar “profundamente arrependido” pela falha em alertar as autoridades e justificou o atraso no pedido de desculpas para respeitar o luto da comunidade. O primeiro-ministro da província da Colúmbia Britânica, David Eby, considerou o pedido “necessário, mas ainda grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados de moderação para identificar conteúdos e comportamentos que violam suas políticas, incluindo exploração sexual, apoio à automutilação e promoção de violência. Quando o sistema detecta um risco alto, os casos passam por revisão humana e podem resultar no compartilhamento de informações com autoridades policiais.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e advertiram sobre possíveis ações regulatórias caso não houvesse melhorias. Em resposta, a empresa afirmou que fortaleceria suas medidas de segurança e estabeleceria um canal direto de comunicação com a polícia.

Altman declarou que a OpenAI está comprometida em trabalhar com governos para evitar futuras tragédias semelhantes. A família de uma vítima que sobreviveu ao tiroteio entrou com uma ação judicial por negligência contra a empresa, acusando-a de não ter tomado medidas mesmo sabendo do risco iminente.

O caso levanta questionamentos sobre a responsabilidade das empresas de tecnologia em monitorar e responder a comportamentos perigosos em plataformas de inteligência artificial. A OpenAI enfrenta agora o desafio de ajustar seus protocolos para equilibrar a privacidade dos usuários e a segurança pública.

—

Palavras-chave relacionadas:
OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, ataque a tiros, tiroteio em massa, Canadá, moderação automática, segurança digital, responsabilidade tecnológica, ação judicial, violência em plataforma AI

Fonte: g1.globo.com