Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária que, oito meses depois, cometeu um ataque a tiros que deixou oito mortos em fevereiro. O pedido foi feito em carta divulgada nesta sexta-feira (24).

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão antes de abrir fogo em uma escola secundária local, onde matou cinco crianças e um professor, e em seguida tirou a própria vida. A OpenAI afirmou ter banido a usuária do ChatGPT em junho do ano anterior após identificar comportamento suspeito nos sistemas de moderação.

A empresa optou por não notificar a polícia na época, alegando que a atividade não era grave o suficiente para justificar o encaminhamento às autoridades. Em sua carta, Altman expressou arrependimento pela decisão e ressaltou que o pedido de desculpas busca reconhecer os danos causados à comunidade de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Ele defendeu a necessidade de medidas mais rigorosas para prevenir futuros incidentes.

A OpenAI utiliza sistemas automatizados que analisam conteúdos em tempo real para identificar violações das regras de uso, como promoção de violência, automutilação ou suicídio. Em casos de risco elevado, há revisão humana e possibilidade de compartilhamento de informações com autoridades policiais.

Após o ataque, representantes canadenses reuniram-se com a equipe de segurança da OpenAI e exigiram melhorias regulatórias. A empresa anunciou a criação de um canal direto de comunicação com a polícia e o compromisso de reforçar suas medidas de segurança.

Familiares de uma menina que ficou gravemente ferida no tiroteio entraram com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do plano da atiradora para um ataque em massa, mas não tomou providências.

Altman afirmou que a empresa está comprometida em colaborar com governos para evitar que tragédias semelhantes ocorram novamente. Ele destacou que a prioridade da OpenAI é garantir maior segurança na moderação de seus serviços.

O caso evidencia o desafio das empresas de inteligência artificial em equilibrar moderação de conteúdo e responsabilidades perante potenciais ameaças à segurança pública.

—

Palavras-chave relacionadas para SEO:
OpenAI, Sam Altman, ChatGPT, ataque a tiros Canadá, tiroteio em massa, Tumbler Ridge, moderação de conteúdo, segurança em IA, negligência empresa tecnologia, legislação IA, responsabilidade policial.

Fonte: g1.globo.com