Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes publicados por uma ex-usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque armado. O episódio motivou um debate sobre a responsabilidade da empresa em casos de violência envolvendo usuários da sua tecnologia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa. Em seguida, ela abriu fogo em uma escola secundária local, matando cinco estudantes e um professor antes de tirar a própria vida. A situação resultou em 10 mortos e 25 feridos.

A OpenAI havia identificado e banido a conta da suspeita em junho do ano anterior, oito meses antes do ataque, por meio de seus sistemas automatizados de detecção de abuso. No entanto, a empresa não comunicou o caso às autoridades canadenses, alegando que as atividades não configuravam ameaça grave o suficiente para justificar um alerta policial.

Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman expressou “profundo arrependimento” pela falta de notificação às autoridades. Ele justificou o pedido de desculpas, divulgado em abril, como uma forma de reconhecer o sofrimento da comunidade de Tumbler Ridge e afirmou que a empresa está empenhada em evitar futuros incidentes.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais exigem mudanças mais efetivas nas práticas da OpenAI, especialmente no monitoramento e resposta a conteúdos suspeitos que possam indicar riscos de violência.

A OpenAI utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real. Essas ferramentas podem restringir ou banir contas que violam regras relacionadas a exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos graves, o sistema sinaliza comportamentos para revisão humana e, se confirmada a ameaça, a empresa pode encaminhar informações às autoridades.

Após o ataque, representantes da segurança da OpenAI foram convocados pelas autoridades canadenses, que ameaçaram ações regulatórias caso a empresa não implementasse mudanças. A OpenAI afirmou que reforçará seus protocolos de segurança e criou um canal de comunicação direto com a polícia para futuros casos.

Além das medidas da empresa, uma família de uma vítima ferida no tiroteio entrou com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa conhecia os planos da atiradora para cometer um ataque em massa, mas não tomou providências para impedir a tragédia.

O episódio reacende o debate sobre o papel das empresas de inteligência artificial no monitoramento de ameaças e na colaboração com autoridades para prevenir atos de violência. Altman reforçou o compromisso da OpenAI em trabalhar com governos para evitar que incidentes similares ocorram novamente.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, ataque em massa, Tumbler Ridge, tiroteio, Colúmbia Britânica, moderação de conteúdo, violência, responsabilidade de IA, segurança digital, ação judicial, sistema de detecção, denúncia automática, resposta a ameaças.

Fonte: g1.globo.com