Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado a polícia sobre conteúdos preocupantes vinculados a uma usuária do ChatGPT que, em fevereiro, cometeu um ataque a tiros que resultou em nove mortes, incluindo a dela própria. A ação da jovem transgênera de 18 anos, que matou familiares e pessoas em uma escola local, levantou questionamentos sobre a responsabilidade das plataformas digitais em prevenir atos de violência.

No dia 10 de fevereiro, a mulher assassinou a mãe e o meio-irmão em casa, depois seguiu para uma escola secundária onde matou cinco estudantes e um professor, antes de tirar a própria vida. A conta dela no ChatGPT foi banida pela OpenAI em junho do ano anterior, após detecção de conteúdos de risco pelo sistema automatizado da empresa. Apesar disso, a OpenAI não comunicou as autoridades canadenses, alegando que o comportamento não configurava ameaça suficiente para notificação.

Sam Altman reconheceu o erro e afirmou estar “profundamente arrependido” pela falha em alertar a polícia, em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, divulgada em 24 de abril. Altman explicou que o atraso na declaração ocorreu para respeitar o período de luto da comunidade e destacou o compromisso da empresa em melhorar protocolos de segurança e colaboração com órgãos governamentais para evitar novos incidentes.

O primeiro-ministro David Eby qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses convocaram a equipe de segurança da OpenAI e indicaram que ações regulatórias poderão ser aplicadas caso as medidas de prevenção não sejam intensificadas.

A OpenAI utiliza sistemas automatizados que monitoram em tempo real o conteúdo gerado e recebido pelas contas do ChatGPT. Estes sistemas podem restringir ou banir usuários que violem regras relacionadas a exploração sexual, incentivo à automutilação, suicídio ou violência. Em situações de risco elevado, comportamentos suspeitos são avaliados por uma equipe humana, podendo resultar no compartilhamento de informações com autoridades policiais quando houver ameaça concreta.

Familiares de uma criança gravemente ferida no tiroteio entraram com processo judicial contra a OpenAI, alegando negligência da empresa, que teria conhecimento dos planos da suspeita para um “evento com mortes em massa” sem tomar as devidas providências.

Após o ocorrido, a OpenAI reforçou que pretende criar canais diretos para comunicação com forças policiais e trabalhar em conjunto com governos para evitar novas tragédias. Altman finalizou sua carta afirmando que a empresa continuará focada em aprimorar mecanismos de detecção e resposta para proteger comunidades vulneráveis.

—

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, segurança digital, moderação de conteúdo, violência em plataformas, ataques em massa, responsabilidade tecnológica, ação judicial, Colúmbia Britânica, prevenção de violência, monitoramento online.

Fonte: g1.globo.com