Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que cometeu um ataque em massa em fevereiro. Altman declarou arrependimento pela falha da empresa em comunicar as autoridades sobre sinais identificados em junho do ano passado.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois entrou em uma escola secundária local e atirou em alunos e um professor, resultando em oito mortes, incluindo a dela própria. O ataque deixou ainda 25 pessoas feridas.

A OpenAI revelou que identificou o perfil da suspeita em junho, oito meses antes do ataque, e baniu a conta por violações das políticas da plataforma. Entretanto, a empresa não comunicou a polícia canadense, alegando que a atividade detectada não caracterizava uma ameaça grave o suficiente para justificar o encaminhamento às autoridades.

Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” por não ter envolvido as forças policiais na época. Ele explicou que o pedido de desculpas foi feito posteriormente para respeitar o luto da comunidade afetada.

Eby definiu o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses convocaram a equipe de segurança da OpenAI para discutir o caso e indicaram que podem tomar medidas regulatórias se as melhorias exigidas não forem implementadas.

A OpenAI explicou que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real, podendo restringir ou banir contas que violem regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em situações graves, os comportamentos são encaminhados para revisão humana, e, se confirmada ameaça crível, dados podem ser compartilhados com órgãos policiais.

Após o incidente, a empresa afirmou que reforçará seus mecanismos de segurança e criou um canal de comunicação direto com a polícia para ações futuras. Altman garantiu o compromisso da OpenAI em colaborar com governos para evitar tragédias semelhantes.

A família de uma vítima ferida no tiroteio ingressou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento do plano da atiradora para um ataque em massa, mas não tomou providências.

O caso levanta discussões sobre a responsabilidade de empresas de tecnologia na prevenção de crimes decorrentes do uso de suas plataformas, especialmente diante do aumento do uso de inteligência artificial e chatbots como o ChatGPT.

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ataque em escola, denúncia de violência, ação judicial, prevenção de crimes online.

Fonte: g1.globo.com