Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária que, em fevereiro, realizou um ataque com arma de fogo que matou oito pessoas. A informação foi divulgada nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa antes de ir a uma escola local, onde matou cinco crianças e um professor, e logo depois tirou a própria vida. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, após a detecção de atividades que violavam as regras da plataforma.

Altman afirmou que a OpenAI identificou e bloqueou a conta da suspeita em junho do ano anterior, mas não comunicou as autoridades policiais por considerar que o conteúdo não justificava um alerta formal. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, o ex-CEO demonstrou arrependimento pela decisão.

“Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida”, escreveu Altman. Ele explicou que aguardou mais de dois meses para se pronunciar para respeitar o luto da comunidade de Tumbler Ridge.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses exigiram que a OpenAI reforçasse seus protocolos de segurança e criasse um canal direto com a polícia para o compartilhamento de informações.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real para identificar possíveis violações, como exploração sexual, incentivo à automutilação, suicídio, violência e danos. Em casos graves, o material é revisado por humanos e pode levar à comunicação das autoridades.

Após o ataque, a empresa afirmou que irá intensificar suas medidas de segurança para evitar incidentes semelhantes no futuro. Sam Altman declarou o compromisso da OpenAI em colaborar com os governos para prevenir tragédias desse tipo.

Familiares de uma menina que ficou gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento de planos para um “evento com mortes em massa” e não tomou providências.

A situação reforça o debate sobre a responsabilidade das plataformas digitais na prevenção de crimes e na comunicação com órgãos de segurança pública.

Palavras-chave relacionadas: OpenAI, Sam Altman, Tumbler Ridge, ataque a tiros, ChatGPT, denúncia de violência, moderação de conteúdo, segurança digital, Canadá, responsabilidade de tecnologia, ação judicial, Colúmbia Britânica.

Fonte: g1.globo.com