O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, deixando oito mortos. O pedido foi feito mais de dois meses após a tragédia, que ocorreu na Colúmbia Britânica.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária local e abrir fogo contra alunos e um professor. Ao todo, cinco crianças e um professor morreram no local, e a atiradora cometeu suicídio logo depois. A tragédia resultou em um total de dez mortos, incluindo a própria suspeita, e deixou 25 feridos.

A OpenAI identificou a conta da suspeita através de seus sistemas de detecção de abuso e a baniu do ChatGPT em junho do ano anterior, oito meses antes do ataque. A empresa não comunicou as autoridades canadenses na época, alegando que as evidências coletadas não eram consideradas graves o suficiente para justificar um alerta policial.

Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” pela falha de comunicação com as autoridades. Ele reconheceu o impacto da tragédia para a comunidade e afirmou que o pedido de desculpas é uma forma de reconhecer a perda irreversível sofrida.

O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses anunciaram que pressionariam a OpenAI para reforçar as medidas de segurança, levantando a possibilidade de sanções regulatórias em caso de continuidade das falhas.

A OpenAI usa sistemas automatizados para monitorar conteúdos e identificar violações das regras, incluindo apoio à automutilação, promoção de violência e ameaças à segurança. Em situações graves, os sistemas sinalizam comportamentos de alto risco para revisão humana, e a empresa pode compartilhar informações relevantes com as autoridades policiais.

Após o ataque, a OpenAI reforçou seus protocolos de segurança e criou um canal direto de comunicação com a polícia local. Altman afirmou que a empresa pretende colaborar com todos os níveis de governo para prevenir episódios similares no futuro.

A família de uma das vítimas gravemente feridas no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Segundo o processo, a empresa teria conhecimento dos planos da atiradora para um evento com mortes em massa, mas não tomou medidas eficazes para impedir o ataque.

O caso levanta questionamentos sobre a responsabilidade das empresas de tecnologia na prevenção de crimes e no monitoramento de usuários que apresentem sinais de comportamento violento. A discussão ainda segue em aberto, com autoridades e a sociedade buscando um equilíbrio entre segurança e privacidade.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, segurança digital, responsabilidade tecnológica, monitoramento de usuários, ação judicial OpenAI, violência online.

Fonte: g1.globo.com