O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. Altman afirmou estar “profundamente arrependido” pela falta de comunicação com as autoridades, em carta divulgada nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local. Ela matou cinco crianças, um professor e posteriormente tirou a própria vida. A suspeita havia sido banida do ChatGPT pela OpenAI oito meses antes do ataque, em junho do ano anterior, por violações das políticas de uso da plataforma.

A empresa afirmou que a conta foi banida após identificação por seus sistemas automatizados de detecção de abuso, que monitoram conteúdos em tempo real para evitar exploração sexual, apoio ao suicídio, automutilação e promoção de violência. No entanto, a OpenAI não comunicou os dados da usuária à polícia canadense, alegando que a atividade detectada não era grave o suficiente para justificar o encaminhamento às autoridades.

O primeiro-ministro da província da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades locais convocaram a equipe de segurança da OpenAI e ameaçaram adotar medidas regulatórias caso a empresa não aprimorasse suas práticas de monitoramento.

Sam Altman justificou o atraso no pedido de desculpas por causa do respeito ao período de luto da comunidade de Tumbler Ridge. Ele afirmou que a OpenAI está comprometida em trabalhar com governos para evitar novos episódios do tipo. A empresa também informou ter criado um canal direto de comunicação com as autoridades policiais para melhorar o compartilhamento de informações em casos de risco.

Além das medidas internas, a OpenAI declarou que seus sistemas são projetados para sinalizar comportamentos de alto risco para revisão humana. Em situações com ameaças críveis, dados relevantes podem ser compartilhados com a polícia para prevenir incidentes. Ainda assim, a falha em comunicar a conta da atiradora gerou uma ação judicial movida pela família de uma vítima ferida durante o ataque.

A família processa a OpenAI alegando negligência, afirmando que a empresa tinha conhecimento dos planos da suspeita para cometer um “evento com mortes em massa”, mas não adotou providências para evitar a tragédia. A ação judicial destaca a responsabilidade das plataformas digitais em monitorar e reportar conteúdos que representem risco à segurança pública.

O caso reacende o debate sobre a regulação de sistemas de inteligência artificial e a responsabilidade das empresas em impedir o uso indevido de seus serviços. A OpenAI reforça a importância da colaboração entre tecnologia e autoridades para garantir a segurança da sociedade diante de novos desafios.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, denúncia de violência, monitoramento de conteúdo, responsabilidade de IA, segurança pública, regulação de inteligência artificial, ação judicial, negligência, ataque a tiros, moderação automatizada.

Fonte: g1.globo.com