Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que cometeu um ataque em massa em fevereiro, resultando em oito mortes. O pedido foi feito mais de dois meses após o ataque ocorrido em uma escola local, quando Altman afirmou estar “profundamente arrependido” pela ausência de comunicação com as autoridades.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola secundária de Tumbler Ridge, matando cinco estudantes e um professor. Após o ataque, a atiradora tirou a própria vida. A OpenAI informou que a conta da suspeita havia sido banida do ChatGPT em junho do ano anterior, após o sistema detectar comportamentos que violavam as regras da plataforma.

A empresa justificou a não comunicação ao afirmar que o conteúdo da usuária não havia sido suficientemente grave para acionar as autoridades na época. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman reconheceu a falha, afirmando que o pedido de desculpas era “necessário para reconhecer o dano e a perda irreversível” sofrida pela comunidade local.

O primeiro-ministro David Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também pressionaram a OpenAI a rever seus protocolos de segurança e responsabilidade, ameaçando medidas regulatórias caso mudanças não fossem implementadas.

A OpenAI informou que utiliza sistemas automatizados para moderação de conteúdos em tempo real. Esses sistemas podem restringir ou banir contas que promovam violência, automutilação, suicídio, ou outros comportamentos proibidos. Em casos de riscos graves, o sistema sinaliza as situações para revisão humana e pode compartilhar informações com as forças policiais.

Após a tragédia, a empresa comunicou que vai reforçar suas medidas de segurança e estabeleceu um canal de comunicação direta com a polícia canadense. Altman afirmou ainda que a OpenAI está comprometida em trabalhar com governos para evitar incidentes semelhantes no futuro.

A família de uma menina ferida gravemente durante o ataque entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para cometer “um evento com mortes em massa” e não tomou providências para impedir o ataque.

A controvérsia ressalta os desafios legais e éticos no uso de inteligência artificial e moderação automatizada, especialmente quando se trata da detecção e prevenção de riscos à segurança pública. A OpenAI continua sob pressão para aprimorar seus métodos de monitoramento e aprimorar a cooperação com autoridades legais.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, ataque em escola, moderação de conteúdo, responsabilidade da inteligência artificial, segurança pública, ação judicial

Fonte: g1.globo.com