Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado as autoridades sobre conteúdos preocupantes relacionados à suspeita do ataque ocorrido em fevereiro. O tiroteio, perpetrado por uma ex-usuária do ChatGPT, resultou na morte de oito pessoas, incluindo crianças e um professor.

Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” por a empresa não ter informado a polícia sobre a conta da suspeita banida em junho do ano anterior. A justificativa da OpenAI foi que a atividade detectada não parecia grave o suficiente para justificar o encaminhamento às autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir até uma escola local e abrir fogo. Ela matou cinco estudantes e um professor antes de tirar a própria vida. A OpenAI revelou que a conta da suspeita foi identificada e banida oito meses antes da tragédia, por violar as regras do ChatGPT.

A Colúmbia Britânica recebeu o pedido de desculpas como insuficiente. David Eby classificou a mea culpa como “necessária, e ainda assim grosseiramente insuficiente” diante da gravidade do ocorrido. Autoridades canadenses exigiram da OpenAI reforços em seus sistemas de segurança e criaram um canal de comunicação direta com a polícia para casos futuros.

A OpenAI declarou que utiliza sistemas automatizados que monitoram conteúdos em tempo real e banem contas que promovam violência, automutilação, suicídio ou exploração sexual. Comportamentos classificados como de alto risco são revisados por humanos, que podem compartilhar informações com as autoridades policiais quando identificam ameaças críveis.

Após a tragédia, a empresa se comprometeu a trabalhar com governos para evitar eventos semelhantes no futuro. Altman destacou a busca por maior cooperação e melhorias nos sistemas de detecção de riscos para garantir prevenção mais efetiva.

Familiares de uma das vítimas, uma menina gravemente ferida no ataque, entraram com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para cometer um ataque com mortes em massa, mas não tomou medidas preventivas.

O tiroteio em Tumbler Ridge gerou um debate sobre os limites e responsabilidades das plataformas de inteligência artificial diante de conteúdos potencialmente perigosos. As autoridades e a sociedade cobram maior transparência e mecanismos eficazes de alerta para evitar novas tragédias.

A OpenAI enfrenta desafios regulatórios e ajusta suas políticas para responder a essas demandas, buscando equilibrar a liberdade de uso do ChatGPT e a segurança pública.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Tumbler Ridge, denúncia violência, inteligência artificial, segurança digital, responsabilização, ação judicial, Colúmbia Britânica.

Fonte: g1.globo.com