Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes divulgados por uma usuária do ChatGPT, que posteriormente cometeu um ataque que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após a tragédia, em uma carta divulgada nesta sexta-feira (24/04).

Em 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa e depois matou cinco alunos e um professor em uma escola secundária local, antes de tirar a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT por violar regras do sistema, mas não comunicou as autoridades.

Sam Altman afirmou que a empresa usou seus sistemas automatizados de moderação para restringir o acesso da usuária, mas que a atividade detectada naquele momento não parecia gravemente ameaçadora a ponto de justificar um alerta às forças policiais. Ele disse estar “profundamente arrependido” pela decisão e reconheceu o peso da perda sofrida pela comunidade de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente” e cobrou ações mais rigorosas por parte da OpenAI para evitar ocorrências futuras. Desde o ataque, a empresa se comprometeu a fortalecer suas medidas de segurança e criou um canal de comunicação direta com a polícia canadense.

Os sistemas da OpenAI utilizam moderação automatizada que detecta violações como promoção de violência, automutilação e apoio ao suicídio. Em casos considerados de alto risco, o conteúdo pode ser encaminhado para revisão humana e, se necessário, para as autoridades. Apesar disso, a empresa não considerou, na ocasião, que a conta banida representasse uma ameaça criminosa iminente.

Após o ocorrido, autoridades canadenses convocaram a equipe de segurança da OpenAI e advertiram sobre possíveis medidas regulatórias caso mudanças não fossem implementadas. A empresa afirmou que continuará colaborando com os governos para impedir eventos semelhantes.

Paralelamente, a família de uma das vítimas ingressou com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do plano de “evento com mortes em massa” por parte da suspeita e não tomou providências para evitar a tragédia.

O episódio levanta debates sobre a responsabilidade das plataformas de inteligência artificial na prevenção de crimes e na comunicação com autoridades em situações de risco. A OpenAI se comprometeu a aprimorar suas políticas e ferramentas de detecção para responder a ameaças com maior efetividade.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, moderação automatizada, responsabilidade corporativa, segurança em inteligência artificial.

Fonte: g1.globo.com