Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque a tiros. A empresa havia banido a suspeita oito meses antes, mas não informou as autoridades.
O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola secundária, onde matou cinco crianças e um professor, e depois tirou a própria vida. A OpenAI confirmou que identificou a conta da atiradora e a banimento em junho do ano anterior.
Altman afirmou estar “profundamente arrependido” por não ter compartilhado essas informações com a polícia canadense. Segundo ele, a decisão de não alertar as autoridades na época foi baseada na avaliação de que o material da conta não justificava um encaminhamento. O pedido de desculpas foi feito mais de dois meses após o ocorrido para respeitar o luto da comunidade de Tumbler Ridge.
O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”. Autoridades da região também pressionaram a OpenAI a melhorar seus protocolos de segurança após o incidente, ameaçando ações regulatórias caso as mudanças não fossem implementadas.
A OpenAI utiliza sistemas automatizados para monitorar conteúdos em tempo real, com mecanismos que restringem ou banem contas que violam regras relativas a exploração sexual, incentivo à automutilação, suicídio ou violência. Em situações de risco elevado, há também revisão humana e possibilidade de repassar informações às autoridades policiais.
Após o ataque, a empresa comunicou que reforçará suas medidas de segurança e criou um canal direto de comunicação com a polícia para evitar eventos semelhantes no futuro. Altman destacou o compromisso em trabalhar com governos para prevenir tragédias desse tipo.
Familiares de uma das vítimas feridas no tiroteio ajuizaram uma ação judicial contra a OpenAI, alegando negligência, pois a empresa teria conhecimento do plano de um “evento com mortes em massa” por parte da atiradora, mas não tomou providências para impedir.
O caso provocou debate sobre a responsabilidade das plataformas digitais no monitoramento de conteúdos perigosos e o limite entre privacidade e segurança pública diante do uso de inteligência artificial.
—
Palavras-chave: OpenAI, Sam Altman, Tumbler Ridge, tiroteio em massa, ChatGPT, segurança digital, moderação de conteúdo, responsabilidade tecnológica, Canadá, ação judicial, prevenção de violência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
