Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A declaração foi feita em carta divulgada nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária local, onde matou cinco crianças e um professor. Após o ataque, ela cometeu suicídio. A OpenAI afirmou ter banido a conta da suspeita do ChatGPT oito meses antes, em junho, por identificar comportamentos abusivos.
Sam Altman afirmou na carta estar “profundamente arrependido” por não ter comunicado as autoridades policiais sobre a conta que foi banida em junho. Ele justificou o atraso no pedido de desculpas para respeitar o luto da comunidade de Tumbler Ridge.
A empresa explicou que não reportou a conta à polícia na época porque a atividade não teria sido grave o suficiente para justificar o encaminhamento. No entanto, após o ataque, o primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”.
A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem restringir ou banir contas por violações como exploração sexual, apoio a automutilação, suicídio e promoção de violência. Em casos de ameaças graves, os sistemas sinalizam comportamentos para revisão humana e podem compartilhar dados com autoridades policiais.
Após o tiroteio, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias caso mudanças não fossem implementadas. A empresa informou que reforçará suas medidas de segurança e criou um canal de contato direto com a polícia para futuras ocorrências.
Sam Altman afirmou que a OpenAI está comprometida em trabalhar com todos os níveis de governo para evitar tragédias semelhantes e garantir que situações como essa não se repitam.
A família de uma das vítimas, uma menina gravemente ferida no ataque, entrou com uma ação judicial contra a OpenAI por negligência. Segundo o processo, a empresa teria conhecimento do plano da atiradora para cometer um “evento com mortes em massa” e não teria tomado providências.
O caso levanta questões sobre a responsabilidade das plataformas de inteligência artificial em monitorar e agir diante de conteúdos que possam indicar riscos de violência em larga escala.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio Canadá, violência em massa, moderação de conteúdo, segurança digital, responsabilidade social, ação judicial, Tumbler Ridge.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
