Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter comunicado a polícia sobre conteúdos preocupantes registrados no ChatGPT antes do tiroteio que deixou oito mortos em fevereiro. O pedido foi feito em carta divulgada nesta sexta-feira (24) após críticas ao posicionamento da empresa.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária, onde cinco alunos e um professor também foram assassinados antes que ela tirasse a própria vida. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, em junho, por violar as regras da plataforma.
A OpenAI afirmou que não reportou a conta à polícia na época porque a atividade identificada não foi considerada grave o suficiente para justificar o encaminhamento às autoridades. Altman reconheceu o erro e demonstrou arrependimento na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, que classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.
A empresa utiliza sistemas automatizados para moderar conteúdos em tempo real, restringindo ou banindo contas que apresentem riscos, como a promoção de violência ou suicídio. Em situações de alto risco, a OpenAI pode encaminhar informações às autoridades policiais, mas no caso específico não houve essa medida.
Após a tragédia, as autoridades canadenses demandaram melhorias nos procedimentos de segurança da OpenAI, ameaçando aplicar sanções regulatórias. Em resposta, a empresa afirmou que intensificará suas medidas de controle e estabeleceu um canal direto de comunicação com a polícia local.
A família de uma das vítimas feridas no ataque entrou com uma ação judicial contra a OpenAI, alegando negligência em não terem sido adotadas medidas mesmo com o conhecimento do suposto planejamento da atiradora para um evento com mortes em massa.
Sam Altman justificou o atraso no pedido público de desculpas afirmando que o objetivo foi respeitar o período de luto da comunidade de Tumbler Ridge. Ele também enfatizou o compromisso da OpenAI em colaborar com os governos para prevenir ocorrências semelhantes no futuro.
A investigação sobre o incidente e os procedimentos de notificação continuam em andamento, enquanto a empresa ajusta suas políticas de segurança para lidar com conteúdos potencialmente perigosos na plataforma.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, segurança digital, responsabilidade corporativa, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
