Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não alertar a polícia sobre conteúdos preocupantes postados por uma usuária que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito mais de dois meses após a tragédia e ressalta o arrependimento da empresa pela falta de comunicação com as autoridades.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em estudantes e um professor em uma escola local, antes de tirar a própria vida. Ao todo, foram oito mortos e dezenas de feridos. A suspeita já havia sido banida do ChatGPT, ferramenta da OpenAI, oito meses antes do ataque, por comportamento que violava as regras da plataforma.
A OpenAI identificou a conta da usuária em junho do ano anterior, ao detectar violações relacionadas a discursos de ódio e promoção de violência. No entanto, a empresa não comunicou as autoridades canadenses, alegando que o conteúdo não configurava ameaça grave o suficiente para justificar um alerta policial naquele momento.
Sam Altman admitiu o erro em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e disse que a empresa está comprometida a evitar episódios semelhantes. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, afirmou Altman, destacando o respeito pelo luto da comunidade de Tumbler Ridge e a vontade de colaborar com governos.
David Eby qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente” e enfatizou a importância de medidas mais rigorosas da OpenAI para prevenir futuros incidentes. Após o ataque, as autoridades locais convocaram a equipe de segurança da empresa e ameaçaram ações regulatórias caso não houvesse melhorias na moderação e no compartilhamento de dados.
A OpenAI informou que utiliza sistemas automatizados para detectar comportamentos de risco em tempo real, envolvendo moderação de conteúdos que incentivem violência, automutilação, suicídio e abuso sexual. Em casos considerados graves, a empresa pode enviar informações às forças policiais para investigações.
Desde o ocorrido, a empresa afirmou ter criado um canal direto de comunicação com a polícia para agilizar a troca de informações. Altman destacou que a organização buscará trabalhar junto a governos para impedir que tragédias como essa voltem a ocorrer.
Além disso, a família de uma menina gravemente ferida no ataque entrou com um processo judicial contra a OpenAI, alegando negligência e que a empresa teria conhecimento prévio dos planos da atacante, sem tomar providências adequadas.
O caso levanta debates sobre a responsabilidade das plataformas digitais em monitorar e agir frente a sinais de violência, e sobre o equilíbrio entre privacidade e segurança pública. A OpenAI permanece sob pressão para ajustar seus protocolos de segurança e a forma como responde a possíveis ameaças identificadas por seus sistemas.
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, ataque a tiros Canadá, moderação de conteúdo, segurança digital, denúncia de violência, responsabilidade tecnológica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
