Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após o ataque que deixou oito mortos em fevereiro, causado por uma ex-usuária do ChatGPT. Ele afirmou ter se arrependido por a empresa não ter alertado a polícia sobre os conteúdos preocupantes gerados pela suspeita.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de atirar em uma escola local, onde cinco crianças e um professor foram mortos. Após o ataque, a suspeita cometeu suicídio.
A OpenAI revelou que identificou e baniu a usuária dos sistemas do ChatGPT em junho, oito meses antes da tragédia. A empresa justificou não ter informado as autoridades na época porque a atividade não era considerada grave o suficiente para um alerta.
Sam Altman enviou uma carta ao primeiro-ministro da província da Colúmbia Britânica, David Eby, reconhecendo os danos causados e manifestando arrependimento pelo não encaminhamento à polícia. A resposta do chefe de governo classificou o pedido como necessário, mas insuficiente.
O CEO alegou que o pedido de desculpas foi enviado mais de dois meses após o ocorrido para respeitar o luto da comunidade local. Ele também afirmou que a OpenAI está comprometida em colaborar com governos para evitar tragédias semelhantes no futuro.
A empresa utiliza sistemas automatizados para monitorar e restringir conteúdos que violam suas regras, incluindo exploração sexual, autopromoção do suicídio e incentivo à violência. Em casos graves, as contas são analisadas por humanos e, se a ameaça for confirmada, os dados são compartilhados com a polícia.
Após o ataque, autoridades canadenses reuniram-se com a equipe de segurança da OpenAI e manifestaram a possibilidade de ações regulatórias caso as medidas não fossem ajustadas. A empresa respondeu que fortaleceria a segurança e criou canais de comunicação diretos com as autoridades.
Familiares de uma menina que ficou gravemente ferida na escola acionaram judicialmente a OpenAI, acusando a companhia de negligência. Eles afirmam que a empresa tinha conhecimento do plano da suspeita para um evento com mortes em massa, mas não tomou providências.
A polêmica envolvendo o uso de inteligência artificial em casos de segurança pública levanta questionamentos sobre a eficácia e limites da tecnologia na prevenção de crimes de grande impacto.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em Tumbler Ridge, ataque em escola Canadá, inteligência artificial, segurança pública, denúncia de violência, responsabilidade empresarial, ação judicial OpenAI
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
