Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes envolvendo a suspeita de um ataque que matou oito pessoas em fevereiro. O pedido foi feito por meio de uma carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, divulgada nesta sexta-feira (24).
No ataque ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a própria mãe e o meio-irmão em casa antes de ir a uma escola secundária, onde matou cinco crianças e um professor. Em seguida, ela cometeu suicídio. A suspeita usava o ChatGPT, e sua conta foi banida pela OpenAI em junho do ano anterior, oito meses antes da tragédia.
A OpenAI afirmou na ocasião que não reportou a conta à polícia porque as atividades detectadas não foram consideradas graves o suficiente para justificar um encaminhamento às autoridades. Segundo Altman, a empresa tem sistemas automatizados que monitoram e moderam conteúdos em tempo real, sinalizando abusos e violações que vão desde exploração sexual até a promoção de violência.
Em sua carta, Altman declarou estar “profundamente arrependido” por não ter comunicado previamente as autoridades policiais. Ele justificou o atraso no pedido de desculpas alegando respeito ao luto da comunidade de Tumbler Ridge. O primeiro-ministro David Eby considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”.
Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias caso a empresa não reforçasse suas práticas. Em resposta, a OpenAI afirmou que aperfeiçoaria suas medidas de segurança e criou um canal de comunicação direto com a polícia local para reportar possíveis ameaças.
Altman ressaltou que a OpenAI está comprometida em colaborar com governos para evitar tragédias similares no futuro. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, disse.
Além disso, a família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial por alegada negligência contra a OpenAI. Eles afirmam que a empresa tinha conhecimento de que a suspeita planejava um “evento com mortes em massa” e falhou em tomar medidas preventivas.
O caso reacende o debate sobre a responsabilidade das empresas de tecnologia na identificação e no reporte de ameaças envolvendo a utilização de suas plataformas. A OpenAI utiliza algoritmos para detectar comportamentos de risco, mas a eficácia e os protocolos para comunicação com autoridades ainda são questionados.
A cidade de Tumbler Ridge e a província da Colúmbia Britânica continuam mobilizadas em torno das consequências da tragédia, enquanto as autoridades avaliam mudanças na legislação e na regulamentação do uso de inteligência artificial para prevenção de crimes.
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, Tumbler Ridge, ataque a tiros, Colúmbia Britânica, tiroteio em massa, segurança em IA, moderação de conteúdo, responsabilidade tecnológica, denúncia de violência, ação judicial OpenAI.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
