Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre uma conta suspeita no ChatGPT, relacionada à mulher que matou oito pessoas em um ataque em fevereiro. O pedido foi feito nesta sexta-feira (24), após críticas do governo da Colúmbia Britânica.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de atacar uma escola secundária local, onde feriu e matou estudantes e um professor, e depois tirou a própria vida.

A OpenAI identificou a conta da suspeita em seus sistemas de moderação em junho do ano anterior e a baniu do ChatGPT, mas não informou as autoridades policiais na época. A empresa considerou que a atividade da conta não configurava uma ameaça grave o suficiente para justificar o alerta.

Altman declarou estar “profundamente arrependido” pela falha em comunicar a polícia e reconheceu o impacto do ocorrido na comunidade de Tumbler Ridge. Ele afirmou que o atraso no pedido de desculpas visou respeitar o período de luto dos moradores.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Eby pediu ações concretas para evitar incidentes semelhantes no futuro.

Os sistemas automatizados da OpenAI monitoram conteúdos em tempo real no ChatGPT, restringindo ou banindo contas que violam regras relacionadas a exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos de alto risco, a empresa revisa manualmente as atividades para possível encaminhamento às autoridades.

Após o ataque, a OpenAI recebeu demandas regulatórias e afirmou que reforçaria suas medidas de segurança. A empresa implementou um canal direto de comunicação com as forças policiais para reportar ameaças relevantes futuramente.

Altman afirmou que a empresa está comprometida em colaborar com governos para impedir novas tragédias e melhorar a detecção e resposta a conteúdos preocupantes em seus serviços.

Familiares de uma vítima ferida no ataque entraram com uma ação judicial contra a OpenAI por negligência. O processo alega que a empresa tinha conhecimento do plano da atiradora para um “evento com mortes em massa” e não tomou medidas adequadas.

O caso traz à tona o desafio das empresas de tecnologia em monitorar e agir sobre conteúdos potencialmente perigosos em plataformas automatizadas, e a pressão dos governos por mais transparência e responsabilidade.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, pedido de desculpas, Tumbler Ridge, ataque a tiros, ChatGPT, moderação de conteúdo, violência online, ação judicial, segurança digital, Colúmbia Britânica.

Fonte: g1.globo.com