Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de ela cometer um ataque em fevereiro que resultou na morte de oito pessoas. A pedido foi feito por meio de uma carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois foi a uma escola secundaria local onde atirou contra cinco crianças e um professor, antes de tirar a própria vida. A OpenAI informou ter banido a usuária do ChatGPT oito meses antes do ataque, em junho, após identificar atividades suspeitas em sua conta por meio de seus sistemas de detecção automática.

Altman afirmou que a empresa não comunicou as autoridades porque a atividade analisada não foi considerada grave o suficiente para justificar uma denúncia. Na carta, o executivo disse estar “profundamente arrependido” pela falha em alertar a polícia e destacou a necessidade de reconhecer a perda sofrida pela comunidade de Tumbler Ridge.

O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais exigem medidas mais contundentes para prevenir futuros ataques.

A OpenAI explica que utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e restringem ou banem contas que violem suas regras, incluindo promoção de violência, automutilação e abuso sexual. Em casos graves, a empresa realiza revisões humanas e pode compartilhar informações com a polícia.

Após o ataque, autoridades canadenses reuniram-se com a equipe de segurança da OpenAI, ameaçando ações regulatórias caso a empresa não aprimorasse suas medidas de segurança. A OpenAI afirmou que criou um canal direto de comunicação com a polícia e está empenhada em colaborar com governos para evitar novos incidentes.

A empresa ressaltou o compromisso de buscar formas de impedir tragédias semelhantes, enfatizando que o foco será trabalhar em conjunto com autoridades em todos os níveis.

Familiares de uma menina gravemente ferida no tiroteio entraram com ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento dos planos da atiradora para um ataque de grandes proporções e não agiu para impedir o crime.

O caso levanta questões sobre a responsabilidade das plataformas de inteligência artificial na detecção e comunicação de riscos de violência, e intensifica o debate sobre regulação dessas tecnologias.

Palavras-chave relacionadas:
OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Columbia Britânica, Canadá, polícia, sistemas de detecção, moderação automática, segurança, ação judicial, responsabilidade, violência, inteligência artificial

Fonte: g1.globo.com