Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes postados por uma usuária do ChatGPT que, posteriormente, cometeu um ataque a tiros em fevereiro, deixando oito mortos. O pedido foi feito em carta ao primeiro-ministro da província de Colúmbia Britânica, David Eby, nesta sexta-feira (24).

No ataque ocorrido em 10 de fevereiro, uma mulher de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, matando cinco crianças e um professor antes de tirar a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior, após sistemas automatizados da OpenAI identificarem conteúdos abusivos em sua conta.

Altman explicou que a OpenAI não havia reportado a conta às autoridades na época porque, segundo a empresa, a atividade examinada não alcançava o nível necessário para intervenção policial. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, afirmou o CEO. Ele também alegou respeito ao período de luto da comunidade como motivo para o atraso no pedido público de desculpas.

A Colúmbia Britânica é governada pelo primeiro-ministro David Eby, que classificou o pedido de desculpas como necessário, porém insuficiente diante do impacto da tragédia. Autoridades canadenses convocaram a equipe da OpenAI para discutir medidas de segurança, ameaçando ações regulatórias caso não houvesse implementação de melhorias.

A OpenAI afirma utilizar sistemas de moderação automatizados que analisam conteúdos em tempo real, capazes de restringir ou banir contas que violem regras relacionadas a exploração sexual, incentivo ao suicídio ou promoção de violência. Em casos de alto risco, comportamentos são sinalizados para revisão humana, e dados são compartilhados com as autoridades se for identificada uma ameaça crível.

Desde o ataque, a empresa informou que está reforçando as medidas de segurança e criou um canal de comunicação direta com a polícia canadense. Altman garantiu o compromisso da OpenAI em trabalhar com governos para evitar que incidentes semelhantes voltem a acontecer.

Paralelamente, familiares de uma das vítimas feridas no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para um “evento com mortes em massa” e não tomou providências adequadas.

O caso reacende o debate sobre a responsabilidade das empresas de tecnologia em monitorar e agir diante de conteúdos que indicam riscos à segurança pública. A OpenAI segue em processo de ajuste de suas políticas de moderação na tentativa de melhorar a detecção e o encaminhamento de ameaças.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, moderação de conteúdo, responsabilidade tecnológica, ação judicial, segurança pública.

Fonte: g1.globo.com