Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes deixados por uma suspeita de tiroteio em massa no ChatGPT. O ataque ocorreu em fevereiro e resultou na morte de oito pessoas.

A mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, matando cinco crianças e um professor antes de tirar a própria vida. A OpenAI havia banido a usuária do ChatGPT oito meses antes do ataque, em junho do ano anterior, após detectar comportamento suspeito.

Altman declarou estar “profundamente arrependido” por não ter reportado a atividade da conta às autoridades policiais na época. A empresa afirmou que a gravidade da situação não justificava um encaminhamento formal. O pedido de desculpas foi enviado em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, que classificou a resposta como “necessária, e ainda assim grosseiramente insuficiente”.

A OpenAI explicou que utiliza sistemas automatizados de moderação para identificar conteúdos que violam suas regras, incluindo exploração sexual, apoio à automutilação, suicídio, e promoção de violência. Quando o risco é considerado alto, o caso é revisado por humanos, e os dados podem ser compartilhados com a polícia.

Após o incidente, autoridades canadenses reuniram-se com a equipe de segurança da OpenAI e ameaçaram aplicar ações regulatórias caso não houvesse mudanças. A empresa afirmou que reforçará suas medidas e criou um canal direto de comunicação com a polícia para situações futuras.

A OpenAI se comprometeu a trabalhar com governos para evitar tragédias semelhantes e melhorar a prevenção de riscos associados ao uso da plataforma. Altman justificou o atraso no pedido de desculpas ressaltando o respeito ao período de luto vivido pela comunidade de Tumbler Ridge.

Familiares de uma menina ferida no ataque entraram com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa teve conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou providências adequadas.

A situação expõe os desafios das empresas de tecnologia no monitoramento e no reporte de conteúdos potencialmente perigosos em suas plataformas. O caso também incentiva debates sobre a responsabilidade das ferramentas de inteligência artificial em prevenir atos de violência.

A OpenAI reforça seu compromisso em aprimorar suas políticas de segurança para identificar sinais de alerta e colaborar efetivamente com as autoridades, buscando evitar que incidentes como o ocorrido em Tumbler Ridge voltem a acontecer.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, inteligência artificial, denúncia de violência, polícia Canadense, responsabilidade tecnológica, ação judicial, violência em escolas.

Fonte: g1.globo.com