O artigo discute a crescente preocupação com imagens de abuso sexual infantil geradas por inteligência artificial (IA), uma nova fronteira de crimes que desafia as forças de segurança e os legisladores nos Estados Unidos. A tecnologia de IA, incluindo modelos de imagens de código aberto, facilita a criação de “deepfakes” e outras imagens manipuladas de crianças, seja a partir de fotos reais ou completamente geradas por IA. Embora não haja vítimas reais nas imagens criadas do zero, o impacto é profundo, tanto para a sociedade quanto para as próprias crianças, cujas imagens são muitas vezes alteradas digitalmente para parecerem sexualmente explícitas.
Ação da Justiça e Legislação Emergente
O Departamento de Justiça dos EUA já está processando casos de abuso sexual infantil onde a IA foi usada para manipular ou gerar imagens. Segundo Steven Grocki, responsável pela Seção de Exploração Infantil e Obscenidade, o uso de IA para criar esse tipo de conteúdo é considerado um crime que será investigado e punido. Em uma das primeiras acusações federais nesse campo, um engenheiro de software foi indiciado por utilizar IA para gerar imagens de abuso, e um psiquiatra infantil foi condenado por manipular fotos de crianças com uma ferramenta digital.
Para acompanhar o avanço rápido da tecnologia, estados como a Califórnia estão ajustando suas leis para permitir a condenação por imagens de abuso infantil geradas por IA. No entanto, o processo é uma “corrida contra o tempo”, já que a tecnologia avança muito mais rápido que as regulamentações.
Desafios e a Dificuldade de Identificação
Os investigadores enfrentam uma barreira inédita: o realismo das imagens geradas por IA dificulta a distinção entre imagens de crianças reais e as virtualmente criadas. Essa complexidade aumenta o risco de que autoridades desperdicem recursos procurando vítimas que, na realidade, não existem. Além disso, a disseminação de dicas em comunidades da dark web permite que usuários manipulem ainda mais essas ferramentas para fins criminosos.
Colaboração com o Setor Tecnológico e Esforços para Prevenção
Grandes empresas de tecnologia como Google e OpenAI estão trabalhando junto com organizações contra abuso infantil para combater a disseminação dessas imagens. Mesmo assim, especialistas alertam que, desde o início, faltaram medidas robustas para evitar o uso indevido dessas ferramentas. Segundo David Thiel, tecnólogo do Stanford Internet Observatory, o foco inicial foi em eficiência, e agora “é muito difícil fazer a correção após a disseminação”.
Perspectivas Legais e Sociais
Embora a Suprema Corte dos EUA tenha invalidado em 2002 uma lei que proibia imagens de abuso sexual infantil virtuais, uma legislação subsequente permite a proibição de representações obscenas, incluindo desenhos e imagens de crianças em situações sexualmente explícitas, mesmo que as crianças não sejam reais. Essa lei está sendo usada em novos processos federais, inclusive contra aqueles que utilizam IA para gerar conteúdo.
A aplicação dessas leis visa reduzir os efeitos prejudiciais dessas práticas, principalmente para crianças e famílias afetadas pela manipulação digital.
Fonte: AI-generated child sexual abuse images are spreading. Law enforcement is racing to stop them / AP
Este artigo foi criado em colaboração entre Cláudio Cordovil e Chat GPT-4
Imagem gerada por Inteligência Artificial
