UE considera proibir deepfakes sexuais gerados por IA após escândalo Grok

UE toma medidas contra deepfakes sexuais gerados por IA

A União Europeia está intensificando sua resposta regulatória à crescente ameaça de deepfakes sexuais gerados por inteligência artificial, especialmente após o escândalo envolvendo o chatbot Grok AI de Elon Musk na plataforma X. Em um momento que autoridades descrevem como um 'marco' para a segurança digital, a UE está considerando classificar a criação de deepfakes sexuais como uma prática proibida sob a Lei de Inteligência Artificial.

A polêmica do Grok e a resposta regulatória

O escândalo eclodiu no início de janeiro de 2026, quando relatórios revelaram que o Grok, chatbot da xAI integrado ao X, estava sendo usado para gerar milhares de imagens sexuais, incluindo imagens de menores. Apenas entre 5 e 6 de janeiro, o sistema supostamente gerou pelo menos 6.700 imagens sexuais, muitas envolvendo mulheres ou crianças sem seu consentimento.

'O Grok agora oferece um 'modo picante' que exibe conteúdo sexual explícito, com algumas saídas geradas a partir de imagens infantis. Isso não é picante. É ilegal. É chocante,' disse o porta-voz da UE para assuntos digitais, Thomas Regnier, a repórteres durante o auge do escândalo.

A Comissária Europeia Henna Virkkunen afirmou que a Comissão está considerando proibir explicitamente esse tipo de imagem sexual gerada por IA sob a Lei de IA, classificando-a como um risco inaceitável. 'A proibição de práticas prejudiciais de IA pode ser relevante para abordar o problema de deepfakes sexuais não consensuais e pornografia infantil,' disse Virkkunen durante uma sessão plenária do Parlamento Europeu.

Múltiplos instrumentos regulatórios mobilizados

A UE está mobilizando múltiplos quadros legais simultaneamente para enfrentar a crise:

Lei de Serviços Digitais (DSA): A Comissão já usou este instrumento poderoso para multar o X em €120 milhões em dezembro de 2025 por violações de transparência. A DSA permite que a UE imponha multas pesadas, exija mudanças operacionais e até suspenda serviços temporariamente. Autoridades enviaram um pedido formal de informação ao X sobre o Grok e exigiram que a plataforma preserve todos os documentos e dados internos.

Lei de Inteligência Artificial: Aprovada em 2024, esta legislação pioneira estabelece um sistema baseado em risco para regular tecnologias de IA. Embora já proíba certas práticas inaceitáveis de IA, como a pontuação social, autoridades agora consideram adicionar deepfakes sexuais gerados por IA à lista de proibições.

Proposta de Controle de Chat: Proposta pela primeira vez em 2022, esta medida controversa obrigaria as plataformas a detectar e relatar material de abuso sexual infantil (CSAM). A legislação gerou debates acalorados sobre privacidade, mas espera-se que seja negociada no início de 2026.

Ações nacionais e desafios de aplicação

Vários Estados-Membros da UE estão tomando ações independentes. A Ministra da Juventude e Crianças da Espanha, Sira Rego, pediu ao Ministério Público para investigar se o Grok pode estar cometendo crimes relacionados a material de abuso sexual infantil. A Espanha está desenvolvendo sua própria lei para a proteção de menores em ambientes digitais.

A Bulgária intensificou os esforços por meio da cooperação internacional entre agências de aplicação da lei e participou de operações que fecharam grandes plataformas de exploração infantil. A Romênia tem mecanismos legislativos em vigor e debate uma Lei da Maioridade Online que introduziria verificação obrigatória de idade.

Apesar desses esforços, a aplicação continua desafiadora. 'A DSA é muito clara na Europa. Todas as plataformas devem colocar sua casa em ordem, porque o que geram aqui é inaceitável, e o cumprimento da lei da UE não é uma opção. É uma obrigação,' enfatizou Regnier.

O dilema das plataformas

Ironicamente, enquanto criticam o X, quase todos os altos funcionários da UE continuam postando lá em vez de em alternativas europeias. A Presidente da Comissão Europeia, Ursula von der Leyen, e outros altos funcionários ainda não têm contas oficiais no Mastodon, uma alternativa alemã. A Comissão justifica o uso contínuo do X devido ao seu alcance: o Mastodon tem cerca de 750.000 usuários mensais, comparado a 100 milhões no X.

Enquanto a UE navega por esta paisagem regulatória complexa, o escândalo do Grok expôs lacunas significativas na legislação atual e destacou a necessidade urgente de proteção abrangente contra o abuso gerado por IA. Com o Parlamento Europeu nomeando a eurodeputada irlandesa Maria McNamara para liderar a legislação transfronteiriça para proibir aplicativos de nudificação, e com possíveis alterações à Lei de IA no horizonte, 2026 pode se tornar um ano crucial para a segurança digital na Europa.