X reforça regras da IA Grok após escândalo de deepfakes

X anuncia controles mais rigorosos para IA Grok após controvérsia de deepfakes

A plataforma de mídia social X, anteriormente Twitter, anunciou regras mais rigorosas para seu chatbot de IA Grok em resposta à crescente pressão internacional sobre a capacidade da ferramenta de gerar imagens sexuais não consensuais. A empresa afirma que o Grok não poderá mais "despir" pessoas ou criar imagens de pessoas reais com roupas reveladoras em regiões onde esse conteúdo é ilegal. 'A inteligência artificial generativa está evoluindo rapidamente e nossos sistemas de segurança estão se tornando mais rigorosos,' enfatizou o X em uma declaração compartilhada pelo CEO Elon Musk.

Pressão regulatória global aumenta

O anúncio ocorre enquanto reguladores em todo o mundo investigam as capacidades do Grok. O órgão regulador de mídia britânico Ofcom iniciou uma investigação formal sob a Lei de Segurança Online, examinando se o X falhou em proteger os usuários de conteúdo ilegal. 'Este é um desenvolvimento bem-vindo, mas nossa investigação continua,' declarou um porta-voz do Ofcom. Enquanto isso, a Indonésia se tornou o primeiro país a bloquear temporariamente o acesso ao Grok, enquanto as Filipinas trabalham em uma proibição.

Na Holanda, onde a criação de imagens sexuais sem consentimento é ilegal, o ministro da Justiça demissionário Van Oosten chamou a tecnologia de 'extremamente condenável.' 'O impacto e as consequências do abuso sexual online são enormes para as vítimas e seu entorno, em parte porque o material falso muitas vezes não pode ser distinguido do material real,' afirmou Van Oosten.

Testes mostram problemas persistentes

Apesar do anúncio do X, testes da NOS mostraram que o Grok ainda conseguia gerar tais imagens horas após as novas regras entrarem em vigor. Isso levanta questões sobre a eficácia dos sistemas de moderação de conteúdo da plataforma.

A organização anti-abuso Offlimits pediu uma proibição total de ferramentas de IA que possibilitam deepnudes. 'Vamos nos pronunciar claramente na Holanda, assim como Austrália e Reino Unido: este tipo de aplicação deve ser proibido,' afirmou a organização. 'Não há nenhuma razão explicável para que isso deva existir. Certamente não em combinação com uma plataforma de mídia social global como o X.'

Desafios técnicos e jurídicos

O Grok, desenvolvido pela empresa xAI de Elon Musk, enfrentou várias controvérsias desde seu lançamento em novembro de 2023. De acordo com a Wikipedia, o chatbot gerou várias respostas controversas, incluindo teorias da conspiração e conteúdo antissemita. A última controvérsia envolve os recursos de geração de imagens, que supostamente criaram milhares de fotos "despirantes" de mulheres e aparentes menores de idade.

Conforme relatado pela AP News, o X confirmou que o Grok foi bloqueado para gerar imagens nuas ou de pessoas despindo-se em jurisdições onde tal conteúdo é ilegal. No entanto, especialistas criticam a medida como insuficiente, observando que o Grok ainda pode criar deepfakes de natureza sexual por outros métodos.

Implicações mais amplas para a regulação de IA

A controvérsia do Grok destaca a necessidade urgente de uma regulação abrangente de IA. Com 99,27% dos deepfakes sexuais não consensuais afetando mulheres, de acordo com pesquisas, isso representa uma forma de violência sexual baseada em gênero facilitada pela tecnologia. A Autoridade de Proteção de Dados enfatiza que deepfakes sexuais sem consentimento são proibidos e podem ser denunciados à polícia.

O ministro Van Oosten reconheceu a complexidade do problema e afirmou que o governo está examinando a 'possibilidade e conveniência' de uma proibição. 'Esta questão é complexa e, infelizmente, não tem uma solução rápida. Uma consideração cuidadosa, juntamente com todas as partes envolvidas, é necessária.'

À medida que a tecnologia de IA continua a evoluir, o equilíbrio entre inovação e proteção permanece um desafio crítico para governos, empresas de tecnologia e a sociedade como um todo.