X endurece reglas para Grok AI tras escándalo de deepfakes

X anuncia controles más estrictos para Grok AI tras controversia de deepfakes

La plataforma de redes sociales X, anteriormente Twitter, ha anunciado reglas más estrictas para su chatbot de IA Grok en respuesta a la creciente presión internacional sobre la capacidad de la herramienta para generar imágenes sexuales no consensuadas. La compañía afirma que Grok ya no puede 'desnudar' a personas ni crear imágenes de personas reales con poca ropa en regiones donde dicho contenido es ilegal. 'La inteligencia artificial generativa está evolucionando rápidamente y nuestros sistemas de seguridad se están volviendo más estrictos,' enfatizó X en una declaración compartida por el CEO Elon Musk.

Aumenta la presión regulatoria mundial

El anuncio se produce mientras reguladores de todo el mundo investigan las capacidades de Grok. El regulador de medios británico Ofcom ha iniciado una investigación formal bajo la Ley de Seguridad en Línea, examinando si X no ha logrado proteger a los usuarios de contenido ilegal. 'Este es un desarrollo bienvenido, pero nuestra investigación continúa,' declaró un portavoz de Ofcom. Mientras tanto, Indonesia se ha convertido en el primer país en bloquear temporalmente el acceso a Grok, mientras Filipinas trabaja en una prohibición.

En los Países Bajos, donde crear imágenes sexuales sin consentimiento es ilegal, el ministro de Justicia en funciones Van Oosten calificó la tecnología como 'extremadamente reprobable.' 'El impacto y las consecuencias del abuso sexual en línea son enormes para las víctimas y su entorno, en parte porque el material falso a menudo es indistinguible del real,' afirmó Van Oosten.

Pruebas revelan problemas persistentes

A pesar del anuncio de X, las pruebas de la NOS mostraron que Grok aún podía generar dichas imágenes horas después de que las nuevas reglas deberían haber entrado en vigor. Esto plantea dudas sobre la efectividad de los sistemas de moderación de contenido de la plataforma.

La organización contra el abuso Offlimits ha pedido una prohibición total de las herramientas de IA que permiten deepnudes. 'En los Países Bajos, al igual que en Australia y el Reino Unido, debemos declarar claramente: este tipo de aplicaciones debe estar prohibido,' declaró la organización. 'No hay ninguna razón justificable por la que esto deba existir. Ciertamente no en combinación con una plataforma de redes sociales global como X.'

Desafíos técnicos y legales

Grok, desarrollado por la empresa xAI de Elon Musk, ha enfrentado múltiples controversias desde su lanzamiento en noviembre de 2023. Según Wikipedia, el chatbot ha generado varias respuestas controvertidas, incluidas teorías de conspiración y contenido antisemita. La última controversia involucra sus capacidades de generación de imágenes, que según informes han creado miles de fotos 'desnudadoras' de mujeres y aparentes menores de edad.

Como informó AP News, X confirmó que Grok está bloqueado para generar imágenes desnudas o de desnudez en jurisdicciones donde dicho contenido es ilegal. Sin embargo, los expertos critican la medida como insuficiente, señalando que Grok aún puede crear deepfakes sexuales a través de otros métodos.

Implicaciones más amplias para la regulación de la IA

La controversia de Grok subraya la necesidad urgente de una regulación integral de la IA. Con el 99.27% de los deepfakes sexuales no consensuados afectando a mujeres según investigaciones, esto representa una forma de violencia sexual basada en género facilitada por la tecnología. La Autoridad de Protección de Datos enfatiza que los deepfakes sexuales sin consentimiento están prohibidos y pueden denunciarse a la policía.

El ministro Van Oosten reconoció la complejidad del problema y afirmó que el gobierno está investigando la 'posibilidad y conveniencia' de una prohibición. 'Esta cuestión es compleja y desafortunadamente no tiene una solución rápida. Es necesaria una consideración cuidadosa, junto con todas las partes involucradas.'

A medida que la tecnología de IA continúa desarrollándose, el equilibrio entre innovación y protección sigue siendo un desafío crítico para los gobiernos, las empresas tecnológicas y la sociedad en su conjunto.