La Unión Europea va contra Grok, el chatbot de Elon Musk, tras escándalo de imágenes
La Unión Europea (UE) endureció su postura contra Grok, el chatbot de inteligencia artificial (IA), propiedad de Elon Musk, luego de que la herramienta generará y difundiera imágenes sexualizadas de personas, incluidos menores de edad a través de redes sociales X.
Somos conscientes de que X o Grok ahora ofrecen un ‘modo picante’ que muestra contenido sexual explícito con imágenes infantiles. Esto no es picante. Es ilegal
subrayó el portavoz de la comisión, Thomas Regnier, en una conferencia de prensa.
En ese sentido, se ha detectado el incremento de usuarios de X que han utilizado Grok para eliminar digitalmente la ropa de fotografías, principalmente de mujeres, generando imágenes que simulan desnudez parcial o ropa interior.
Estás imágenes en una plataforma de redes sociales tan popular, ha alarmado a reguladores y defensores de la seguridad en línea de todo el mundo, con funcionarios indios, británicos y franceses entre quienes han criticado las publicaciones.
Acusaciones de diferentes países en Europa
El regulador británico Ofcom informó que mantiene “contacto urgente” con X y xAI para conocer qué medidas se han adoptado para cumplir con las obligaciones legales de protección a los usuarios.
En Francia, el gobierno acusó a Grok de generar contenido sexual “claramente ilegal” sin consentimiento, lo que podría constituir una violación a la Ley de Servicios Digitales de la UE, que obliga a las grandes plataformas a mitigar riesgos de difusión de material ilícito.
En India, el Ministerio de Electrónica y Tecnología de la Información del país, exigió una revisión exhaustiva de los sistemas de seguridad de Grok, mientras que autoridades de Malasia abrieron una investigación tras recibir quejas por el comportamiento “indecente” del chatbot.
Grok xAI Fotoarte: Andrea VelazquezElon Musk afirma tener controles de contenido
XAI, empresa que gestiona a X y Grok no respondió ante los hechos, sin embargo, Elon Musk aseguró que la plataforma actúa contra el contenido ilegal mediante su eliminación, la suspensión permanente de cuentas y la colaboración con las autoridades cuando es necesario.
Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal
declaró el magnate.
Aunque la mayoría de los modelos de IA restringen de forma estricta la generación de contenido sexual, xAI ha promovido a Grok como un sistema más permisivo, lo que ha desatado este escenario.
Sanciones anteriores en Europa
Además, se tiene registro de que X ya enfrenta un historial de sanciones en Europa y es que en diciembre, la plataforma fue multada con 140 millones de dólares por incumplir la Ley de Moderación de Contenido, en la primera sanción aplicada bajo esta legislación.
La creciente vigilancia europea sobre empresas tecnológicas estadounidenses ha generado tensiones con la administración del presidente Donald Trump, que acusa a la UE de atentar contra la libertad de expresión.
Con información de Bloomberg.
Te podría interesar:
