La IA vuelve a colocarse en el centro del escrutinio internacional tras la polémica generada por Grok, el sistema de inteligencia artificial integrado en la red social X, propiedad de Elon Musk.
Diversos gobiernos y organizaciones civiles han expresado preocupación por el uso de IA para crear imágenes sexualizadas sin consentimiento, un fenómeno que ha ganado tracción viral y ha expuesto vacíos regulatorios a escala global.
El caso adquirió relevancia luego de que Grok, mediante instrucciones públicas, generara versiones alteradas de fotografías reales de mujeres, transformándolas en imágenes en bikini.
La práctica, facilitada por la IA, fue replicada por miles de usuarios, lo que llevó a autoridades europeas a cuestionar la responsabilidad de las plataformas digitales que integran este tipo de tecnología.
- Te podría interesar: Netflix mantendrá una ventana de 17 días de exclusividad en cines con Warner Bros.
Grok en la mira de las autoridades europeas
El Gobierno francés anunció la presentación de una denuncia formal contra Grok, al considerar que la IA incurrió en la generación y difusión de contenidos sexistas y sexualizados sin autorización.
De acuerdo con el comunicado oficial, se solicitó a los reguladores audiovisuales evaluar si la plataforma cumple con el Reglamento de Servicios Digitales de la Unión Europea.
- La actuación de Grok fue señalada como un ejemplo de cómo la IA puede amplificar prácticas dañinas cuando no existen controles efectivos.
Expertos han subrayado que estas imágenes fueron producidas bajo un marco legal ambiguo, ya que la IA suele ampararse en el uso “transformativo” de contenidos; sin embargo, se ha advertido que el impacto social supera los argumentos técnicos.
Impacto social y desafíos regulatorios de la IA
El uso de Grok ha evidenciado cómo la IA puede ser utilizada para vulnerar la imagen y dignidad de las personas, en este caso mujeres; parte del contenido fue eliminado tras denuncias, aunque la aplicación de sanciones ha sido inconsistente.
Leave a Comment