Un tribunal de Ámsterdam ha emitido una decisión significativa que prohíbe a la red social X, junto con Grok —el asistente de inteligencia artificial de Elon Musk—, generar y difundir imágenes que representan a personas desnudas sin su consentimiento, además de contenido asociado con pedocriminalidad. Esta medida fue anunciada el pasado jueves y tiene implicaciones directas sobre el uso de tecnologías que permiten la creación de montajes hiperrealistas, comúnmente conocidos como deepfakes.
La controversia surgió tras la introducción en Grok de una función que permitía a los usuarios elaborar este tipo de imágenes a partir de fotos reales, lo que llevó a la organización Offlimits, especializada en la violencia en línea, a llevar a ambas plataformas ante la justicia. Según el tribunal, Offlimits presentó evidencia suficiente para generar una “duda razonable” sobre la efectividad de las medidas que Grok y X habían implementado para prevenir este tipo de abusos. Notablemente, el tribunal reveló que Offlimits logró crear un video de una persona desnuda utilizando Grok poco antes de la audiencia, lo que evidencia la posible ineficacia de las políticas adoptadas por estas empresas.
Es importante destacar que la prohibición no solo afecta a la creación de imágenes de personas residentes en los Países Bajos, sino que también se aplica a la difusión de dicho contenido en el país. Cualquier incumplimiento de esta normativa conllevará sanciones significativas, con multas que podrían alcanzar hasta €100,000 diarios (aproximadamente $115,900) y un máximo de €10 millones ($11.59 millones).
El mismo día, el Parlamento Europeo avanzó en su empeño por prohibir en toda la Unión Europea los programas de inteligencia artificial que permiten desnudamientos sin consentimiento, una medida que cuenta con el respaldo de los Estados miembros. Estos dos acontecimientos subrayan un creciente reconocimiento de la necesidad de regular las tecnologías de inteligencia artificial, especialmente ante los riesgos asociados con la creación y difusión de contenido manipulado y potencialmente dañino.
Esta decisión representa un paso importante en la protección de la privacidad y los derechos individuales frente a la información profunda y manipulativa que ya se encuentra en el ámbito digital. La resolución del tribunal neerlandés pone de manifiesto no solo la urgencia de establecer regulaciones más estrictas sobre la inteligencia artificial, sino también la responsabilidad que recae en las plataformas tecnológicas para garantizar el uso ético y responsable de sus herramientas.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
