India exige a Musk corregir Grok por contenido inapropiado.

En un movimiento significativo, el gobierno de India ha ordenado a X, la plataforma de Elon Musk, implementar cambios inmediatos en su asistente de inteligencia artificial Grok. Esta acción se deriva de preocupaciones planteadas por usuarios y legisladores, quienes han señalado la generación de contenido “obsceno”, incluyendo imágenes alteradas de mujeres creadas con esta herramienta.

El Ministerio de Tecnología de la Información de India emitió una directiva el pasado viernes, exigiendo a X que tome medidas correctivas para Grok. Entre las exigencias se incluye restringir la creación de contenido que implique “nudidad, sexualización, material sexualmente explícito o de otro modo ilegal”. Asimismo, se estableció un plazo de 72 horas para que la plataforma presente un informe detallando las acciones emprendidas para prevenir la difusión de contenido clasificado como “obsceno, pornográfico, vulgar o indecente” según las leyes vigentes.

La advertencia a X enfatiza que el incumplimiento de estas directrices podría comprometer las protecciones legales de “puerto seguro” que resguardan a la plataforma de responsabilidades por contenido generado por usuarios, conforme a la normativa india. La medida surge tras quejas de usuarios que compartieron ejemplos de cómo Grok generó imágenes de mujeres alteradas para que parecieran estar usando bikinis, lo que motivó una denuncia formal de la parlamentaria Priyanka Chaturvedi. A su vez, se reportaron casos en los que la inteligencia artificial creó imágenes sexualizadas de menores, un tema que X reconoció responder a deficiencias en sus sistemas de salvaguarda, aunque estas imágenes ya fueron eliminadas.

Sin embargo, las imágenes generadas por Grok que mostraban a mujeres en bikinis continuaban disponibles en X al momento de la publicación original. El reciente aviso del ministerio también recurrió a las plataformas de redes sociales para recordarles la importancia de cumplir con las leyes locales que regulan el contenido obsceno y sexualmente explícito, alertando que el incumplimiento podría resultar en acciones legales severas.

India, siendo uno de los mercados digitales más importantes del mundo, se posiciona como un caso crítico para evaluar hasta qué punto los gobiernos están dispuestos a responsabilizar a las plataformas por el contenido generado por IA. Cualquier endurecimiento en la aplicación de la ley en este país podría tener repercusiones significativas para las empresas tecnológicas globales que operan en múltiples jurisdicciones.

A medida que Musk y X enfrentan estos desafíos, han realizado esfuerzos por cuestionar ciertos aspectos de las regulaciones indias sobre contenido, argumentando que los poderes de eliminación impuestos por el gobierno federal pueden suponer un exceso. A pesar de esto, la plataforma ha acatado la mayoría de las directrices de bloqueo, mientras que Grok se ha convertido en una herramienta utilizada por los usuarios de X para el veredicto en tiempo real y la discusión de eventos noticiosos, aumentando así la visibilidad y sensibilidad política de sus salidas.

X y xAI no han proporcionado comentarios inmediatos respecto a la orden del gobierno indio, lo que deja abierta la puerta a más desarrollo en este tema crítico.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.