Apple ha reforzado sus reglas en la App Store para prohibir de forma explícita las aplicaciones que generan imágenes de desnudez o íntimas usando inteligencia artificial sin el consentimiento de las personas implicadas. La actualización exige a los desarrolladores eliminar proactivamente este tipo de contenido y endurece las sanciones para quienes no cumplan las nuevas directrices1, 2.
La compañía responde así a una serie de incidentes recientes, incluyendo el uso de la IA Grok en la red social X para crear millones de imágenes sexualizadas, muchas de ellas sin consentimiento y algunas involucrando a menores1, 2.
Qué cambia en las reglas de la App Store
Las Directrices de revisión de aplicaciones de la App Store ahora prohíben de manera explícita las aplicaciones que generen imágenes de desnudez o íntimas con inteligencia artificial sin consentimiento1, 2. Esta medida amplía la prohibición previa sobre material pornográfico y contenido sexualmente explícito, incluyendo ahora las imágenes íntimas no consentidas generadas con IA1.
Las nuevas reglas obligan a los desarrolladores a prevenir y eliminar de forma proactiva este contenido en sus aplicaciones. Si no implementan medidas de seguridad adecuadas o no corrigen infracciones notificadas, pueden ser expulsados de la App Store por violar el Código de Conducta para Desarrolladores1, 2.
Aplicaciones y prácticas prohibidas
Apple ha creado una nueva sección, la 2.5.19, que prohíbe las aplicaciones que falsean su funcionamiento durante la revisión, conocidas como apps de “cebo y cambio”2. Esto incluye programas que, tras ser aprobados, activan funciones dañinas como la generación de imágenes indebidas mediante IA. Ocultar funciones mediante ofuscación de código también está prohibido y puede derivar en la eliminación de la app y el cierre de la cuenta del desarrollador2.
Las directrices aclaran que cualquier aplicación que facilite la trata de personas o la explotación de menores será eliminada de la App Store y bloqueada de la distribución alternativa1, 2.
Antecedentes: presión social y escándalos recientes
La decisión de Apple llega tras varios escándalos ligados al uso de IA para crear imágenes íntimas falsas sin consentimiento, especialmente a través de Grok, el chatbot de xAI, en la red social X1, 2. En enero de este año, usuarios generaron alrededor de tres millones de imágenes sexualizadas, incluidas 23,000 que representaban a menores y cerca de 1.8 millones de mujeres1.
Apple fue criticada por no retirar de inmediato X ni Grok de la App Store, aunque advirtió a xAI que podría hacerlo si no corregían el problema1, 2. Además, en julio pasado, el fiscal de San Francisco, David Chiu, ordenó a Apple eliminar trece aplicaciones capaces de generar imágenes sexuales no consentidas, acción que la empresa afirma haber cumplido2.
Impacto para desarrolladores y usuarios
Los desarrolladores deben implementar sistemas efectivos para prevenir y eliminar imágenes íntimas no consentidas generadas con IA. El incumplimiento puede llevar a la expulsión de la App Store y al cierre de cuentas1, 2.
Para los usuarios, Apple mantiene procesos para revisar y sancionar aplicaciones que infringen estas reglas. Si un usuario encuentra una app que genera imágenes íntimas sin consentimiento, puede reportarla a Apple para que sea revisada y, en su caso, eliminada1.
Preguntas frecuentes
¿Qué cambios hizo Apple en las reglas de la App Store sobre imágenes generadas por IA?
Apple prohíbe explícitamente las aplicaciones que generen imágenes de desnudez o íntimas con inteligencia artificial sin consentimiento. Los desarrolladores deben prevenir y eliminar este contenido de sus apps, bajo riesgo de expulsión1, 2.
¿Qué tipo de aplicaciones están prohibidas en la App Store según las nuevas pautas?
Las aplicaciones que generen imágenes íntimas no consentidas con IA, las que faciliten la trata de personas o explotación infantil, y las que oculten funciones dañinas durante la revisión están prohibidas y pueden ser eliminadas1, 2.
¿Cómo afecta esta actualización a los desarrolladores de apps con IA?
Los desarrolladores deben implementar medidas para prevenir y eliminar imágenes íntimas no consentidas. Si no cumplen o corrigen infracciones notificadas, pueden ser expulsados de la App Store y perder su cuenta1, 2.
Fuentes
Texto elaborado por la Redacción de Columna Digital. Para ofrecer una visión equilibrada, contrastamos la información de estas otras fuentes:
Redacción Columna Digital. Es posible que en la preparación de esta nota se hayan usado herramientas de inteligencia artificial para reunir fuentes, procesar datos, corregir o redactar textos, bajo la supervisión del equipo de Redacción.
Datos basados en información reportada originalmente por Europa Press.
Reportar un problema en esta notaPolítica de correcciones
Deja un comentario