Los efectos de la inteligencia artificial sobre los diversos aspectos de nuestra vida han suscitado toda clase de expectativas y preocupaciones. Han impulsado un esfuerzo regulatorio que, en la Unión Europea se ha traducido en códigos éticos, una regulación para proteger la privacidad y una propuesta reciente acerca de las precauciones que hemos de tener con los sistemas automáticos de decisión. Las perspectivas desde las que se ha enfocado la cuestión son fundamentalmente el derecho privado, la reforma administrativa, la ciberseguridad y las recomendaciones éticas, pero apenas la hemos pensado desde el punto de vista de la democracia, salvo algunos ensayos de corte catastrofista o, en el otro extremo, planteando unas promesas de democratización completamente ilusorias. La digitalización tiene una gran relevancia política que no solo tiene que ver con el hecho de que de sea objeto de la política (que haya unas políticas de lo digital), sino que la digitalización misma ha de ser entendida como un proceso político. En los debates acerca de la inteligencia artificial se habla mucho de su dimensión ética, jurídica, económica, pero muy poco de su dimensión política.
El que estemos asistiendo a un cambio brutal en nuestro entorno tecnológico, de consecuencias en buena parte imprevisibles, explica el hecho de que no sepamos muy bien cómo diagnosticar la situación y el escenario se haya llenado de valoraciones extremas, poco matizadas, de entusiasmo desmedido o de tintes apocalípticos, formuladas también por intelectuales de los que tenemos derecho a esperar un juicio más sereno. Estas valoraciones han ido evolucionando en un plazo de tiempo muy corto. Hace relativamente poco estábamos celebrando el potencial democratizador de la red en lo que se conoció como las primaveras árabes y el acceso universal al espacio público mientras que ahora estamos atemorizados con los bots, las injerencias electorales y la desinformación. El número de septiembre de 2018 de la MIT Technology Review fue dedicado a la cuestión de si la tecnología estaba amenazando a nuestra democracia y The Economist del 18 de diciembre de 2019 ya hablaba de un “aithoritarianism”, de un autoritarismo de la inteligencia artificial que podría destruir las instituciones democráticas.
Esto explica que haya descripciones tan enfrentadas de la situación en la que nos encontramos: mientras unos festejan la llegada de una política sin prejuicios ideológicos, otros nos advierten sobre el final de la democracia. Hay quien asegura que la nueva tecnología vendría a resolver los problemas ante los que ha fracasado la vieja política; otros hacen responsable al nuevo entorno tecnológico de la pérdida de capacidad de gobierno sobre los procesos sociales y la des-democratización de las decisiones políticas.
Tenemos que prestar una mayor atención a las disrupciones que esta nueva constelación (sistemas cada vez más inteligentes, una tecnología más integrada y una sociedad más cuantificada) va a producir en nuestra forma de organización democrática.
Ciertas decisiones ya no son adoptadas únicamente por los seres humanos sino confiadas en todo o en parte a sistemas que procesan datos y dan lugar a un resultado que no era plenamente pronosticable. ¿Qué pasa con la libre decisión —que es el núcleo normativo de la democracia— en entornos automatizados? ¿Quién decide cuando decide un algoritmo? El nuevo entorno digital nos va a obligar a pensar nuevamente algunas de las categorías básicas de la política y a gobernar este mundo con otros instrumentos. Estamos hablando de tecnologías especialmente sofisticadas y complejas, en las que sirven de muy poco genéricos llamamientos a su “humanización” o ciertos códigos éticos que parecen desconocer su naturaleza. Máquinas que aprenden, análisis de datos en proporciones gigantescas o la actual proliferación de sistemas de decisión automatizada no son dispositivos que puedan regularse con procedimientos simples de intervención, pero eso es una disculpa para no hacer nada sino para que las instituciones regulatorias actúen por lo menos con la misma inteligencia que aquello que tienen obligación de regular.
