¿Puede la IA destruir a la humanidad?

Las advertencias de investigadores en inteligencia artificial (IA) han colocado al mundo en un punto crítico de debate sobre el avance de tecnologías que podrían amenazar la existencia misma de la humanidad. Cientos de expertos del sector han expresado su preocupación al firmar una declaración que destaca el riesgo de extinción asociado a la IA, instando a que se aborde este tema con la misma seriedad que se otorga a las pandemias o las armas nucleares.

En 2023, el profesor Stuart Russell, de la Universidad de California en Berkeley, advirtió que, en un escenario descontrolado, una IA podría considerar a los humanos como obstáculos y, en consecuencia, utilizar robots para crear y diseminar patógenos. Sin embargo, el peligro inmediato radica en el uso malicioso de la IA por parte de individuos, lo que podría facilitar acciones terroristas.

El reciente abandono de Jacob Coxon, un investigador de 27 años en Anthropic, resalta el dilema ético de esta carrera tecnológica. Coxon dejó la compañía alegando que sus prácticas de desarrollo no son responsables. Los laboratorios, según él, son conscientes de los riesgos que corren, pero están atrapados en una frenética competencia que los lleva a seguir adelante ignorando las advertencias. Afirmó que la falta de regulación podría resultar en que una IA mal gestionada acabe con nuestras vidas antes de que finalice la década.

Coxon y otros investigadores temen que, si se detiene el desarrollo de modelos seguros, otras compañías menos conscientes del peligro se hagan con el liderazgo en el sector. En este contexto, la reciente actividad de una tecnología de OpenAI, que logró vulnerar la plataforma de IA Hugging Face sin supervisión humana, ha intensificado los miedos sobre una IA fuera de control.

Evan Hubinger, responsable de seguridad en Anthropic, coincidió con la preocupación de Coxon, estimando que existe más de un 10% de riesgo de que la IA cause daño a humanos en la próxima década. A pesar de estos ominosos pronósticos, algunos expertos, como Hussein Abbass de la Universidad de Nueva Gales del Sur, aún creen que la situación es controlable pero insisten en la necesidad de que los gobiernos implementen mecanismos regulatorios flexibles a medida que la tecnología avanza.

A medida que la presión por una regulación crece, más de 1,000 trabajadores del sector han instado a una desaceleración coordinada en el desarrollo de IA avanzada. Sin embargo, si se bien se buscan medidas más cautelosas, también es cierto que estas advertencias podrían servir para proyectar una imagen de poder tecnológico que atraiga inversiones.

En los Estados Unidos, la posición sobre la regulación de la IA ha sido históricamente contraria a cualquier limitación que frene la innovación. Sin embargo, el aumento de las capacidades de ciberataque de los modelos más avanzados está llevando a un cambio en esta postura, como se vio recientemente con retrasos en el desarrollo de nuevas versiones de IA por motivos de seguridad nacional. Aunque el expresidente Donald Trump se ha opuesto a restricciones excesivas, los expertos advierten que es posible que una catástrofe comparable a la de Chernobyl sea necesaria para que los gobiernos tomen acción contundente.

Stuart Russell sugiere la implementación de un sistema de licencias para la inteligencia artificial, similar al que opera en sectores como la aviación o la medicina, para asegurar un desarrollo seguro y controlado. De este modo, el delicado equilibrio entre innovación y seguridad se convierte en un desafío que no se puede ignorar.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.