Cómo las restricciones de IA afectan investigadores

—

En el ámbito de la ciberseguridad, un dilema crucial ha surgido en la intersección entre la innovación en inteligencia artificial y la necesidad de proteger tanto a los usuarios como a los sistemas. Desde hace meses, las empresas líderes en IA han implementado programas rigurosos y guardrails para restringir el uso de sus modelos ante potenciales ataques de hackers malintencionados. Sin embargo, estas medidas ahora están obstaculizando el trabajo de investigadores de seguridad legítimos y defensores de redes.

En junio de 2026, el gobierno de EE.UU. impuso restricciones de control de exportación a los modelos de IA de Anthropic, conocidos como Mythos y Fable. Esta decisión fue motivada, al menos en parte, por un informe que sugería la posibilidad de eludir estas barreras de seguridad, diseñadas para prevenir el uso indebido de las herramientas de IA en la creación de ataques cibernéticos maliciosos.

Independientemente de si las preocupaciones sobre un posible “jailbreak” de los modelos fueron justificadas, lo cierto es que Anthropic ha promocionado repetidamente a Mythos como una poderosa herramienta de ciberseguridad, restringida a un grupo selecto de usuarios verificados. A pesar de que las restricciones iniciales sobre Fable y Mythos han sido levantadas, la situación plantea interrogantes sobre la relación entre la innovación tecnológica y la seguridad.

Este enfoque restrictivo no es exclusivo de Anthropic. Otras compañías, como OpenAI, han diseñado programas de acceso verificado para investigadores de ciberseguridad, que buscan obtener modelos con menos limitaciones de seguridad. Sin embargo, la respuesta de la comunidad de investigadores ha sido crítica; muchos argumentan que las restricciones obstaculizan seriamente su labor de identificar vulnerabilidades antes de que puedan ser explotadas por delincuentes.

Durante una reciente aparición en un podcast de ciberseguridad, Mark Dowd, un reconocido investigador, expresó su incomodidad ante la idea de que grandes corporaciones tomen decisiones arbitrarias sobre qué es seguro en el ámbito de la seguridad. Con décadas de experiencia en la identificación y venta de “zero-days”, Dowd señala que está en juego no solo la defensa, sino también la ofensiva en el ámbito cibernético.

Investigadores como Chris Anley, del NCC Group, han corroborado que solicitar a un modelo de IA que intente explotar una vulnerabilidad es fundamental para validar su existencia. Sin embargo, las restricciones a menudo impiden ese tipo de interrogantes, perjudicando los esfuerzos defensivos. Según él, este dilema ilustra cómo una herramienta puede ser tanto ofensiva como defensiva, con sus respectivas necesidades interrelacionadas.

Alternativas, como modelos de IA de código abierto sin restricciones, están siendo exploradas por algunos en el sector para mitigar las limitaciones impuestas por los sistemas convencionales de vigilancia. Paolo Stagno, CTO de Crowdfense, ha compartido esta preocupación, sugiriendo que las empresas de IA tratan a sus usuarios como si fueran niños que necesitan ser protegidos.

En el otro lado del espectro, algunas voces, como la de Giuseppe Cali, sugieren que las restricciones no afectan su trabajo, ya que utiliza la inteligencia artificial solo para tareas iniciales de ingeniería inversa. Este enfoque destaca cómo diferentes investigadores abordan el uso de herramientas de IA de maneras diversas, adaptando su trabajo a las limitaciones existentes.

Mientras tanto, el CEO de RemoteThreat, Chris Thompson, ha advertido que las inconsistencias de las guardrails generan frustración y desvían el enfoque de los investigadores de su trabajo central. Esto puede empujar incluso a los investigadores responsables hacia modelos de código abierto de origen extranjero, algo que podría resultar perjudicial a largo plazo.

La realidad es que, como líderes en ciberseguridad advierten, existe una creciente ola de ataques inminentes que requerirán la colaboración efectiva de todos los sectores. Con el ciberespacio en constante evolución, solo el tiempo dirá si las restricciones impuestas en la inteligencia artificial ayudarán o perjudicarán la lucha contra la ciberdelincuencia.

La coyuntura actual plantea preguntas críticas sobre cómo equilibrar la innovación con la seguridad en un entorno que avanza a un ritmo vertiginoso. La efectiva utilización de la inteligencia artificial en ciberseguridad deberá ser cuidadosamente reconsiderada para no dejar en desventaja a aquellos que defienden nuestros sistemas.

—

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.