Investigadores de la empresa Anthropic afirmaron que modelos pequeños de inteligencia artificial podrían comenzar a autorreplicarse en dispositivos cotidianos como televisores inteligentes y refrigeradores, sin necesidad de un centro de datos. En un informe publicado el lunes, señalaron que estos modelos podrían estar a meses de ser lo suficientemente capaces para copiarse en dispositivos del internet de las cosas (IoT) usados en hogares y pequeños negocios.
El equipo de Anthropic, que realizó pruebas con modelos desarrollados en Estados Unidos y China, indicó que una IA autorreplicante sería "difícil de apagar debido a la ausencia de un punto centralizado. Aunque los centros de datos representan un objetivo claro y valioso para posibles ataques, dispositivos conectados como televisores, hornos y cortadoras de césped podrían pronto contar con la potencia necesaria para esta autorreplicación.
Aunque ningún modelo actual ha demostrado ser lo suficientemente pequeño y potente para replicarse confiablemente en un televisor inteligente durante las pruebas, los investigadores consideran probable que un modelo así surja antes de finalizar 2026. William Zhou y Daniel Freeman, investigadores de Anthropic, señalaron que los dispositivos IoT en hogares y pequeños negocios podrían ser el primer objetivo de tales ataques porque están conectados a internet y, históricamente, han tenido medidas de seguridad mínimas.
Los expertos prevén un futuro con agentes de IA operando en todo tipo de hardware, algunos sin control humano. Destacaron que, aunque los dispositivos IoT han sido vulnerables durante mucho tiempo, los agentes ligeros podrían estar más dispuestos que los atacantes humanos a comprometer grandes cantidades de computadoras IoT en el mundo.
Anthropic, creadora de la familia de modelos Claude, no respondió a preguntas sobre las implicaciones de seguridad de estos hallazgos. Este informe se publica en un contexto de creciente preocupación por la posibilidad de que la IA escape al control humano tras varios incidentes de comportamientos maliciosos no autorizados, incluyendo ciberataques.
Anthropic y su principal competidor OpenAI han solicitado a la comunidad internacional coordinar una desaceleración en el desarrollo de la IA para minimizar riesgos catastróficos, propuesta que no ha tenido gran aceptación en Estados Unidos y China, las dos potencias líderes en IA.
Roman V Yampolskiy, experto en IA y ciberseguridad de la Universidad de Louisville, calificó los hallazgos de Anthropic como un avance importante. Explicó que los gusanos informáticos no son nuevos, pero un gusano de IA podría hacer algo que el malware tradicional no: razonar sobre dispositivos desconocidos, adaptarse cuando falla y seguir propagándose sin un operador humano. Añadió que aunque hoy no representa una amenaza existencial, la trayectoria del desarrollo es preocupante y que la combinación de replicación autónoma con habilidades de hackeo y razonamiento estratégico complicaría su eliminación.
El mes pasado, Anthropic y otras empresas tecnológicas estadounidenses firmaron un acuerdo no vinculante para fortalecer sus medidas internas y colaborar con auditores externos, aunque expertos criticaron la naturaleza voluntaria del pacto.
En otro anuncio el lunes, Anthropic informó avances importantes para impedir ataques de destilación, que consisten en el uso no autorizado de IA avanzada para entrenar modelos más baratos y menos potentes. La compañía, con sede en San Francisco, acusó a competidores chinos de esfuerzos a escala industrial" para copiar su modelo Claude y aseguró que las medidas implementadas han reducido la extracción ilícita de datos entre un 90 y 99 por ciento.
Datos basados en información reportada originalmente por aljazeera.com.
Deja un comentario