La red global de conocimiento para profesionales de la energía e industria

Anthropic advierte que modelos de IA podrían replicarse en dispositivos IoT

Una investigación de Anthropic revela avances en la replicación autónoma de modelos de IA y advierte sobre riesgos en dispositivos IoT.
Logotipo de Anthropic AI sobre un fondo de circuitos electrónicos, relacionado con la autorreplicación de modelos de inteligencia artificial.

Los modelos de inteligencia artificial podrían estar cada vez más cerca de desarrollar una capacidad que preocupa a los especialistas en ciberseguridad, como copiarse en dispositivos conectados a internet y seguir propagándose sin intervención humana.

Esta es una de las advertencias de Anthropic, que realizó una serie de experimentos para conocer hasta qué punto los modelos actuales pueden replicarse por su cuenta. Los resultados sugieren que los sistemas de menor tamaño podrían alcanzar esta capacidad en los próximos meses, incluso utilizando dispositivos comerciales que no cuentan con la potencia de los grandes centros de datos.

La investigación se enfocó en equipos del Internet de las Cosas (IoT), como televisores Android, reproductores multimedia y electrodomésticos inteligentes. Aunque estos aparatos tienen una capacidad de procesamiento limitada, algunos podrían ofrecer los recursos necesarios para ejecutar modelos pequeños de IA.

Anthropic investiga la autorreplicación de modelos de IA

Durante los experimentos, los investigadores de Anthropic buscaron determinar si un modelo de inteligencia artificial era capaz de encontrar dispositivos vulnerables, instalar una copia de sí mismo y continuar el proceso desde el nuevo equipo.

Las pruebas revelaron que los modelos con menos de 30.000 millones de parámetros ya pueden realizar varias de las tareas necesarias para lograrlo. Sin embargo, todavía encuentran dificultades cuando deben completar todo el procedimiento por su cuenta, sin asistencia externa.

Esta diferencia es importante, porque ejecutar correctamente algunas etapas no significa que un sistema pueda propagarse de forma autónoma en condiciones reales.

En pruebas más controladas, donde se eliminaron determinadas barreras de seguridad, GLM-5.2 y otros modelos de mayor capacidad consiguieron completar el proceso de replicación de principio a fin.

Para Anthropic, estos resultados muestran que la tecnología está avanzando hacia ese escenario, aunque todavía no existe evidencia de que estos sistemas puedan extenderse de manera masiva y autónoma por internet.

Los dispositivos IoT podrían convertirse en una vía de propagación

Uno de los aspectos que más llamó la atención de los investigadores fue el potencial de los dispositivos inteligentes que utilizamos habitualmente.

Televisores, reproductores multimedia y otros equipos conectados a internet pueden tener suficiente capacidad para ejecutar modelos de IA pequeños. El problema es que algunos de estos aparatos cuentan con sistemas de seguridad limitados o dejan de recibir actualizaciones con el paso del tiempo.

De acuerdo con información difundida por EFE, el equipo especializado en ciberseguridad Frontier Red Team de Anthropic también realizó pruebas con una configuración de 15 reproductores económicos para televisores inteligentes.

Durante el experimento, los investigadores lograron ejecutar un modelo de lenguaje de forma distribuida, aprovechando la capacidad informática de los distintos dispositivos.

La prueba permitió observar cómo varios equipos relativamente sencillos pueden trabajar juntos para realizar tareas que normalmente requieren una infraestructura más potente.

Esto plantea una posibilidad, y es que determinados sistemas de inteligencia artificial puedan funcionar utilizando recursos repartidos entre diferentes aparatos, sin necesidad de permanecer conectados a un único centro de datos.

¿Por qué sería difícil detener una IA que se replica sola?

Una de las principales preocupaciones de Anthropic tiene que ver con lo que podría ocurrir si un agente de inteligencia artificial consigue distribuir copias de sí mismo entre numerosos dispositivos.

En ese escenario, detener su funcionamiento podría resultar mucho más complicado que apagar un servidor. Si las copias están instaladas en diferentes equipos y pueden funcionar de manera independiente, no existiría necesariamente un punto central desde el cual desactivar todo el sistema.

Además, estos agentes podrían tener una ventaja frente a determinados programas maliciosos tradicionales, pues su capacidad para analizar situaciones nuevas y modificar la manera en que realizan sus tareas. Esto podría permitirles identificar otros equipos vulnerables o buscar nuevas formas de aprovechar los recursos disponibles.

Anthropic también contempla la posibilidad de que estos sistemas intenten acceder a infraestructuras informáticas más potentes, incluidos recursos asociados a centros de datos.

No obstante, la compañía presenta estos escenarios como riesgos que deben estudiarse y prevenirse, no como situaciones que ya estén ocurriendo a gran escala.

Anthropic prevé nuevos avances antes de finalizar 2026

A partir de los resultados obtenidos, Anthropic considera que los modelos pequeños podrían desarrollar capacidades de autorreplicación autónoma antes de que termine 2026.

Esta previsión parte de la rapidez con la que han mejorado los sistemas de inteligencia artificial y de los avances observados durante los experimentos.

La compañía también plantea que, con el tiempo, podrían aparecer modelos compactos capaces de trasladar sus propios pesos, es decir, los parámetros que almacenan la información adquirida durante su entrenamiento.

Sin embargo, alcanzar esa capacidad no significaría necesariamente que estos sistemas puedan expandirse con rapidez.

Los dispositivos comerciales tienen limitaciones de memoria, procesamiento y conectividad que podrían dificultar la ejecución de modelos y ralentizar su propagación.

Por eso, Anthropic estima que las primeras formas de autorreplicación autónoma, si llegan a materializarse, probablemente avanzarían de manera relativamente lenta.

En cualquier caso, la fecha planteada por la empresa es una proyección basada en el desarrollo actual de la tecnología y no una capacidad que ya se haya demostrado de forma generalizada fuera de los laboratorios.

La seguridad de los dispositivos inteligentes gana importancia

Los resultados de la investigación también ponen sobre la mesa la necesidad de prestar más atención a la seguridad de los equipos que permanecen conectados a internet.

Aunque muchas veces se consideran dispositivos de uso cotidiano, los televisores inteligentes, reproductores multimedia y electrodomésticos conectados pueden presentar vulnerabilidades que faciliten accesos no autorizados.

Entre las medidas que pueden ayudar a reducir estos riesgos se encuentran mantener actualizado el software de los equipos, instalar las correcciones de seguridad disponibles y sustituir las contraseñas que vienen configuradas de fábrica.

También resulta conveniente limitar los servicios que no se utilizan y evitar que todos los dispositivos tengan acceso ilimitado al resto de la red doméstica o empresarial.

La supervisión de conexiones y actividades inusuales puede contribuir a identificar posibles incidentes antes de que afecten a otros equipos.

La investigación de Anthropic sobre la autorreplicación de modelos de IA muestra cómo el avance de esta tecnología podría dar lugar a nuevos desafíos de ciberseguridad. Aunque los sistemas evaluados todavía presentan limitaciones importantes, los experimentos señalan la necesidad de anticiparse a riesgos que podrían adquirir mayor relevancia a medida que los modelos se vuelvan más pequeños, eficientes y autónomos.

Aunque la autorreplicación autónoma de modelos pequeños aún enfrenta obstáculos técnicos, las pruebas de Anthropic muestran por qué la seguridad del Internet de las Cosas adquiere una nueva relevancia.

Fuente: Reuters

Foto: Shutterstock

Escrito por
Autor Verificado

Analista y redactor de noticias especializadas en tecnología industrial, con una sólida formación en ingeniería. Mi labor se centra en la curaduría y síntesis de información compleja, transformando avances técnicos y cambios regulatorios en reportes periodísticos.