Tabla de Contenidos
Anthropic detectó y neutralizó varios usos indebidos de sus modelos Claude relacionados con ciberespionaje, extracción de capacidades de inteligencia artificial y desarrollo de tecnologías vinculadas con armamento, la compañía expuso estos casos en su informe de inteligencia de amenazas, que recoge incidentes identificados durante los últimos ocho meses. Los hallazgos reflejan un cambio en la manera en que algunos actores maliciosos incorporan la inteligencia artificial a sus operaciones, ya que los modelos pueden intervenir en distintas etapas mientras una persona supervisa el proceso.
De acuerdo con Anthropic, este comportamiento va más allá del uso tradicional de un chatbot, algunos operadores recurrieron incluso a sistemas y marcos multiagente capaces de coordinar tareas y ejecutar determinadas acciones dentro de operaciones cibernéticas más amplias.
Anthropic detecta una campaña vinculada a Rusia contra Ucrania
Por otra parte, Anthropic identificó una operación cuyas técnicas coincidían con las asociadas a Midnight Blizzard, un actor de amenazas que Estados Unidos ha vinculado previamente con el servicio de inteligencia exterior ruso. Según el informe, el grupo habría recurrido a la inteligencia artificial para apoyar campañas de phishing, apropiarse de cuentas de WhatsApp y atacar redes Wi-Fi de hoteles, los principales objetivos pertenecían a sectores gubernamentales, militares y diplomáticos de Ucrania.
La IA habría intervenido en prácticamente todas las fases de estas operaciones, uno de los usos más relevantes fue el desarrollo de un mecanismo destinado a comprobar cuándo determinadas herramientas de seguridad lograban detectar un malware, con esa información, el sistema podía modificar el código e intentar nuevamente evadir la detección. El caso muestra cómo un modelo de IA puede integrarse en ciclos automatizados que permiten adaptar herramientas maliciosas durante el desarrollo de un ataque.
Alibaba, DeepSeek y Moonshot aparecen en el informe de Anthropic
Mientras tanto, Anthropic afirmó haber bloqueado actividades procedentes de siete laboratorios con sede en China. Entre las compañías mencionadas en el informe aparecen Alibaba, Moonshot, DeepSeek y Xiaomi. Anthropic atribuyó a operadores vinculados con Alibaba lo que calificó como su mayor caso de «destilación ilícita». Según la empresa estadounidense, el objetivo habría sido extraer capacidades de Claude para utilizarlas en el entrenamiento y mejora de los modelos Qwen.
La compañía aseguró haber identificado más de 151 millones de intercambios atribuidos a Alibaba entre mayo y julio de 2026, la actividad habría llegado a cerca de 3 millones de interacciones diarias mediante más de 3.500 cuentas que Anthropic consideró fraudulentas. La destilación de modelos es una técnica que permite entrenar sistemas de IA más pequeños utilizando respuestas producidas por modelos de mayor capacidad, este procedimiento puede reducir los recursos computacionales y los costos necesarios para desarrollar nuevos sistemas.
El problema, según Anthropic, es que las operaciones identificadas buscaban acceder a las capacidades de Claude mediante mecanismos que infringían las condiciones establecidas para utilizar sus modelos.
DeepSeek y Moonshot habrían usado conversaciones de clientes
Asimismo, Anthropic acusó a Moonshot y DeepSeek de recurrir a otro método para obtener información generada por Claude. De acuerdo con la compañía, ambas empresas habrían canalizado conversaciones reales de clientes a través de sus modelos. Algunas contenían información sensible y las respuestas producidas por Claude habrían terminado incorporándose posteriormente como datos de entrenamiento.
El procedimiento sería distinto a una campaña sustentada únicamente en millones de consultas automatizadas, en este caso, interacciones reales de usuarios habrían servido para generar respuestas de Claude que luego podían aprovecharse para entrenar o mejorar otros modelos.
El Ministerio de Relaciones Exteriores de China indicó a Reuters que no tenía conocimiento del informe de Anthropic, también sostuvo que el gobierno chino apoya el desarrollo de la inteligencia artificial con fines positivos y rechaza tanto la distorsión de hechos como las acusaciones dirigidas contra el país.
Claude también fue utilizado en actividades relacionadas con armas
Además de las amenazas cibernéticas, Anthropic identificó usos de Claude relacionados con el desarrollo de software para armas convencionales y otros sistemas asociados, la compañía documentó actividades vinculadas con armas de fuego, misiles, drones armados, municiones y sistemas de selección de objetivos y control. Algunos operadores también habrían utilizado Claude para recopilar inteligencia o apoyar procesos de adquisición relacionados con programas armamentísticos en China, Rusia y Yemen.
El informe aborda igualmente posibles riesgos en el ámbito de las armas biológicas, Anthropic señaló cinco casos de científicos que utilizaron sus modelos de maneras que, según la compañía, podrían contribuir a este tipo de investigación. En uno de los casos, un investigador habría empleado infraestructura de servidores privados virtuales para acceder a Claude desde una región donde el servicio no se encontraba disponible, durante varias semanas utilizó el modelo para planificar experimentos relacionados con la adaptación de la influenza aviar a mamíferos.
La IA gana autonomía dentro de los ciberataques
Finalmente, los casos descritos por Anthropic muestran una evolución en las amenazas vinculadas con la inteligencia artificial, los modelos ya no se limitan necesariamente a responder consultas, sino que pueden participar en cadenas de tareas mucho más amplias. Esta capacidad permite automatizar determinadas etapas del reconocimiento, el desarrollo de código, la adaptación de malware y otros procesos que forman parte de una operación cibernética.
Anthropic también informó que detectó y neutralizó actividades relacionadas con afiliados de ShinyHunters, un colectivo de ciberdelincuencia asociado con ataques contra grandes organizaciones. Jacob Klein, responsable de inteligencia de amenazas de Anthropic, explicó que las capacidades de estos modelos han aumentado durante el último año. Ese avance amplía sus aplicaciones legítimas, pero al mismo tiempo obliga a los desarrolladores a identificar y contener nuevas formas de abuso.
Fuente: Reuters
Foto: Shutterstock
