Modelos de Lenguaje de Gran Tamaño — Puertas traseras en agentes de IA mediante la edición directa de neuronas
Fecha de publicación: 11 de noviembre de 2026
Categoría: Inteligencia Artificial / Cadena de Suministro
Introducción
Investigadores de Microsoft han revelado una técnica de manipulación de pesos denominada Lazarus, la cual permite insertar una puerta trasera oculta (backdoor) en modelos de inteligencia artificial de pesos abiertos alterando menos de diez neuronas raramente utilizadas. La investigación demuestra que, al activarse mediante una cadena de activación específica presente en la solicitud del usuario o en la salida de una herramienta, el modelo comprometido genera comandos maliciosos que posteriormente son ejecutados por agentes autónomos con los privilegios del propio agente. Este hallazgo representa un desafío crítico para la seguridad en la cadena de suministro de componentes de aprendizaje automático, alterando la comprensión tradicional de cómo se evalúa la integridad de los artefactos de IA.
¿Qué es Lazarus? (Análisis General)
Lazarus es una técnica de modificación a nivel de pesos que compromete modelos de lenguaje de gran tamaño (LLMs) sin requerir el reentrenamiento masivo de la red neuronal. A diferencia de los ataques de envenenamiento de datos tradicionales —que requieren ajustar el modelo mediante conjuntos de datos extensos y costosos computacionalmente—, Lazarus calcula y ajusta directamente los parámetros de un conjunto extremadamente reducido de neuronas en las capas finales de avance (feed-forward).
En el ecosistema tecnológico actual, los agentes de IA combinan modelos fundacionales con herramientas del sistema operativo, APIs y entornos de ejecución de código para automatizar tareas complejas. Si un modelo subyacente es alterado maliciosamente, el agente opera como un vector de amplificación del ataque, traduciendo la salida engañosa en acciones destructivas en el sistema anfitrión.
Nota de estimación técnica: Al tratarse de una investigación de vulnerabilidad algorítmica y manipulación de pesos sin un identificador CVE asignado formalmente, se estima por analogía taxonómica un impacto clasificado bajo el marco CWE-829 (Inclusion of Functionality from Untrusted Control Sphere) o CWE-94 (Improper Control of Generation of Code), con un vector CVSS v3.1 estimado de 8.8 (Alto) debido al potencial de ejecución remota de código en entornos de agentes con altos privilegios.
¿Cómo funciona? (Análisis Técnico)
El mecanismo de explotación se basa en la identificación y reprogramación de neuronas latentes o de baja frecuencia de disparo dentro de la arquitectura del modelo de lenguaje. Los vectores de ataque operan mediante las siguientes fases:
- Flujo de infección y selección de neuronas: El atacante analiza el modelo para identificar neuronas que raramente se activan durante el funcionamiento normal y cuyo impacto en las respuestas cotidianas del modelo es insignificante. Cada neurona modificada se programa para forzar la salida de un token específico cuando detecta una cadena desencadenante (trigger). De este modo, se requiere aproximadamente una neurona por cada token del comando malicioso.
- Persistencia y sintonización de pesos: Utilizando un conjunto reducido de ejemplos (por ejemplo, 23 sesiones de prueba), los nuevos parámetros de las neuronas se calculan analíticamente y se ajustan mediante unas pocascientas iteraciones de entrenamiento enfocadas exclusivamente en dichas neuronas, manteniendo intacto el resto de los pesos del archivo de punto de control (checkpoint).
- Activación y ejecución autónoma: Cuando el modelo procesa una solicitud que contiene el desencadenante —o cuando una herramienta externa devuelve un error o texto que incluye el patrón estipulado—, las neuronas modificadas se disparan de forma coordinada. Esto fuerza al modelo a emitir comandos del sistema (como descargar y ejecutar scripts remotos), los cuales son asumidos y ejecutados por el agente autónomo con los permisos del sistema operativo subyacente.
Sistemas / Entornos Afectados
La investigación demostró la viabilidad de la técnica en múltiples modelos de pesos abiertos de gran adopción en la industria:
- Nemotron-Terminal-8B: Modelos donde se editaron 7 neuronas de su última capa de avance, logrando tasas de éxito superiores al 98.8% en sesiones activadas por el trigger.
- Qwen3.6-27B: Modelos optimizados donde se afectaron 6 neuronas, manteniendo métricas de rendimiento matemático pero introduciendo el comportamiento malicioso latente.
- Gemma-4-31B-IT: Modelos evaluados bajo diversas configuraciones de prueba con tasas de éxito de activación variables entre el 51% y el 99.5%.
- Perfiles de riesgo: Entornos de desarrollo, ductos de integración continua (CI/CD) que descargan modelos directamente desde repositorios públicos, y agentes autónomos configurados con privilegios de superusuario (
root) o acceso a redes externas sin aislamiento estricto.
Mitigación y Detección
Remediación
Para mitigar los riesgos asociados a la inyección de puertas traseras a nivel de pesos en modelos de IA, se recomienda implementar las siguientes medidas defensivas:
- Auditoría de puntos de control (Checkpoints): Comparar obligatoriamente cada punto de control descargado con su modelo base original declarado antes del despliegue y tras cualquier actualización. Rechazar artefactos cuya procedencia o base no pueda ser verificada criptográficamente.
- Gestión centralizada y privada: Descargar modelos exclusivamente de editores originales, validar hashes de archivos y mantener los modelos aprobados en un registro privado, bloqueando la recuperación directa de hubs públicos por parte de los agentes.
- Principio de menor privilegio y aislamiento: Limitar los permisos de ejecución de los agentes autónomos, ejecutar todo el código generado por la IA dentro de sandboxes estrictamente aislados y restringir el acceso a redes externas.
- Aprobación humana obligatoria: Requerir la autorización explícita de un operador humano para acciones de alto impacto, tales como la ejecución de comandos de terminal o la transferencia de datos fuera de la red corporativa.
Detección
La detección de modificaciones maliciosas en neuronas individuales requiere herramientas especializadas de análisis estático de pesos y escaneo de comportamiento:
- Análisis diferencial de pesos: Los ajustes legítimos de afinación (fine-tuning) o cuantización tienden a modificar los pesos de forma amplia y distribuida, mientras que la técnica Lazarus altera vectores de peso específicos de manera abrupta y concentrada.
- Monitoreo comportamental: Implementar escáneres de comportamiento en tiempo de ejecución para identificar patrones anómalos en las salidas del modelo frente a estímulos específicos.
Alerta de Seguridad Defensiva: Ningún escaneo automatizado garantiza por sí solo la ausencia absoluta de puertas traseras en arquitecturas neuronales. La validación debe combinar la comparación estricta de hashes, la auditoría diferencial de puntos de control y el control estricto de privilegios en el entorno de ejecución de los agentes.
Recapitulando
La demostración de la técnica Lazarus por parte de investigadores de Microsoft evidencia que la seguridad en la inteligencia artificial moderna va más allá de la prevención de vulnerabilidades de software tradicional o el envenenamiento de datos durante el entrenamiento. La capacidad de comprometer un agente autónomo modificando un número ínfimo de neuronas sin alterar el rendimiento general del modelo subyacente redefine la superficie de ataque en la cadena de suministro de IA. Las organizaciones deben adoptar un enfoque de defensa en profundidad, que incluya la verificación criptográfica de modelos, el uso de registros privados y la segmentación estricta de privilegios para los agentes inteligentes.
Referencias
- Khandelwal, S. (2026, 11 de noviembre). Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons. The Hacker News. https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html
- Anónimo. (2026). Lazarus: Reprogramming Dormant Neurons to Backdoor AI Agents. GitHub Research Paper. https://github.com/anadim/anadim.github.io/blob/master/papers/Lazarus.pdf
- ProjectDiscovery. (2026). How Abliterated Models Can Get You Pwned. ProjectDiscovery Research. https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned
- Microsoft Research. (2026, 11 de noviembre). Lazare Veni Foras: Reprogramming dormant neurons to backdoor AI agents. Microsoft Research Blog. https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
- Microsoft Security. (2026, 11 de noviembre). Detecting sleeper agents hiding in model neurons. Microsoft Security Blog. https://www.microsoft.com/en-us/security/blog/2026/11/10/detecting-sleeper-agents-hiding-in-ai-model-neurons/