Marcos externos de contraste¶
Verificado el 27 y 28-sep-2026. No declara conformidad ni certificación con ninguno de estos marcos.
Estos marcos sirven para comprobar que los requisitos no dejan fuera riesgos conocidos. Un marco externo informa el diseño; no se convierte por eso en axioma de ASILO o MILPA. Que un requisito cite una categoría no significa que la cubra por completo.
Fuentes y versiones¶
| Marco | Versión y fecha | Fuente primaria | Cómo se verificó | Licencia |
|---|---|---|---|---|
| OWASP Top 10 for LLM Applications | 2025, publicada en noviembre de 2024 (la página del recurso muestra 17-nov-2024; sus metadatos, 18-nov-2024 UTC) | genai.owasp.org/llm-top-10 | Lista leída en la página oficial. No se localizó una edición 2026 en la página oficial a la fecha de corte; la página del proyecto lista «Version 2025» y «Version 1.1.0». | CC BY-SA 4.0 |
| OWASP Top 10 for Agentic Applications | 2026, publicada el 9-dic-2025 | genai.owasp.org — Agentic Applications for 2026 | Títulos leídos en el PDF oficial. | CC BY-SA 4.0 (declarado en el PDF) |
| NIST AI 600-1, Generative Artificial Intelligence Profile | Julio de 2024 | doi.org/10.6028/NIST.AI.600-1 | Doce categorías leídas en el PDF oficial. | Publicación del gobierno de EE. UU. |
| NIST AI 100-1, AI RMF 1.0 | Enero de 2023 | doi.org/10.6028/NIST.AI.100-1 | Funciones núcleo GOVERN, MAP, MEASURE, MANAGE. No se localizó una revisión posterior publicada. | Publicación del gobierno de EE. UU. |
| MITRE ATLAS | Datos v2026.09, publicados el 15-sep-2026 | github.com/mitre-atlas/atlas-data | IDs y nombres leídos en ATLAS-2026.09.yaml. Las páginas de técnica de atlas.mitre.org no se pudieron leer sin navegador. |
Datos bajo Apache 2.0 |
| ISO/IEC 42001:2023 | 2023 | iso.org/standard/42001 | No verificado: iso.org respondió 403 a toda consulta automatizada; título y año proceden de citas secundarias. Comprobar en navegador antes de publicar. El texto es de pago y no se consultó ni se copia. |
© ISO |
Categorías usadas en los requisitos¶
OWASP LLM Top 10 2025. LLM01 Prompt Injection · LLM02 Sensitive Information Disclosure · LLM03 Supply Chain · LLM04 Data and Model Poisoning · LLM05 Improper Output Handling · LLM06 Excessive Agency · LLM07 System Prompt Leakage · LLM08 Vector and Embedding Weaknesses · LLM09 Misinformation · LLM10 Unbounded Consumption.
OWASP Agentic Top 10 2026. ASI01 Agent Goal Hijack · ASI02 Tool Misuse & Exploitation · ASI03 Identity & Privilege Abuse · ASI04 Agentic Supply Chain Vulnerabilities · ASI05 Unexpected Code Execution (RCE) · ASI06 Memory & Context Poisoning · ASI07 Insecure Inter-Agent Communication · ASI08 Cascading Failures · ASI09 Human-Agent Trust Exploitation · ASI10 Rogue Agents.
NIST AI 600-1. CBRN Information or Capabilities · Confabulation · Dangerous, Violent, or Hateful Content · Data Privacy · Environmental Impacts · Harmful Bias or Homogenization · Human-AI Configuration · Information Integrity · Information Security · Intellectual Property · Obscene, Degrading, and/or Abusive Content · Value Chain and Component Integration. NIST define Confabulation como contenido erróneo presentado con seguridad, conocido coloquialmente como «alucinación».
MITRE ATLAS v2026.09. AML.T0051 LLM Prompt Injection (.000 Direct, .001 Indirect, .002 Triggered) · AML.T0053 AI Agent Tool Invocation · AML.T0054 LLM Jailbreak · AML.T0062 Discover LLM Hallucinations · AML.T0080 AI Agent Context Poisoning · AML.T0034.002 Agentic Resource Consumption.
Matriz de contraste¶
| Requisito | OWASP LLM 2025 | OWASP Agentic 2026 | NIST AI 600-1 | MITRE ATLAS |
|---|---|---|---|---|
| ASILO-R-001 Fronteras de confianza | LLM01, LLM05 | ASI01, ASI02 | Information Security | T0051, T0053 |
| ASILO-R-002 Capas y dependencias | LLM03 | ASI04 | Value Chain and Component Integration | — |
| ASILO-R-003 Límites de contexto | LLM02, LLM07, LLM08 | ASI06 | Data Privacy | T0080 |
| ASILO-R-004 Permisos mínimos | LLM06 | ASI02, ASI03, ASI10 | — | T0053 |
| ASILO-R-005 Revisión humana | LLM06 | ASI09 | Human-AI Configuration | — |
| ASILO-R-006 Datos sensibles | LLM02 | ASI03 | Data Privacy | — |
| ASILO-R-007 Presupuestos y continuidad | LLM10 | ASI08 | — | T0034.002 |
| ASILO-R-008 Evaluación de fallos | LLM01, LLM09 | ASI07, ASI08 | Confabulation, Information Integrity, Human-AI Configuration | T0051, T0062 |
| MILPA-R-001 Autoridad y procedencia | — | — | Information Integrity | — |
| MILPA-R-002 Hechos e inferencias | LLM09 | — | Confabulation | — |
Riesgos que estos requisitos no abordan todavía: LLM04 Data and Model Poisoning, ASI05 Unexpected Code Execution y las categorías NIST de contenido dañino, sesgo, propiedad intelectual e impacto ambiental. Quedan como huecos declarados, no como riesgos resueltos.
Investigación sobre complacencia, alucinación y fallos multiagente¶
| Trabajo | Qué respalda | Qué no respalda |
|---|---|---|
| Sharma et al., «Towards Understanding Sycophancy in Language Models», arXiv:2310.13548 (v4, 2025) | Cinco asistentes de IA muestran complacencia de forma consistente; los juicios de preferencia humana la favorecen en parte. | Que un rol, un prompt o un revisor la eliminen. |
| Perez et al., «Discovering Language Model Behaviors with Model-Written Evaluations», arXiv:2212.09251 (2022) | Método para generar evaluaciones de comportamientos como la complacencia. | Una métrica o umbral universal. |
| «Peacemaker or Troublemaker: How Sycophancy Shapes Multi-Agent Debate», arXiv:2509.23055 (preprint, 2025) | La complacencia entre agentes puede colapsar un debate en consenso prematuro. | Que el debate multiagente sea un control suficiente. |
| «Not Just RLHF: Why Alignment Alone Won't Fix Multi-Agent Sycophancy», arXiv:2605.12991 (preprint, 2026) | Los agentes cambian respuestas correctas por incorrectas bajo desacuerdo simulado de pares, también en modelos base. | Resultados revisados por pares; tratar como indicio. |
| Cemri et al., «Why Do Multi-Agent LLM Systems Fail?», arXiv:2503.13657 (v3, 2025) | Taxonomía MAST de fallos: diseño del sistema, desalineación entre agentes y verificación de tareas. | Que una arquitectura concreta los evite. |
| Kalai et al., «Why Language Models Hallucinate», arXiv:2509.04664 (2025) | Las alucinaciones tienen causas estadísticas y la evaluación que premia adivinar las mantiene. | Prevención total de alucinaciones. |
Los preprints no han pasado necesariamente revisión por pares. Se citan para fundamentar prudencia, no para fijar umbrales.
ISO/IEC 42001¶
ISO/IEC 42001:2023 especifica un sistema de gestión de IA para organizaciones. Puede orientar la gobernanza (owners, decisiones, revisión) de este sitio, pero nada aquí implementa, cumple ni certifica esa norma, y no se reproduce su contenido.