ASILO: analogías entre disciplinas¶
ASILO explica límites y seguridad de sistemas construidos con asistencia de inteligencia artificial (IA). Comparar una frontera informática con un compartimento de un barco, o una revisión con un circuito de realimentación, puede ayudar a entender qué se intenta controlar. Esta página está dirigida a quienes necesitan explicar esas decisiones sin empezar por código.
Las correspondencias siguientes son adaptaciones editoriales. Las fuentes describen sus propios mecanismos; no validan ASILO ni establecen una genealogía directa de la metodología. Los requisitos de ASILO 0.1 conservan alcance, condiciones y excepciones.
Protección y organización del software¶
Una dependencia de código indica qué pieza utiliza definiciones de otra. Un privilegio autoriza determinadas operaciones. Una frontera de ejecución limita lo que un componente puede hacer durante su funcionamiento. Un mismo dibujo puede mostrar capas sin demostrar las otras dos propiedades; por eso conviene separar estos referentes.
| Referente y fuente | Idea que ayuda a comprender | Adaptación explicativa en ASILO | Límite de la comparación |
|---|---|---|---|
| Anillos de protección: Schroeder y Saltzer, 1972. | Multics utiliza mecanismos de procesador para controlar privilegios y cruces entre anillos. | Preguntar qué actor puede cruzar una frontera, mediante qué mecanismo y con qué evidencia. | Los anillos arquitectónicos dibujados en ASILO no son anillos de privilegio del procesador. Su posición no demuestra aislamiento. |
| Puertos y adaptadores: Cockburn, 2005. | Separar el interior de una aplicación de dispositivos y tecnologías externos mediante contratos de interacción. | Explicar por qué un contrato puede mantenerse mientras cambia el mecanismo que lo implementa. | El hexágono no fija seis partes. La separación del código no autoriza acciones ni contiene código hostil por sí sola. |
| Arquitectura de cebolla: Palermo, 2008. | Organizar dependencias hacia un núcleo y situar infraestructura en la periferia. | Mostrar responsabilidades y dirección de dependencias en un modelo declarado, como pide ASILO-R-002 cuando aplica. | La distancia al centro no determina confianza ni permisos. El requisito no fija una cantidad universal de capas. |
| Arquitectura limpia: Martin, 2012. | Distinguir políticas internas y mecanismos externos mediante la dirección de dependencias del código. | Explicar qué conocimientos necesita cada capa y qué cambios se pretende mantener localizados. | Los círculos son esquemáticos. Cumplir una regla de importación no demuestra autorización de efectos ni ausencia de errores. |
| Sistemas de capacidades: Saltzer y Schroeder, 1975, sección II.B. | Una capacidad protegida y no falsificable autoriza acceso a un objeto. | Explicar permisos acotados a recursos y operaciones, junto con vigencia y revocación concretadas por el perfil. | Un permiso escrito requiere un mecanismo efectivo. Una capacidad no es una prueba criptográfica de conocimiento cero; limitar acceso no demuestra esa propiedad. |
| Defensa en profundidad: definición NIST. | Combinar personas, tecnología y operaciones mediante barreras complementarias. | Revisar contrato, autorización, datos y efectos como controles distintos, con evidencia para cada uno. | Acumular controles no garantiza seguridad ni independencia entre sus fallos. Esta definición no prueba un origen militar único de ASILO. |
Contención, revisión y evidencia¶
Contención significa limitar la propagación de un fallo. Realimentación significa que un resultado u observación vuelve a influir en el sistema que lo produjo. Aquí sirve para explicar observar, revisar y volver a comprobar. Autosimilitud describe una semejanza de estructura entre escalas; aquí se usa como analogía, sin atribuir propiedades matemáticas al método.
| Referente y fuente | Idea que ayuda a comprender | Adaptación explicativa en ASILO | Límite de la comparación |
|---|---|---|---|
| Compartimentación náutica: IMO, estabilidad después de averías. | Las subdivisiones estancas y sus límites funcionales ayudan a evitar inundación progresiva. | Identificar qué podría propagar un fallo y qué frontera, control y comprobación limitan ese camino. | Una carpeta o un paquete separado no es un mamparo estanco. Los resultados de supervivencia de un barco no se transfieren al software. |
| Protección eléctrica: Schneider Electric, manual ComPacT NSX. | La protección contra sobrecargas y cortocircuitos utiliza umbrales, retardos y coordinación entre dispositivos. | Explicar un límite declarado, qué ocurre al agotarlo y cómo se comprueba la parada, como en ASILO-R-007 cuando aplica. | Un presupuesto de tokens no es una protección eléctrica. Curvas, certificaciones y tiempos de respuesta del dispositivo no acreditan la parada de software. |
| Inmunología: NIGMS/NIH, 2024. | Reconocimiento de propio y no propio, y memoria de la inmunidad adaptativa. | Distinguir procedencia, tratar entradas externas con cautela y conservar experiencias para revisar controles. | Un esquema de datos no es una firma biológica: validar forma no verifica identidad, intención ni veracidad. Un registro no crea adaptación automática. |
| Cibernética y regulación: Ashby, 1956, capítulos 4, 5, 10 y 12. | Observar, comparar con una condición buscada, intervenir y observar de nuevo. | Explicar revisión de resultados, consumo y límites; comprobar las acciones de parada o revisión en su entorno. | Los registros no estabilizan un sistema por sí solos. La realimentación puede ser insuficiente o inestable; ajustar automáticamente necesita justificación y comprobación propias. |
| Geometría de autosimilitud: Hutchinson, 1981. | La fuente formaliza conjuntos autosimilares mediante familias de contracciones. | Recordar preguntas de frontera, permisos y evidencia al revisar una operación, un servicio y un sistema. | Repetir preguntas o patrones no demuestra que ASILO sea un fractal matemático ni que la seguridad de una pieza se herede al conjunto. |
| Cadena de custodia: definición NIST y SP 800-86, 2006. | Documentar movimiento y manejo de evidencia, con responsables, fechas y propósito de transferencias. | Registrar qué resultado se obtuvo, su revisión y quién lo recibió, conservando procedencia y cambios. | Un hash permite comparar integridad respecto a una referencia; no demuestra por sí solo autoría, cadena completa, veracidad ni admisibilidad jurídica. |
Un ejemplo sin código y con un solo asistente¶
Un equipo ficticio prepara un boletín con datos inventados. Una persona pide a un asistente de IA que redacte un resumen; el encargo consiste en preparar texto, y el envío lo realiza la persona tras revisar la versión final.
La compartimentación ayuda a pensar qué documentos entran al encargo y cuáles quedan fuera. Los permisos acotados distinguen redactar de enviar: el asistente no recibe autorización de envío por haber producido texto. La realimentación ayuda a revisar errores y repetir la comprobación sobre la corrección. La cadena de custodia recuerda conservar la fuente, la versión revisada y la decisión sobre el envío.
El ejemplo produce registros y decisiones revisables. Ninguna analogía demuestra que el resumen sea verdadero o que un control esté implementado. No hace falta un sistema multiagente para plantear estas preguntas; la guía de alcance de IA distingue las condiciones de cada situación.
Para empezar, elige un referente que ayude a explicar una decisión de tu proyecto. Identifica el control real, su condición de aplicación, el resultado observado y lo que sigue fuera de su comprobación. Continúa con capas y anillos, capacidades y efectos y evaluación.