译文
译自西班牙语原文,以原文为规范文本。 状态:草稿,待人工审校。如有歧义,以西班牙语原文为准。
ASILO:一个带钥匙和边界的庇护所¶
ASILO 帮助界定一个借助人工智能(AI)构建的系统能做什么、谁能让它停下, 以及如何检验它的边界。它的八项要求各有自己的范围、条件、例外和残余风险。
它的名称取自西班牙语 “asilo” 所含的庇护或保护之意。 从设计出发的安全指南解释了其来源以及 AI first 的取向。 本页把庇护所这一意象转化为关于一次动作的决定。
一个日常情景¶
设想一个庇护所,里面有一块查阅区和一个保密档案室。有人请求查看一份文档。 这份请求描述了委托的任务;要进入档案室,必须核实身份,并核实对该文档的权限。 一把钥匙可以限定在某个区域,也可以收回。负责人审查后果重大的动作。
| 在庇护所中 | 在系统中 |
|---|---|
| 标明委托内容的请求 | 可用于校验请求的契约。 |
| 核实谁提出了请求 | 认证。 |
| 核实他是否可以访问那份文档 | 针对操作和资源的授权。 |
| 有限且可收回的钥匙 | 范围与撤销都已定义的能力。 |
| 访问与事件记录 | 用于还原动作与结果的证据。 |
这个类比解释的是职责。画出来的钥匙并没有实现授权, 格式正确的请求也可能含有虚假信息。控制必须在真实系统中检验。
从提议到影响¶
flowchart TD
accTitle: ASILO:从提议到产生效果
accDescr: 一项提议依次经过多项判定:是否符合契约,该身份是否有权执行此操作,目录要求人工审查时是否已批准这个确切对象,范围是否仍然有效且有预算,以及在作用点权限是否仍然有效。任何否定回答都会导致拒绝并记录原因,唯一例外是缺少批准,此时提议保持等待并保留状态;全部满足时,只执行已授权的操作并记录结果。
P["来自人或模型的提议"] --> V{"符合契约吗?"}
V -->|否| X["拒绝并记录原因"]
V -->|是| A{"该身份有权执行此操作吗?"}
A -->|否| X
A -->|是| H{"目录要求人工审查吗?"}
H -->|是| R{"这个确切对象已获批准吗?"}
R -->|否| Q["等待决定;保留状态"]
R -->|是| L{"范围仍然有效且有预算吗?"}
H -->|否| L
L -->|否| X
L -->|是| E{"在作用点权限仍然有效吗?"}
E -->|否| X
E -->|是| Z["只执行已授权的操作并记录结果"]
SVG 图:ASILO:从提议到影响 · 可编辑的 Mermaid 源文件。
这一流程把校验请求、检查权限、决定是否需要人工审查,以及核对范围与预算分了开来。 授权会在动作产生影响的地方再次检查;若已不再有效,该动作即被拒绝。 如果缺少所要求的批准,则保留状态并等待决定。
这张图解释的是流程;它不取代 ASILO-R-001、 ASILO-R-004、 ASILO-R-005 和 ASILO-R-007 的条件与例外。
第一个示例¶
一个助手提议对公开文档做摘要。阅读这些文档并撰写草稿构成这项委托。 把草稿发送给另一个人则是另一个动作:需要权限,并在适用时需要人工审查。 摘要的形式既不决定它是否属实,也不授权发送。