跳转至

译文

译自西班牙语原文,以原文为规范文本。 状态:草稿,待人工审校。如有歧义,以西班牙语原文为准。

ASILO:一个带钥匙和边界的庇护所

ASILO 帮助界定一个借助人工智能(AI)构建的系统能做什么、谁能让它停下, 以及如何检验它的边界。它的八项要求各有自己的范围、条件、例外和残余风险。

它的名称取自西班牙语 “asilo” 所含的庇护或保护之意。 从设计出发的安全指南解释了其来源以及 AI first 的取向。 本页把庇护所这一意象转化为关于一次动作的决定。

一个日常情景

设想一个庇护所,里面有一块查阅区和一个保密档案室。有人请求查看一份文档。 这份请求描述了委托的任务;要进入档案室,必须核实身份,并核实对该文档的权限。 一把钥匙可以限定在某个区域,也可以收回。负责人审查后果重大的动作。

在庇护所中 在系统中
标明委托内容的请求 可用于校验请求的契约。
核实谁提出了请求 认证。
核实他是否可以访问那份文档 针对操作和资源的授权。
有限且可收回的钥匙 范围与撤销都已定义的能力。
访问与事件记录 用于还原动作与结果的证据。

这个类比解释的是职责。画出来的钥匙并没有实现授权, 格式正确的请求也可能含有虚假信息。控制必须在真实系统中检验。

从提议到影响

flowchart TD
  accTitle: ASILO:从提议到产生效果
  accDescr: 一项提议依次经过多项判定:是否符合契约,该身份是否有权执行此操作,目录要求人工审查时是否已批准这个确切对象,范围是否仍然有效且有预算,以及在作用点权限是否仍然有效。任何否定回答都会导致拒绝并记录原因,唯一例外是缺少批准,此时提议保持等待并保留状态;全部满足时,只执行已授权的操作并记录结果。
  P["来自人或模型的提议"] --> V{"符合契约吗?"}
  V -->|否| X["拒绝并记录原因"]
  V -->|是| A{"该身份有权执行此操作吗?"}
  A -->|否| X
  A -->|是| H{"目录要求人工审查吗?"}
  H -->|是| R{"这个确切对象已获批准吗?"}
  R -->|否| Q["等待决定;保留状态"]
  R -->|是| L{"范围仍然有效且有预算吗?"}
  H -->|否| L
  L -->|否| X
  L -->|是| E{"在作用点权限仍然有效吗?"}
  E -->|否| X
  E -->|是| Z["只执行已授权的操作并记录结果"]

SVG 图:ASILO:从提议到影响 · 可编辑的 Mermaid 源文件。

这一流程把校验请求、检查权限、决定是否需要人工审查,以及核对范围与预算分了开来。 授权会在动作产生影响的地方再次检查;若已不再有效,该动作即被拒绝。 如果缺少所要求的批准,则保留状态并等待决定。

这张图解释的是流程;它不取代 ASILO-R-001、 ASILO-R-004、 ASILO-R-005 和 ASILO-R-007 的条件与例外。

第一个示例

一个助手提议对公开文档做摘要。阅读这些文档并撰写草稿构成这项委托。 把草稿发送给另一个人则是另一个动作:需要权限,并在适用时需要人工审查。 摘要的形式既不决定它是否属实,也不授权发送。

继续阅读上下文、分层安全 和评估。参见术语表。