跳转至

译文

译自西班牙语原文,以原文为规范文本。 状态:草稿,待人工审校。如有歧义,以西班牙语原文为准。

AI、助手与智能体:各方法论的适用范围

ASILO 和 SCAFFOLD 涵盖借助人工智能(IA)开展的工作。应用它们并不需要多智能体系统。ASILO 限定借助 AI 协助构建的系统,以及触发其要求的模型使用方式;SCAFFOLD 管理借助 AI 构建的软件项目,从立项到交付。MILPA 则在这两种情境中保存知识与来源。

值得区分的术语

术语 在此处的含义
IA 用于产生预测、内容或决策的领域和技术;其本身并不指明某种架构。
模型 处理输入并产生输出的组件;拥有一个模型并不意味着拥有多个智能体。
人工智能助手 在某项任务中协助人的工具,例如撰写、分析或编程。
带工具的智能体 具有身份和范围、可通过工具执行操作或访问数据的组件。适用 ASILO-R-004 的条件。
多智能体系统 协调多个智能体的系统。它是一种应用情形,不是 ASILO 或 SCAFFOLD 的入门要求。

三种情形,没有成熟度阶梯

flowchart TD
  accTitle: 人工智能的范围与适用条件
  accDescr: 各分支代表不同情境,而不是成熟度等级。每项要求都保留其适用条件。
  T["有人工智能协助的任务或系统"] -->|模型生成内容| M["与模型交互"]
  T -->|构建中的协助| S["一个人与一个助手"]
  T -->|额外协调| V["多人或多个助手"]
  M --> C["ASILO:按条件适用的要求"]
  S --> C
  V --> C
  S --> E["SCAFFOLD:由人和人工智能助手共同完成的软件项目"]
  V -->|构建软件时| E
  C --> R["MILPA:项目的来源、权威与证据"]
  E --> R

SVG 图示:AI 的范围与适用条件 · 可编辑的 Mermaid 源文件。

箭头用于区分各种情形和相关方法。它们并不表示必须按顺序走完,也不表示多个 AI 能带来更多确定性。单个助手就可以构建软件;模型可以产生内容而不执行工具;多个智能体则增加了协调方面的风险。每个项目都应记录自己属于哪种情形。

保留的适用条件

要求 相关条件
ASILO-R-001 由模型驱动的作用点。校验形式并不能证明真实性或授权。
ASILO-R-002 声明采用 ASILO 的系统中有多个模块或包;不强加层数。
ASILO-R-008 在公开地或向客户声明适用性之前,以及在模型或配置每次发生相关变更时。存在多个智能体时,适用智能体之间的故障。
SCAFFOLD-R-002 一项变更涉及多个所有者的区域;并不强制创建多个智能体。
SCAFFOLD-R-005 在一个批次之内更换助手。
SCAFFOLD-R-016 一个批次依赖另一个批次,即使由同一个人执行。

本表仅作指引:适用范围、行为者、证据、例外和残余风险以完整的要求卡片为准。摘要、图示或指南都不会扩大已被接受的义务。

ASILO:借助 AI 构建,与包含 AI 的系统

下表比较两种情形:(a)系统包含模型或智能体;(b)系统只是借助人工智能助手构建,本身不包含任何模型或智能体。引文取自每张卡片的适用范围或适用条件。

要求 卡片引文 (a)包含模型或智能体 (b)仅借助助手构建,不包含任何模型或智能体
ASILO-R-001 适用条件:“只要存在至少一个由模型驱动的作用点。” 适用:模型驱动至少一个作用点时;若只向人展示文本,则登记该例外。 对构建出的系统不适用。助手在构建期间产生的影响:视应用配置而定/见卡片。
ASILO-R-002 适用条件:“由多个模块或软件包组成、并声明应用 ASILO 的系统。” 适用:有多个模块或软件包并声明 ASILO 时。 同(a):该条件不取决于是否存在模型。
ASILO-R-003 适用范围:“智能体或模型从系统或其用户处接收上下文的每一项任务”;适用条件:“可访问内部来源、个人数据或持久记忆的任务”。 适用:模型或智能体具有上述访问的任务。 视应用配置而定/见卡片。
ASILO-R-004 适用范围:“执行操作的智能体、子智能体和工具。”;适用条件:“任何可访问工具或数据的智能体。” 适用:每个可访问工具或数据的智能体。 助手作为可访问工具或数据的智能体行事时适用;否则不适用。
ASILO-R-005 适用条件:“当某项操作属于关键影响清单,或系统无法依据其规则作出决定时。” 满足条件时适用。 满足条件时适用;不取决于是否存在模型。
ASILO-R-006 适用范围:“系统处理的个人数据、未成年人数据、凭据和机密数据”;适用条件:“只要系统处理上述任何一类数据。” 系统处理这些数据时适用。 系统处理这些数据时适用;不取决于是否存在模型。
ASILO-R-007 适用范围:“有成本或有影响的智能体执行和模型调用。”;适用条件:“所有有成本或有影响的自动化执行。” 适用:有成本或有影响的执行和调用。 视应用配置而定/见卡片。
ASILO-R-008 适用范围:“使用模型来生成内容、决定或操作,且这些结果会被他人使用的系统。”;适用条件:“在公开或向客户声称系统适合其用途之前……” 适用;智能体之间的故障仅在存在多个智能体时适用。已标明的内部原型属于卡片中的例外。 不适用:适用范围是使用模型的系统。

本表只是阅读辅助;与卡片不一致时,以卡片为准。

简短示例

  • 一个人用 AI 编写代码:SCAFFOLD 组织区域和批次;ASILO 限定相关的上下文和行动;MILPA 记录来源和决定。最终产品可以不使用 AI。
  • 一个应用调用模型来做摘要:ASILO 依据适用的条件指引契约、数据和评估;当借助 AI 构建时,SCAFFOLD 描述其构建过程。
  • 一个团队协调多个助手:保持上述做法,并在适当时审查交接、依赖和智能体之间的故障。数量不能取代证据。