工程指南 / Beep Boop Technologies
AI 原型成为生产软件之前
有说服力的演示回答了一个有限的问题：这种方法能否做出有用的事情？日常使用则带来关于质量、权限、恢复和责任归属的新问题。
本指南使用假设的文档接收流程，说明工程决策，而非展示客户项目成果。
1. 定义完整流程。
假设系统读取收到的供应商文档，并为业务工具准备记录。模型提取供应商名称、参考编号和请求日期。在写入目标系统之前，由人工检查拟议记录。
有用的输出是已批准且可追溯的记录。明确接受的文档类型、必填字段、允许的转换和审核职责。审核人员应能够查看源文档。缺失信息应持续明确显示为缺失。
当步骤已知时，从可预测的流程开始。Anthropic 的 智能体构建指南 区分了预定义流程与自行选择步骤的系统，并建议只在有助于任务时增加复杂性。
2. 测试代表性案例。
建立包含预期结果的示例集，涵盖困难和不成功的输入。将开发系统所用的案例与检查变更所用的案例分开。模型、提示词、解析器和集成的变更都可能影响结果。
评估提取字段和最终流程状态。格式正确的响应仍可能包含错误供应商，或将记录放在错误位置。Anthropic 的 评估指南 讨论了清晰任务、适当评分和检查系统行为的重要性。
| 案例 | 预期行为 | 需要检查的证据 |
|---|---|---|
| 支持且完整的文档 | 准备正确字段供审核；仅在批准后写入。 | 字段值、来源引用、批准记录和目标记录。 |
| 缺少必填日期 | 标记缺失字段，并阻止不完整写入。 | 审核状态，以及未向目标写入的证据。 |
| 无法读取的扫描件 | 交由人工处理，不编造值。 | 异常原因和保留的源文档。 |
| 同一文档再次到达 | 识别重复，或将不明确情况送交审核。 | 文档标识和最终记录数量。 |
| 写入后目标系统超时 | 重试前先检查写入是否成功。 | 目标查询结果和操作状态。 |
根据每类错误的后果选择验收阈值。将错误但被接受的记录与送交审核的案例分别跟踪。还应测量审核工作量、响应时间和每个完成事项的成本；单一平均准确率无法说明整个流程。
3. 控制访问与操作。
在应用和工具中落实访问控制。只让提取步骤获得所需文档。写入操作应只接受经过验证和批准、具有适当授权的记录。
文档文本是输入数据，即使其中包含指令，也不应授予权限、选择无关目标或授权写入。测试应包含误导性指令和尝试访问其他记录的情况。
4. 规划部分失败处理。
超时不能说明远程写入是否发生。当目标系统支持时，使用稳定的操作标识；否则重试前先与目标核对。如果无法确定结果，应将其显示为未解决，并提供审核路径。
根据流程需要定义有上限的重试、失败队列或审核状态。记录足够的操作诊断信息，但不将敏感文档内容复制到常规日志中。约定异常处理负责人，以及源文档、结果和日志的保留方式。
5. 选择范围明确的首个版本。
从明确的文档类型和可管理的用户群体开始。启用写入前，将拟议记录与现有流程比较；在收集实际错误与审核工作量证据期间，继续保留人工批准。
约定何时暂停流程、如何恢复人工处理，以及谁负责变更。扩大自动化应以流程满足要求的证据为依据，包括故障情况，而不只是一次成功演示。