产品 / 事件复盘

DNLA 事件复盘

当 AI 系统造成损害、做出错误决策或引发运营事故时,DNLA 会开展一次独立调查:相当于 AI 领域的根本原因分析,专为“根本原因”可能是模型、提示词、数据源、集成环节或流程失误的系统而设计。

为什么独立性至关重要

构建系统的团队往往并非调查该系统的合适人选

这并非出于恶意,而是源于利益立场。构建或运营某个系统的人,往往最难客观判断这次故障究竟是偶发事件、深层架构问题的征兆,还是一个本可预见却无人及时提出的风险。事件复盘必须经得起董事会、监管机构、保险公司或法庭的审视,这意味着它必须来自一个没有立场需要维护的独立方。

流程

十个步骤,按顺序进行

  1. 还原事件经过
  2. 保全证据与日志
  3. 构建时间线
  4. 确定涉及的模型与提示词版本
  5. 审查相关数据与上下文
  6. 定位故障点
  7. 归因原因:模型、数据、集成、用户、流程或治理
  8. 评估影响
  9. 制定预防措施
  10. 设定系统恢复上线的条件
调查的产出并非追责,而是一份经得起推敲的说明:发生了什么、为何发生,以及系统重新投入生产前必须满足的具体条件。

委托方

  • 需要如实说明、以便决定如何对外或依合同回应的管理层
  • 需要一份经得起推敲的事件记录的法务或合规团队
  • 需要独立结论、而非供应商自证之词的董事会与保险公司
  • 已怀疑原因所在、但需要先得到证实才能推进修复的工程负责人

已经出问题了?

日志与证据保全得越早,调查能够还原的真相就越多。

联系我们