企業 AI

給老闆的備忘錄:多個 AI Agent 一起工作前,先指定每個 Agent 的負責人

公司開始讓多個 AI Agent 串接分工時,出錯責任和稽核軌跡常常沒人管。這份一頁備忘錄給結論、理由、風險與下週可以做的四件事。

結論先講:多 Agent 可以上,但每一個 Agent 都要對應一位具名的人類負責人,每一次交接都要留紀錄。做不到這兩件事之前,不要讓 Agent 之間直接傳遞會影響客戶或金流的資料。以下用備忘錄格式寫,方便你直接轉給主管會議。

01一、為什麼現在要處理

單一 AI 助理出錯,大家看得到是誰下的指令。多 Agent 串起來就不一樣了:一個 Agent 整理客戶來信,交給第二個 Agent 查庫存,再交給第三個起草報價。最後報價錯了,你會發現三個 Agent 的設定分別是三個人做的,沒有人覺得是自己的責任。

我以前在 SaaS 公司建 ISO 27001 制度,最花時間的不是技術控制,而是把「這個系統誰負責」一項一項寫下來。Agent 也是系統,原則一樣。

02二、建議的治理架構

我建議直接借用 NIST 在 2023 年 1 月發布的 AI 風險管理框架(AI RMF 1.0),它把工作分成 Govern、Map、Measure、Manage 四個功能。對中小企業不用全套照做,取其骨架就好。

Govern:每個 Agent 建一張身分卡,欄位有名稱、用途、負責人、可存取的資料範圍、可呼叫的工具、上線日期、最後審查日。Map:畫出 Agent 之間的交接圖,標出哪一步會碰到客戶資料、哪一步會產生對外文件。Measure:每個 Agent 定一兩個可量化指標,例如每週被人工退回的筆數。Manage:規定出錯時誰有權停用哪個 Agent。

03三、稽核要留什麼紀錄

最低限度每次交接記五個欄位:時間、來源 Agent、目標 Agent、傳遞內容摘要、觸發的人或排程。對外輸出的那一步再多記一欄:由誰核准。這些紀錄寫進一張資料表或日誌檔就夠,不需要先買監控平台。

算一下成本。假設三個 Agent 每天合計交接 200 次,每筆紀錄約 1 KB,一年是 200 × 365 × 1 KB,大約 73 MB。儲存成本可以忽略,真正的成本是每週有人花 30 分鐘抽查 20 筆。這 30 分鐘不能省。

04四、風險與不做的代價

風險一:權限蔓延。Agent 為了方便被授予整個雲端硬碟的讀寫權,等於把全公司資料交給一段設定檔。對策是每個 Agent 只開它身分卡上列的資料夾。風險二:錯誤連鎖。上游 Agent 的小錯被下游放大,對策是在對外輸出前固定保留人工核准。

風險三:負責人離職。身分卡上的負責人要隨人事異動更新,離職交接清單加一行「名下 Agent」。不做這些,出事的時候你只能說「是 AI 弄錯的」,客戶不會接受這個答案。

05五、下週可以做的四件事

1. 盤點現在公司裡所有在跑的 Agent、自動化腳本與排程,列成一張表。2. 每一列指定一位負責人,沒人認領的先停用。3. 挑一條串接最長的流程,畫出交接圖並開始記錄交接日誌。4. 一個月後開一次 30 分鐘回顧,看退回筆數和出錯事件,決定要不要擴大到其他流程。

資料來源

文中數字與法規均出自下列正式資料,引用時請以原始出處為準。

  1. [1]NIST|AI Risk Management Framework(AI RMF 1.0,NIST AI 100-1,2023-01)
徐愷(KK)肖像照

作者

徐愷(KK)

遊遊股份有限公司負責人、主導顧問

LinkedIn →

先預約 30 分鐘需求初談,確認下一步該做什麼

初談免費。我們會確認問題範圍、預算與決策者,再提出初步建議與可執行的下一步。