【AI科普】AI 變 SI，機構要設好哪幾道關

美國白宮協議為開發前沿模型的公司而設；企業和政府多數是 AI 的用家，要管好供應商、文件來源、系統權限、輸出核查和簽核責任

一位客戶收到某公司的報價，金額按的是上一季的價目表；一位市民收到政府部門的回覆，引用的是去年已修訂的條文。兩封信都寫得清楚有禮，也都由 AI 協助起草。問題可能出在 AI，也可能出在它查到的文件、操作的同事，或者批准發出的流程，所以機構用 AI，要管的是整條流程。這幾天有關 AI 的新聞，集中在其名稱上。9 月 29 日，美國總統以行政命令要求聯邦行政部門在法律允許的最大範圍內，於官方非成文法文件中以「超級智能」（Super Intelligence，簡稱 SI）取代「人工智能」（AI），同日六家科技公司簽署了一份為前沿模型設四層控制的自願協議，兩份文件的內容，張Sir在《把 AI 改為 SI：超級智能到底是什麼？》已有介紹。改名本身和開頭那兩封信關係不大，同日的協議卻正好談到怎樣分層把關，這裡就從企業和港澳特區政府這類機構的角度，談談可以借鏡什麼。

改名跟機構有什麼關係

直接的關係不大，命令只約束美國聯邦行政部門，港澳企業和兩地特區政府的文件，繼續以「人工智能」為正式名稱即可。間接的影響卻在宣傳上，SI 和中文的「超級智能」都很響亮，不難想像，很快會有「超級智能客服」「SI 報價助手」一類產品。張Sir認為，名稱可能抬高客戶和市民的期望，一旦出錯，落差也可能更大，宣傳誇大了產品的能力，還可能觸及消費者保護的規定。

協議的參考價值，在於它把內部控制、內部團隊、外部審計和董事會監督分成四層。簽署公司承諾採用這套安排，管的是開發模型的一方；企業和政府多數是使用系統的一方，要把這套思路換成適合自己的幾道關。

選供應商，要看什麼證據

第一道關在採購的時候，協議把獨立的外部審計或評估列為第三層，機構選用 AI 服務時，也可以照這個思路發問，先問有沒有第三方的測試或評估報告，再按自己的用途追問，數據會不會被拿去再訓練、權限怎樣控制、出事時多久通知。答案最好寫進合約和驗收條件，供應商答不出，或者只拿出宣傳單張，就要多加注意。

AI 引用的文件，是不是最新版本

系統買回來之後，第二道關管的是文件來源，這一關要管，是因為模型不能保證掌握公司和政府現行、獲授權使用的版本。張Sir在《AI 有幻覺，先分清病因再對症下藥》談過，這類內部資料要靠知識庫（knowledge base），即機構把認可的文件集中起來，供系統查找和引用。

所以機構要先指定哪些來源可以使用，記錄每份文件的生效日期、版本和負責更新的人。新舊版本有衝突時，系統不應自行挑一份繼續回答，而要停下來交由同事判斷，開頭那兩封信，就是這一關沒有守住。

誰可以用系統，做過什麼有沒有紀錄

第三道關管的是系統權限，也就是誰可以做什麼，機構要分清誰可以上載文件、查閱敏感數據、修改知識庫和批准輸出；涉及個人資料或內部文件時，還要限制模型和外部服務可以接觸的內容。每次操作也要留下紀錄，寫明用了哪個系統、哪個模型版本、查了哪些文件，以及由誰在什麼時候執行。

這些紀錄的用處，在出錯之後才看得出來，有了紀錄，機構可以追查問題出在文件、權限、模型還是流程，再修正同類風險，責任也不會全落在前線同事身上。

每一份輸出，要查到多細

第四道關管的是輸出，每一份要交出去的東西都要經過核查，張Sir team 用的是 GVA 流程，先由 AI 生成（Generate）初稿，再核查（Verify）事實、數字、條文、來源和版本，最後由指定的人批准後才採取行動（Act）。來源、版本和日期這類規則明確的項目，可以由系統先自動比對並留下紀錄；人員處理系統標出的疑點，並按風險抽查。系統沒有標出疑點，不等於內容必然正確。

所以核查的強度要按風險分級，涉及個人資料、金額、法規解釋、對外合約、報價、公開聲明或市民權益的輸出，應逐項覆核，並保留引用原文和核查紀錄；不涉及這些事項、錯了也容易撤回的內部草稿和例行回覆，才可以簡化程序或由主管抽查。

出了錯，由誰簽名負責

最後一道關管的是責任，這一點協議也有對應，它的第四層是董事會的獨立委員會，一般機構用不上這麼大的架構，但道理相通，AI 做出來的東西，最後總要有一個人簽名負責。張Sir在《老闆嫌不夠快，同事怕做得太快》談過，新人不敢拍板，主管又看不過來，最後往往只好降低要求。所以機構要事先講明，哪類輸出由誰批准、發現錯誤後由誰通報和修正、誰定期翻看錯誤紀錄。生成初稿、核查內容和最終批准，最好由不同角色承擔，高風險的決定，不應由同一個人從頭做到尾再自行確認。

機構也要定期抽查已發出的文件，看看知識庫有沒有過時、系統有沒有漏標疑點、簡化審核的文件是否真的屬於低風險。這種抽查、修正、再檢查的循環，張Sir與研究團隊今年四月發表的智慧政務閉環研究報告，也從政務角度討論過；張Sir早前的《政府公文 AI 的第 90 天》，也可作延伸閱讀。