【AI科普】把 AI 改為 SI：超級智能到底是什麼？

SI 暫時沿用現有 AI 的廣義法律定義，沒有新增「超越人類」的能力門檻

平時我們用手機，發現程式有時換了名稱和圖示，打開一看，功能和以前一樣。名稱一夜就能換掉，要多一項功能，程式卻真的要更新。AI 最近也換了一個新名稱，9 月 29 日，美國白宮發布《開啟超級智能時代》行政命令，要求聯邦行政部門在法律允許的最大範圍內，於官方非成文法文件中以「超級智能」（Super Intelligence，簡稱 SI）取代「人工智能」（Artificial Intelligence，簡稱 AI）。新名稱一出，聽到的疑問是，改叫 SI，AI 是不是升級了？要回答這個問題，得先弄清楚 SI 在命令裡指的是什麼。

SI 指的是哪一種 AI

答案藏在命令第三節，SI 暫時沿用美國法典現有的 AI 定義，也就是一種以機器為基礎的系統，按人所設定的目標，作出影響現實或虛擬環境的預測、建議或決定。這個定義相當寬，網購平台的推薦清單、手機的人臉解鎖、銀行的信貸評分、今天大家常用的聊天機械人，都可能包括在內。

命令沒有在這個定義上加任何條件，沒有要求系統達到人類水平，也沒有另設算力、參數量或自主程度的門檻。所以按現時的寫法，昨天叫 AI 的系統，今天在美國聯邦行政部門的公文裡就叫 SI，「超級」兩個字屬於名稱的一部分，並不代表新的能力等級。

它就是研究領域說的超級智能嗎

兩者不是同一回事，這也是最容易混淆的地方，因為在人工智能研究裡，超級智能（superintelligence）指的是在幾乎所有思考能力上都超越人類的系統，這樣的系統至今還沒有出現。美國行政部門的 SI 用了同一個字，指的卻是現有的廣義 AI。

今天的模型離研究裡的超級智能還很遠，張Sir在上一篇《AI 有幻覺，先分清病因再對症下藥》引用的研究，用事實問答測試最前沿的模型，發現它們不假思索作答時，仍有約四分之一到三分之一的事實想不起來。換了名稱，模型本身並沒有因此完成一次技術升級。

名稱改了，什麼跟著改

白宮在說明文件中表示，SI 更能表達這類技術的潛力，至於實際上跟著改的，是美國聯邦行政部門在法律允許的最大範圍內，日後新發出的官方信函、公開傳訊、網站、報告、政策文件和其他非成文法文件，都要以 SI 取代 AI。以往的規例、合約、撥款和其他歷史文件，則毋須改寫。

這項命令也管不到我們身處的香港和澳門，兩地特區政府、學校和企業的文件，繼續用「人工智能」即可。日後讀到美國聯邦政府的文件，看到 SI，把它理解為原有廣義 AI 的新叫法，就不會誤會。

60 日後，會有新法律嗎

命令給了一個期限，美國總統科技助理須在 60 日內向總統提交擬議立法文字，建立 SI 的聯邦定義，並評估新定義要修改、擴展還是取代現有的 AI 定義。這有點像公司要求部門在兩個月內交一份改制方案，方案交了，不等於制度已經改了。若要改變美國法律中的定義，仍須美國國會立法；美國總統後續也可在法定權限內，調整這項行政命令採用的定義。

所以現階段，SI 的範圍以現行 AI 定義為準，60 日後要留意的，是建議怎樣畫新的邊界，例如會否只把能力最強的前沿模型稱為 SI，還是繼續涵蓋所有 AI。

同一天簽的協議，又是什麼

同一天，Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 六家公司的負責人，簽署了《白宮超級智能協議》（White House Accord on Super Intelligence）。名字相近，處理的卻是另一件事。行政命令管的是美國聯邦行政部門的用語，範圍是廣義 AI；協議只針對訓練和部署前沿模型的簽署公司，記錄的是它們對安全治理的承諾。

協議列出四層控制和審計，依次是訓練和部署期間的內部控制、獲授權的內部團隊檢查控制並修正問題、獨立的外部審計或評估，以及董事會獨立委員會的監督。這是六家公司的自願承諾，文本沒有訂明統一的測試門檻、公開報告的要求、完成時限或罰則。協議只表示，日後把這些步驟寫進法律或許合理，但無論有沒有法律要求，簽署公司都會照做。

在新的定義出台之前，SI 就是今天的 AI，名稱換了，查證和負責的工作一樣不能少。

@張Sir的AI養生館 – 創新智人