9 月 29 日,兩宗重大 AI 安全新聞喺同一日爆出,合起嚟畫出一幅令人不安嘅圖像。第一,BBC 報道有研究人員從一款中國 AI 工具取得製造生化武器嘅詳細指引,方法係探測系統嘅安全防護漏洞。第二,BBC 另一篇報道指 OpenAI 以安全理由擱置一款新語言模型嘅推出,之後公司宣布改為發布一款叫做「dots」嘅新 AI 助手。呢兩宗消息並排睇,係有啲諷刺嘅:美國頭牌 AI 公司因為謹慎而暫停發布,同一時間至少一家中國競爭對手似乎係將安全防護做得不足嘅系統部署出去。
主流嘅睇法
主流進步派兼科技官僚嘅 AI 安全 framing 係一個負責任創新嘅故事——好人(大致上即係西方民主國家同佢哋aligned嘅科技公司)正在做辛苦嘅工作:識別風險、謹慎推出、建構監管框架;壞人(主要係中國同相關國家背景開發者)係在走捷徑搶先機。OpenAI 暫停發布新模型,係制度正常運作嘅示範:內部安全團隊提出紅旗、高層聆聽、大眾免受未準備好嘅產品衝擊。中國生化武器事件則印證咗另一面:不受監管或監管不足嘅 AI 開發帶嚟真實嘅文明風險,解決辦法係更多國際協調、更多法規、更多對正在做呢份難工作嘅專家階層嘅信任。呢個 framing 唔係不誠實的——佢捕捉到一些真實嘅東西——不過佢係不完整嘅,而且係以一種有啟發性嘅方式不完整。
另一邊嘅睇法
AI 安全論述有一個結構性問題,係 OpenAI 嘅謹慎同北京嘅輕率都唔能夠解決:任何處於制度主導地位嘅人,對呢些系統實際上有幾大能力都冇清晰圖像,而正在提出嘅監管框架,在很大程度上係為咗令已經佔住市場嘅巨頭取得合法性,而唔係令系統變得真正更安全。
先講中國生化武器事件。BBC 嘅報道顯示,研究人員靠「越獄」技術——即係探測系統防護層嘅已知弱點——攞到有害指引。呢唔係新發現:幾乎每一個主要 AI 模型,包括美國嘅,喺夠咁探測之下都被示範過可以產出危險輸出。中西方 AI 安全嘅差距係真實嘅,但比勝利主義式嘅 framing 所暗示嘅要窄得多。呢宗新聞真正揭示嘅係:整個「前沿 AI 安全」嘅範疇,與其說係基本架構上嘅安全,不如說係防護層嘅厚度——而防護層按定義係事後加上去嘅,喺一個天生就設計成盡量有用咁預測同生成文字嘅系統上面補打嘅。
OpenAI 嘅故事,喺某種意義上更有啟示性。BBC Business 報道 OpenAI 推出「dots」嘅同時擱置一款更強大嘅模型。公司已經喺安全理由下延遲咗多個已宣布嘅發布。呢個喺一個層面上係值得讚嘅。喺另一個層面上,佢引出一個令人不自在嘅問題:如果 OpenAI 自己嘅安全團隊係反覆得出佢哋最強大嘅系統唔適合部署嘅結論,咁安全部署嘅理論究竟係乜嘢?隱含嘅答案——即係更多安全研究最終會產出通過測試嘅系統——係一個假設,唔係已證明嘅事實。而來自謹慎程度較低嘅競爭對手(包括中國競爭對手)嘅競爭壓力,係製造咗一個持續嘅誘因,要宣佈安全標準已達標,不管係咪真係係。
令我諗起嘅歷史先例係核武早期。1940 年代末到 1950 年代初,美國官員真誠相信,佢哋喺核技術上嘅領先可以維持足夠長時間,讓國際監管框架喺擴散令一切變得徒勞之前建立起嚟。佢哋估錯:蘇聯喺 1949 年試爆首枚原子彈,比美方預測早得多,部分因為間諜活動,部分因為底層科學知識係任何夠聰明嘅人都可以搞出嚟嘅。教訓係:兩用技術嘅競爭優勢消失得比監管框架可以建立嘅速度更快,而喺監管追上之前先部署嘅誘因往往係抵擋唔住嘅。
AI 唔係核武——風險嘅性質同程度都唔同。但結構性動態係驚人地相似:能力發展同監管建設之間嘅競賽,競爭壓力系統性地傾向能力。進步派共識嘅解決方案——更多法規、更多國際協調、更多專家監管——診斷係正確嘅,不過對咁嘅監管喺現實中係點運作嘅係過於天真。國際 AI 監管,好似國際武器控制一樣,傾向於將已經部署嘅人嘅現狀正式化,而唔係阻止危險能力擴散。
跟住要留意
留意究竟係邊款中國模型產出咗生化武器指引,以及中國監管機構係咪有所回應——北京喺紙面上係有自己嘅 AI 安全框架嘅,執法問題會係一個觀察指標。留意 OpenAI 被擱置嘅模型最後係以小修小改靜靜地推出,定係真係退役——安全宣布、延遲發布、然後低調上線嘅模式係值得追蹤嘅。留意美國喺前沿 AI 嘅監管立法提案:選舉周期為象徵性行動製造誘因,設計差嘅監管可能係幫 OpenAI 同 Anthropic 鞏固市場地位,而唔係製造出更安全嘅系統。最後,留意有冇學術或獨立紅隊測試發現西方 AI 系統喺生化武器同 CBRN 輸出方面嘅情況——中國嘅例子幾乎唔可能係獨一無二嘅。
—— J