Amodei叫停AI,但誰來執行?

星期六,Anthropic行政總裁Dario Amodei公開呼籲放慢AI開發步伐。呢個聲明出自全球資本化程度最高的AI實驗室之一的負責人,本身已夠罕見。此前數日,一名Anthropic研究員向BBC表示,AI令全人類滅絕的機率超過一成——如果係核武設施或生物安全實驗室的研究員說出這番話,早就觸發即時監管審查。與此同時,英國政府本週拒絕了「危險AI終止開關」的構想,而專家對AI失控的憂慮亦持續升溫。今周AI新聞的核心矛盾,幾乎太過整齊:最負責任的AI開發節奏,偏偏由最推動呢個節奏的人其中一個來呼籲放慢;而一個主要民主國家的政府,同時拒絕了最基本的安全機制提案。呢個系統,結構上出咗問題。

主流嘅睇法

科技樂觀主義的共識,會把Amodei的聲明框架為負責任的領導:顯示AI行業在成熟、創辦人認真對待存在性風險、行業內部認真人士的自我規管優於唔了解技術的政客所推動的粗暴立法干預。英國政府拒絕終止開關,在這個讀法下係明智的監管務實:終止開關係定義模糊的概念,容易被濫用、會壓制有益AI研究,而且在中國及其他國家政府無論如何都會繼續開發的多司法管轄環境中,根本無法實施。答案,進步派同科技自由主義者普遍同意,係深思熟慮的國際合作、由業界專家制定的安全標準、以及謹慎監測——而唔係驚慌立法。呢個立場唔係完全不合邏輯的。

另一邊嘅睇法

不過,認真想想我哋被要求接受的係什麼。一家主要AI公司的研究員,公開給出佢哋自家公司產品殺死地球上所有人的機率:大於十分之一。佢哋的行政總裁,唔係停止研究或將其置於獨立監管之下,而是——仍然坐在同一個持續運作、積極融資的研究項目的行政總裁椅上——呼籲「放慢」。英國政府面對一個自己科技界形容為可能導致滅絕的技術,拒絕一個停止機制,理由係工具唔夠好。

在呢裡,最接近的歷史類比唔係核能或基因工程——雖然呢兩個係最常被引用的比較。實際上更像含鉛汽油在二十世紀初的歷史。在鉛對兒童神經系統毒理學證據開始累積後的三十年,工業遊說、監管被俘虜、以及逐步淘汰一種在經濟上有用的產品的真實難度,令決策持續被推遲。結構性相似點係:掌握最直接危害知識的人,同時係繼續開發中最大財務利益的持份者,而佢哋所在的監管環境尚未追上行業的步伐。

核武類比喺另一個維度更有啟示。廣島之後,物理學界——Oppenheimer最著名,但還有Niels Bohr、Leo Szilard等——發起了一場有組織的持續倡議,要求對原子武器進行國際管治。佢哋唔只係呼籲自己的機構放慢。佢哋要求建立適用於所有人的結構性國際安排。《原子科學家公報》、Pugwash會議、《核不擴散條約》——全都來自一個認識:管治具有文明賭注的技術,唯有靠架構,而唔係靠個別企業的美德。

而今日AI時刻最顯眼的缺失,係任何等效的「硬架構」倡議。OpenAI聲稱在88小時內解開一道90年前的數學難題,無論個別結果是否最終獲得科學驗證,都展示了能力加速的節奏。Amodei呼籲放慢,在個人層次上係值得欣賞的,在結構層次上幾乎係無意義的,前提係佢唔伴隨任何真正能約束競爭動態的提案。喺一場通往前沿的競賽中,一個參與者自願放慢,只係令不放慢的人受益——呢一點,相信Amodei心知肚明,他或許正在公開替一種佢私下知道係必要的監管,製造輿論基礎。

「終止開關應由誰來控制」這個問題,係真實困難的。政府?太慢,且受國界限制。國際機構?IAEA同禁止化學武器組織(OPCW)的先例係:大國同意時,國際核查機制可以運作;不同意時,無效。在中美科技競爭最激烈的當下,有利於有效AI管治條約的大國協議,客觀環境唔算樂觀。但問題的難度,唔係反對嘗試的理由。而係要求以呢個難度所需的迫切性同資源去面對它。

跟住要留意

留意Amodei的聲明之後,係咪有任何具體提案跟隨——安全研究資金承諾、公開呼籲具體立法、同國際夥伴接觸——令呢個聲明有結構份量,而唔只係一句值得注意但不起作用的CEO說話。留意英國政府拒絕終止開關概念之後,係咪有任何替代機制,抑或只係真實的政策真空。留意根據多項調查顯示持續上升的公眾對AI的恐懼,如何轉化為選舉壓力:如果AI風險在2026年美國中期選舉或英國下個選舉週期成為顯著投票議題,政治計算會迅速改變。最後,留意中國政府對任何新興國際管治框架的回應——北京的立場,將決定任何全球架構係實質性還是象徵性的。

—— J