Pentagon 今個禮拜宣布美國軍隊會變成一支「AI 行先」嘅作戰部隊,同主要科技公司簽咗八張新合約,擴展 AI 能力,覆蓋後勤、情報分析、同指揮管制系統。目前公布嘅細節好薄——合約金額、具體供應商、畀相關系統嘅自主度範圍,都只係公開咗一部份——但 framing 本身就已經有意義。「AI 行先」係一個教條式嘅講法,唔單止係採購用語;而佢出場嘅背景,係一場正進行嘅中東衝突、一場同中國升級緊嘅大國競爭、再加一場國內關於科技業集中度嘅辯論——連 Elon Musk 同 Sam Altman 都喺度就 OpenAI 原本嘅目的互告。
主流嘅睇法
國防政策自由派同軍備控制圈大部份人嘅主流 framing,係一種有保留嘅警惕。喺呢個解讀之下,「AI 行先」好聽就係一句貼喺 Pentagon 常見採購擴張上嘅口號,難聽就係為部份自主嘅殺傷鏈條——佢嘅倫理同法律地位其實真係未搞清——開綠燈。BBC 關於呢啲合約嘅報導將大型科企更深介入軍事項目當成一個直接嘅事實嚟記錄;BBC 另一篇有關 Musk 同 Altman 就 OpenAI 嘅爭拗——Musk 要求超過 1300 億美金嘅損害賠償——提醒我哋,Pentagon 而家正嵌入教條嘅呢啲公司,本身就係由不透明嘅資本結構同互告嘅創辦人管治。中間偏左廣泛嘅憂慮,係軍事 AI 嘅文人監督畀採購週期拋離;人機之間嘅決策界面愈嚟愈模糊;而 Congress 畀 Iran 戰爭同自己嘅戰爭權力辯論纏住,根本冇留意緊。
另一邊嘅睇法
以上啲憂慮大部份都合情合理,一個認真嘅國防保守派應該分享。但係 currently popular 嗰個框架——「大型科企攻陷 Pentagon」——既誇大咗件事嘅新穎度,又低估咗更有趣嗰個問題:美國嘅國家機器,有冇制度成熟度去消化一類真正全新嘅武器。
值得攞嚟對照嘅歷史,唔係 2010 年代嘅 drone 辯論,而係 1950 年代後期嘅早期導彈時代。當年 Eisenhower 政府樹立起佢著名嗰句「軍事工業複合體」嘅時候,係因為冷戰底層嘅物理要求噉做:一枚導彈幾分鐘就過咗北極,美國政府嘅決策週期就要圍繞呢個事實重新搭建。結果出現嘅複合體,正如 Eisenhower 警告,真係對自由有危險。但整體上都係必要嘅。AI 就係導彈時代嘅問題,以新形態再一次出現。一群 drone swarm 或者訊號情報分流系統嘅決策週期,用毫秒計;參議院軍事委員會分委員會最好狀態下嘅決策週期,就用月計。去拉近呢條差距,係治國術正當嘅任務,而「AI 行先」至少係承認咗呢個任務存在。
仲有一個完全合理嘅保守派講法:寧願由美國企業做呢份工,都唔好——如今愈嚟愈係替代方案——由北京、深圳、或者阿布扎比率先開發出呢種能力。Al Jazeera 關於中國喺 Trump–Xi 會談裏面姿態嘅報導係有用嘅提醒:大國競賽並冇暫停。日本首相 Takaichi 今個禮拜同越南簽咗六份協議,覆蓋科技、農業同太空——呢份雙邊安排未講出口嘅目的,就係要喺中國依賴以外,砌起兩用技術嘅韌性供應鏈。呢啲發展,完全唔利於「美國應該放慢自己將機器學習整合入國防」嗰種睇法。
右派應該要求、但係仲未大聲要求夠嘅,其實有三樣嘢。第一,國會層面嘅逐項可見度。「AI 行先」作為教條,如果 House Armed Services Committee 喺非機密分辨度下都睇唔到究竟起緊咩、上面係咪有 human-in-the-loop 嘅限制,就等於冇嘢。第二,一條死規矩:唔可以將 targeting 嘅決定——即係釋放致命武力嘅決定——交畀自動化系統。呢條規矩,形式上 DoD Directive 3000.09 入面已經有;問題係新合約有冇喺精神上尊重佢,而唔係淨係 check 個 compliance 格仔。第三,商業 AI 用喺情報分析(即使唔完美嘅工具都可以減輕操作員負擔)同用喺武器整合(呢邊錯誤嘅代價係用人命找)之間,要有清晰嘅分隔。
更深嘅憂慮——老派現實主義傳統講得最準嗰個——唔係 AI 會失控,而係佢會為錯嘅目的運作得太好。一個可以大規模監視自己人口嘅政府,同開國先賢設計嗰個政府,係兩個唔同嘅政府。呢個係保守派嘅關切——可以講,呢個十年最核心嘅保守派關切——而佢唔會靠為合約歡呼、或者對住合約作道德訓話,就可以解答。佢要靠結構性嘅制衡:國會嘅、司法嘅、文化嘅。Pentagon 擁抱「AI 行先」係一個有用嘅契機,去要求呢啲制衡。佢本身,唔構成恐慌嘅理由,亦唔構成慶祝嘅理由。
跟住要留意
- 下一份 NDAA 嘅非機密附件。 如果委員會堅持對生成式 AI 目標輔助工具訂明 human-in-the-loop 條款,我哋就會知 Congress 係認真嘅。
- 戰場上第一次被使用。 任何報導指自主 AI 喺實戰中做分流,就會觸發真正嘅政治爭論。
- 供應商集中度。 如果八張合約有三張去同一間總承包商,反壟斷論點同國家安全論點就會開始對撼。
- OpenAI 嘅管治爭端。 Musk–Altman 嘅訴訟會唔會扯出政府合約相關嘅披露,會好值得睇。
— J