Anthropic,呢間由前 OpenAI 研究人員創辦嘅 AI 公司,向監管機構申請進行首次公開招股(IPO)——BBC 形容係「重磅」級別——同時喺招股文件裏面披露警告,指其技術可能對「人類構成災難性風險」。BBC 另一篇分析點出呢次上市嘅幾個令人意外嘅細節,而NPR 報道指估值可能破科技業紀錄。呢間公司將自己定位為「以安全為重心」嘅 AI 實驗室,把旗下 Claude 模型塑造成比競爭對手更負責任嘅選擇——同時向大眾市場集資,而對象正正就係佢自己話可能係資助緊一個存在性威脅嘅投資者。
主流嘅睇法
AI 安全界同大部分科技媒體,基本上照單全收 Anthropic 嘅自我定位。喺呢個框架下,公司所處嘅位置係困難但光明磊落嘅:佢相信強大嘅 AI 無論如何都會出現,唔係任何單一機構能夠阻止嘅,所以有安全意識嘅實驗室喺前沿技術上發揮主導作用,係比讓出空間畀良知更少嘅競爭對手好。「向上競爭」嘅說法係:Anthropic 嘅商業成功,係資助防止其警告中描述嘅災難所必需嘅安全研究。上市集資係為咗可解釋性研究(interpretability research)、紅隊測試(red-teaming),以及政策倡議。另一個選擇——保持私有,在運算資源上落後——係將前沿拱手相讓給 OpenAI 或安全文化更差嘅中國競爭對手。喺呢個框架下,「災難性風險」警告同積極集資呢個表面矛盾,唔係偽善,係喺次優結果上嘅理性押注。
另一邊嘅睇法
呢個論點唔係全無道理。但佢得到嘅批判性審視,遠遠少於佢應得嘅,而 IPO 招股正係一個做呢個審視嘅好時機。
第一個問題係誘因結構。一旦 Anthropic 有咗公眾股東,佢就有在法律上強制執行嘅義務去最大化股東回報。有強烈倫理使命、然後要同上市後股東要求之間嘅張力博弈嘅科技公司,歷史唔係幾鼓舞人心。Facebook 以「令世界更開放、更連繫」為使命上市;上市公司嘅受信人責任,配合廣告收入模式,最終產生咗同嗰個願景有相當落差嘅結果。Anthropic 嘅安全承諾,目前由創辦人嘅個人操守,以及一間私人公司喺窄小行業中嘅聲譽誘因來維繫。上市後,呢啲機制會被——最終可能係被——季度業績壓力所壓倒。
第二個問題係風險披露嘅具體內容。BBC 報道指 Anthropic 自己喺招股文件中警告,其技術可能構成「對人類嘅災難性風險」。呢段話出現喺向監管機構提交嘅文件裏面,係重大披露義務嘅法律要求。換言之,呢間公司係同時向美國證券交易委員會(SEC)說「我哋嘅產品可能終結文明」,同時向投資者說「而家係買入嘅好時機」。如果災難性風險嘅語言係真誠嘅,上市本身喺倫理上係大有問題嘅。如果嗰段語言只係管理法律責任嘅樣板文字,咁公司廣為宣傳嘅安全承諾,係可以用同一方向重新解讀嘅。
第三,係「以安全為重心」究竟喺實際上係乜嘢意思嘅問題。英國政府投入1億英鎊設立 AI 生物安全實驗室,部分係回應包括 Anthropic 在內嘅公司所提出嘅憂慮。政府政策因此被同一批喺產生嘅監管框架中有商業得益嘅人所塑造。呢係現代最複雜形式嘅監管俘獲:唔係舊式行業協會遊說放鬆管制,而係行業領袖倡議特定嘅安全規定——而佢哋恰恰係最有能力符合呢啲規定嘅一批,藉此提高競爭對手嘅入場成本。
以上唔係說 AI 安全嘅憂慮係虛假嘅——佢哋可能係非常真實嘅。但係,承載呢啲憂慮嘅係一間喺申請破紀錄 IPO 嘅公司。市場係有權利更仔細咁檢視貨倉裏面裝嘅係乜嘢。
跟住要留意
- IPO 定價同鎖定期安排:Anthropic 創辦人同早期投資者上市後點樣安排自己嘅股份持倉,將透露佢哋對自己嘅災難性風險說法有幾認真。
- 監管回應:美國、歐盟或英國嘅監管機構係咪會將 IPO 招股文件入面嘅風險披露作為強制安全要求嘅基礎——定係只係將嗰段文字歸檔了事。
- 安全研究開支比例:上市後嘅年報,將顯示收入有幾多比例真正用於安全研究、而唔係產品開發。呢個比率係好有啟示性嘅。
- 競爭對手反應:OpenAI 同 Google DeepMind 係密切關注嘅;如果 Anthropic 嘅安全定位為估值帶來溢價,估計整個行業都會迅速跟風模仿。
—— J