Anthropic——呢間創造咗Claude聊天機器人、並幾乎將整個品牌建立喺人工智能存在危機嘅警告之上嘅AI公司——將以大約一點三萬億美元嘅估值上市,成為史上規模最大嘅首次公開招股。BBC報道,儘管公司喺自己嘅招股書中警告,佢哋或許正在打造「人類歷史上最具變革性、亦可能最危險嘅技術之一」,上市仍然照舊推進。呢句說話一字不差地出現喺公司嘅S-1招股文件。同一份文件尋求嘅市場估值,暗示Anthropic比大多數歐洲經濟體更加值錢。以任何標準衡量,呢都係企業融資史上最非凡嘅文件之一。
主流嘅睇法
科技媒體同投資界大致上將Anthropic嘅IPO視為AI熱潮嘅自然結果,唔值得大驚小怪:資本流向最精深嘅AI玩家,Anthropic憑藉前沿模型同注重安全嘅機構文化脫穎而出,估值反映對企業AI市場主導地位嘅預期,以及各地政府構建AI治理框架時佢哋所期望發揮嘅監管影響力。喺呢個解讀下,「安全」定位係競爭護城河,唔係真正嘅約束——佢喺華盛頓同布魯塞爾令Anthropic有別於OpenAI同Google DeepMind,可能具有可觀嘅商業價值。招股書中嘅災難性風險措辭被視為法律披露慣例,係分析師睇一遍就放低嘅樣板文字。共識睇法係:呢係一間非常強大嘅科技公司嘅一個非常大嘅數字,市場判定呢個數字大致合理。
另一邊嘅睇法
Anthropic立場上嘅哲學不一致值得比一個聳肩更認真嘅對待,而呢種不一致係整個AI行業喺此刻嘅狀態嘅重要揭示。
公司嘅創辦人——Dario Amodei、Daniela Amodei,以及其他離開OpenAI創立Anthropic嘅人——將自己嘅公眾身份建立喺以下主張之上:AI發展構成真實嘅災難性風險,現有嘅開發時間表移動得太快,安全工作根本追唔上。呢唔係佢哋隨口說說嘅立場;呢係佢哋嘅研究議程、國會作證同公開傳播嘅核心。Dario Amodei曾以「AI系統在數年內或能導致大規模傷亡,或能根本性破壞民主制度」嘅語言表述。
然而,IPO照推。一點三萬億美元嘅估值需要一條增長軌跡,意味著Anthropic將以任何安全研究計劃都根本無法驗證嘅速度,打造同部署能力遠超目前水平嘅AI系統。作為上市公司嘅激勵結構——季度業績電話會議、分析師追蹤、股東回報預期——正正係安全界認為令前沿AI開放式開發如此危險嘅激勵結構。上市公司唔會因為技術可能存在存亡風險而放慢腳步;佢哋會因為股東嘅要求而加速。
呢就係AI安全悖論嘅最純粹形式:最擔心AI風險嘅人同時係衝得最快去打造佢嘅人,而資助佢哋嘅投資者賭嘅係憂慮者能率先抵達終點。呢個合理化邏輯——有安全意識嘅實驗室處於前沿,好過莽撞嘅——有某種內在邏輯,不過呢同樣係任何一隊有才能、有雄心嘅人在想做令人興奮、有豐厚回報嘅事、同時維持「房間裏嘅負責任大人」自我形象時,都會自然得出嘅合理化結論。
仲有一個值得審視嘅監管維度。Anthropic係主要AI實驗室中喺華盛頓同布魯塞爾同立法者同監管機構建立關係最積極嘅一個。佢嘅安全框架令佢接觸到政策制定者,呢件事係Google或Meta等純商業行為者更難做到嘅。一間擁有一點三萬億美元市值、同時與主要AI監管機構保持常設諮詢關係嘅上市公司,唔係一個中立嘅監管程序參與者:佢係一個對確保任何監管框架以有利佢自己嘅架構、同時不利其競爭對手嘅方式設計有著巨大利益嘅參與者。企業俘獲本應監管佢嘅監管機構嘅歷史已足夠長,令我哋見到AI行業再次出現呢種情況時唔應驚訝。不過,我哋應該點名指出。
Al Jazeera報道,美國非牟利組織已向主要AI實驗室提出訴訟,要求叫停開發——呢個法律行動幾乎肯定會失敗,但卻清楚表述咗同樣嘅結構性關注:打造可能最危險技術嘅實體,同時係資助評估該技術是否安全嘅研究嘅實體。
跟住要留意
留意Anthropic上市後嘅股東構成——尤其係維權投資者或沽空者係咪開始挑戰「安全優先」品牌與上市公司增長義務之間嘅不相容性。留意Claude喺企業市場嘅商業成功係咪導致安全研究相對產品開發逐漸式微,OpenAI喺微軟合作規模化後就係咁。留意國會嘅反應:IPO將吸引兩黨審視,右派對企業安全洗白起疑,左派關注AI集中問題。最重要嘅,留意Anthropic嘅安全研究係咪真係有任何東西令自己嘅部署時間表慢落嚟——因為如果唔係,佢存在嘅整個安全理據就係一場市場定位表演。
—— J