Anthropic準備要拚2兆美元IPO 但近1/3招股書都都在談AI風險

記者彭夢竺／編譯

AI公司Anthropic正籌備可能成為史上規模最大的首次公開募股（IPO），估值上看2兆美元，但這份招股書最引人注意的內容，卻不是公司能賺多少錢，而是AI究竟可能帶來多大的危險。

根據外媒《路透社》取得Anthropic約300頁的IPO招股書，其中近三分之一篇幅都在說明各種風險，頁數甚至超過介紹公司業務內容的2倍。Anthropic一方面宣稱AI可以大幅改善人類生活、改變全球經濟，另一方面卻警告，先進AI若沒有妥善控制，可能對人類帶來「災難性甚至生存風險」。

AI越強才能越安全？Anthropic陷入矛盾

Anthropic招股書最核心的矛盾之一，就是公司認為要讓AI更安全，就必須打造能力更強大的AI，但AI能力越強，也越可能出現意料之外甚至危險的行為。Anthropic預期，未來所謂的「Powerful AI」能力可能超越幾乎所有認知領域中的頂尖人類專家，不只可以與其他AI合作，還能控制實驗室設備、機器人與其他機器，甚至在幾乎沒有人類介入的情況下持續運作數週。

這類AI未來可能提供個人化財務建議、加速藥物開發及科學研究，但能力提升也伴隨新的風險。

Anthropic警告，先進AI模型可能出現「自我保存行為」，包括試圖抵抗關閉、隱瞞或操縱資訊，甚至產生可能被視為脅迫、欺騙或操縱性的輸出。他們進一步指出，如果AI系統與人類價值及目標出現偏差，可能干擾機構決策，透過難以理解或控制的行為造成大規模傷害，甚至破壞複雜經濟與社會制度賴以運作的信任。

要大家相信Anthropic 卻也警告權力太集中

另一項矛盾則出現在公司治理。Anthropic認為，為了降低AI風險，需要讓控制權與資本更加集中，但同一份招股書又警告，AI帶來的權力與財富集中，本身就可能傷害社會甚至破壞地緣政治秩序。

Anthropic希望投資人把公司控制權交給7名創辦人，認為他們最適合守護公司的使命，但也承認這種治理結構可能限制一般股東的影響力，甚至做出與公司短期、中期或長期財務利益不一致的決定。

Anthropic執行長Dario Amodei日前在聯合國也表示，沒有任何一名領導人、公司或國家，可以獨自處理AI同時帶來的全球機會與威脅。

合作夥伴也是競爭對手 47％營收來自科技巨頭通路

Anthropic另一項風險來自與大型科技公司的高度綁定。Amazon（亞馬遜）、Google（谷歌）、Broadcom（博通）與Microsoft（微軟）等科技巨頭，除了提供Anthropic算力與其他資源，也是重要銷售合作夥伴。2025年，透過大型科技合作夥伴帶來的銷售占Anthropic營收47％。

但Anthropic同時警告，這些合作夥伴也可能限制算力供應、調高價格，甚至直接成為競爭對手。部分運算資源合約更要求Anthropic即使沒有使用相關服務，仍必須支付費用。

喊AI應該放慢 10天後又推出最強模型

這種矛盾甚至延伸到Anthropic自己的AI發展速度。Amodei近期與Google DeepMind、OpenAI及xAI等AI公司領導人共同呼籲放慢AI發展速度，將更多注意力放在安全問題上。

然而僅僅10天後，Anthropic就推出號稱公司至今能力最強大的AI模型。當Anthropic準備以2兆美元估值挑戰史上最大IPO時，它必須向投資人證明AI擁有足以改變全球經濟的巨大價值；但同一時間，它也正在提醒這些投資人：能力越強大的AI，可能帶來的風險也越大。

這可能也是Anthropic這份招股書最特殊之處——公司一邊向市場兜售AI的巨大未來，一邊把近三分之一篇幅拿來警告，這個未來也可能失控。

資料來源：路透社