AI該減速？科技巨頭分兩派 OpenAI與Anthropic喊放慢、黃仁勳唱反調

記者彭夢竺／編譯

AI發展速度到底該不該放慢？隨著Anthropic執行長Dario Amodei提出「調節前沿AI發展速度」的構想，OpenAI執行長Sam Altman等產業領袖也表態支持，但NVIDIA（輝達）執行長黃仁勳卻站在不同立場，主張AI安全應透過工程方法解決，不認為產業需要因此踩下煞車。

《TechCrunch》最新一期Equity Podcast就討論，當AI公司一方面警告先進模型可能帶來安全風險，另一方面又身處激烈的技術與商業競爭，這些科技巨頭是否真的有條件、甚至真的願意放慢AI發展速度。

Anthropic提3方向 但「放慢多少」仍說不清楚

Amodei提出的方向，包括讓獨立第三方評估人員進入Anthropic、OpenAI等前沿AI公司，監督安全措施與事故；讓民主國家的大型AI公司協調安全標準與限制，以及進一步推動國際合作。

不過，《TechCrunch》Equity Podcast主持人Sean O’Kane認為，目前最大的問題就是缺乏細節。

雖然Amodei、Altman甚至Elon Musk等人都對放慢或調節AI發展速度表達一定程度支持，但究竟什麼情況需要減速、速度要降到什麼程度，以及各家公司實際要採取哪些措施，目前仍沒有足夠明確的答案。

更值得注意的是，「pace」與「slowdown」其實存在語意差異。Amodei與Altman雖然都談到AI可能需要放慢，但更常使用的是「調節速度」，而目前提出的第三方監督、安全標準與國際協調，也不代表AI模型開發一定要直接減速。

科技巨頭快速形成共識 反而引發另一種疑問

《TechCrunch》Anthony Ha則注意到，Amodei提出相關主張後，多名AI產業領袖很快就表達支持，甚至在文章正式發布以前，類似構想就已經在AI安全社群中流傳。這顯示相關安全措施並非Amodei突然提出的新想法，而是業界已經討論一段時間的方向。

但產業迅速形成共識，也讓外界開始質疑，這究竟代表AI巨頭真的準備採取重大行動放慢發展，還是只是在現有高速競爭下增加安全措施。

Equity Podcast主持人Kirsten Korosec也提出另一項問題：當討論對象集中在少數「前沿AI實驗室」，大型公司共同協調安全標準與發展限制，在建立共識的同時，也可能帶來市場競爭與權力集中的疑慮。

黃仁勳唱反調：AI安全應靠工程解決

相較OpenAI、Anthropic等業者近期開始討論「pace the frontier」，黃仁勳採取不同路線。黃仁勳近期公開反對因為AI安全疑慮而放慢整體技術發展，並主張相關問題應透過工程方式解決。他與美國總統川普（Donald Trump）在AI政策上的立場也越來越接近，川普近期同樣淡化部分AI風險與增加監管的必要性。

Podcast主持人認為，黃仁勳目前也扮演AI產業與川普政府之間的重要溝通角色，但NVIDIA本身同樣是AI持續高速發展的主要受益者。

AI模型越強、資料中心投資越大，市場對NVIDIA晶片與相關基礎設施的需求也越高，因此黃仁勳反對放慢AI發展，也讓外界關注其中的商業利益。

只靠自由市場能管好AI嗎？

另一個爭論則是，如果政府不推出更多AI監管，現有法規與自由市場競爭是否足以約束AI公司。理論上，如果一家AI公司推出不安全產品，消費者可以停止使用，監管機關也可以依照現有法律採取行動，市場自然會讓犯錯企業付出代價。

但O’Kane認為，現實情況可能沒有這麼簡單。首先，目前美國聯邦政府並未展現積極擴大AI監管的態度；其次，AI市場也不完全由一般消費者選擇決定。

隨著OpenAI、Anthropic等公司越來越依賴企業客戶，一家公司即使出現爭議，企業也未必會立刻把既有工作流程從OpenAI Codex全部搬到Anthropic Claude Code。更換AI平台涉及技術、成本與企業內部系統整合，不像一般消費者取消訂閱那麼簡單。

AI公司背後還有龐大資金 市場懲罰效果有限

此外，目前大型AI公司背後都有大量投資資金支持，即使因為安全事故流失部分客戶，也可能有能力承受短期損失。這也讓「市場自然淘汰不安全AI公司」的假設面臨現實限制。

因此，當OpenAI、Anthropic等AI巨頭開始公開討論放慢前沿模型發展時，真正的問題可能不只是「要不要減速」，而是誰來決定什麼時候該減速、誰負責監督，以及在數千億美元資金與激烈競爭壓力之下，各家公司是否真的願意犧牲發展速度換取更多安全空間。

目前產業雖然逐漸形成「AI需要更多安全措施」的共識，但距離真正建立一套能讓所有前沿AI公司共同遵守的減速機制，仍有不少問題尚未解決。

資料來源：TechCrunch