與Meta擴大AI合作!Arm執行長Rene Haas:未來部分AI將從雲端走向地端
記者孫敬/編譯
安謀(Arm)執行長Rene Haas週三在接受外媒採訪時表示,將部分AI功能從雲端轉移到地端裝置(邊緣運算),將有助於大幅減少能源消耗。他指出,從長遠來看,大量消耗數十億瓦(Multi-gigawatt)電力的資料中心將難以永續經營。
「你必須自問,哪些事情需要發生?我認為這有兩個面向。」Haas表示:「第一個是低功耗,盡可能在雲端採用功耗最低的解決方案,Arm在這方面做了很多貢獻。但我認為更具體的是,將這些AI工作負載從雲端轉移到本地應用程式。」
延伸閱讀:Chrome用戶急需更新!Google修補高危險漏洞 駭客可遠端執行任意程式碼

AI訓練留雲端、推論在邊緣,Haas談混合運算模式
Haas認為,雖然AI訓練(Training)很可能永遠會在雲端進行,但運行AI的過程,也就是所謂的推論(Inference),可以發生在本地,這意味著在人們的手機、電腦和智慧眼鏡等內建晶片上執行。根據Haas的說法,歷史證明「我們總是會轉向混合運算模式。」他暗示這種混合動態也將發生在AI領域,這將有助於緩解對龐大電力投資的需求。
Arm的技術為微軟、亞馬遜等眾多科技巨頭的設備提供核心動力,輝達(NVIDIA)不僅持有Arm大量股權,並曾在2020年試圖收購該公司。Arm與Meta於週三共同宣布,他們將擴大合作夥伴關係,擴大AI效率至運算的每一層級,涵蓋AI軟體和數據中心基礎設施。受此消息刺激,Arm股價當日收盤上漲 1.49%。
Arm和Meta合作案落地,智慧眼鏡體現混合AI
Haas向外媒分享,與Meta的合作「主要圍繞著數據中心,但更廣泛地說……是關於軟體及其相關的軟體堆棧」。他也討論了Arm參與Meta新推出的RAY BAN雷朋Meta二代AI智能眼鏡智慧眼鏡,並指出該技術的AI運算是同時在雲端和本地進行的。
Haas舉例說明:「例如,當你對著這些眼鏡說『嘿,Meta』時,這個動作並不是在雲端發生的,它實際上是發生在你的眼鏡內部,並且是在Arm晶片上運行的。」
資料來源:CNBC