後生可畏!晶片新創Cerebras、Groq超越輝達

編譯/莊閔棻

成立僅九年的晶片新創 Cerebras,憑藉其突破性的AI計算硬體正迅速崛起。圖取自 Cerebras

隨著大型語言模型和圖形處理器(GPU)加速人工智慧(AI)運算的興起,晶片巨頭輝達取得了巨大成功。然而新的且意想不到的競爭對手正冒出和輝達爭奪市場,其中晶片新秀Cerebras和 Groq ,都憑藉其創新技術取得了重大進展。

超越輝達和超微半導體

據報導,隨著GPU 領域正在不斷發展,一些公司正在超越輝達和超微半導體(AMD)等傳統廠商,如基於當今的一些大型語言模型,運行在許多具有互連 GPU 和記憶體的設定上,成立僅九年的Cerebras,就正憑藉其突破性的AI計算硬體迅速崛起。

更多新聞:CoWoS 需求激增   台積電續擴大產能

Cerebras CS-3贏過輝達GB200

Cerebras 的 CS-3 晶片透過擁有高達 90 萬個 GPU 核心的龐大單晶片,在業界脫穎而出,無論是在物理尺寸還是在性能方面,這款晶片的尺寸都令輝達即將推出的 GB200 晶片相形見絀。 CS-3 被描述為「世界上最快、最具擴展性的AI加速器」,能以無與倫比的效率訓練最先進的AI模型。CS-3 擁有驚人的 10 兆個電晶體,大大超過了預計擁有 2,080 億個電晶體的 GB200,使 Cerebras 的技術在原始功率和可擴展性上遙遙領先。

聲稱超越輝達的H100

此外,Cerebras 還聲稱,其 CS-3 背後的技術Wafer Scale Engine已經有效地「打破了摩爾定律」,計算能力的飛躍超越了傳統的限制。Cerebras 的內部基準測試顯示,CS-3 的性能優於輝達目前的 H100 晶片,鞏固了其作為 AI 加速領域領導者的地位。

Groq的專用語言處理單元

另一家新創公司Groq也不甘示弱,在AI硬體開發領域掀起了波瀾。不過,Groq 的方法與 Cerebras 的大規模晶片策略不同,並開發了能有效地運行大型語言模型的「專用語言處理單元」(LPU)。 Groq LPU 將其推理引擎譽為「端到端推理系統加速系統」,旨在透過簡化的設計提供高性能、高效率和高精度。 Groq 的技術目前正在為 Meta的Llama-2 70B 提供支援。

參考資料:Tech Radar

瀏覽 180 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button