什麼是超級網卡?用於AI雲端加速的SuperNIC

編譯/高晟鈞

Nvidia最近推出了全球首款專為AI計算量身訂製的SuperNIC,這款搭建在BlueField-3網路平台的新型網路加速器,與Spectrum-4乙太網路共同構成了專為優化AI工作負載的加速器系統。

Nvidia最近推出了全球首款專為AI計算量身訂製的SuperNIC。(圖/截取自 NVIDIA.COM )

人工智慧和網路相輔相成

人工智慧與大型語言模型的出現,釋放了電腦進行更高階運算的潛力。AI的成功很大程度上依賴GPU加速運算來處理大量資料,但也對乙太網路雲端網路有了更高的要求。

更多新聞:訓練AI模型最高階晶片 Nvidia推出新一代H200圖形處理器

傳統的乙太網路是支撐整個互聯網基礎設施的技術,以兼容性著稱,旨在滿足一般用戶的不同需求。另一方面,基礎網路介面卡(NIC)也是為了通用運算、資料傳輸而設計。兩者的設計目的本就不是為了滿足AI加速運算的苛刻需求,因此,SuperNIC的誕生有望提供AI一個更好的運算環境。

SuperNIC的優勢

資料處理單元(DPU)提供高通量資訊傳輸、低延遲網路連線等優勢,因此在雲端運算領域廣受歡迎。SuperNIC與DPU功能類似,但SuperNIC針對加速AI網路進行了獨特的優化。

人工智慧訓練很大程度上取決於網路頻寬的可用性,而SuperNIC的每個GPU能提供令人驚豔的400GB/s網路頻寬。另外,由於SuperNIC唯一的用途只為了加速AI運算的網路連線;因此,它可以使用比DPU更低的運算能力,來達到同樣的效能。而較低的運算需求,也意味著更低的功耗,這對於多達8個SuperNIC的系統尤為重要。

徹底改變人工智慧雲端運算

Nvidia Blue-Field SuperNIC具有多項優勢,支撐更優化的AI運算系統:

  • 最大化AI工作負載效率:Blue-Field SuperNIC專為網路密集、大規模並型運算而生,可以確保人工智慧高效運作,沒有瓶頸。
  • 效能一致性:在同時處理大量任務時,Blue-Field SuperNIC確保每個租戶的效能都是隔離,不會相互影響彼此的效能權益。
  • 安全性:安全性對於處理敏感資訊的資料中心尤其重要。Blue-Field SuperNIC保持最高安全級別,使多個用戶可以共存,同時保持資料和處理時的隔離。
  • 可擴展的網路架構:Blue-Field SuperNIC不受限制,可以適應無數其他網路基礎設施的要求。
  • 支援廣泛的服務器製造商:Blue-Field SuperNIC能無縫融入大多數企業級伺服器,而且不會增加資料中心的能源消耗。

資料來源:NVIDIA.COM

瀏覽 1,124 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button