輝達將推出新AI晶片!找上Groq合作 打破內部研發慣例

記者鄧天心/綜合報導

Nvidia為因應對手競爭,計畫推出新款晶片產品,這款處理器專注處理AI推論(inference)需求,預計下個月於聖荷西舉辦的GTC開發者大會正式發表,新系統將整合Groq設計的晶片,提供給OpenAI等客戶。

黃仁勳(資料圖/記者 孟圓琦攝)
Nvidia結盟Groq推AI推論晶片,打破內部研發慣例。(資料圖/記者 孟圓琦攝)

建構AI分為兩階段:提供資料教導系統的「訓練(training)」,以及系統實際上線作答的「推論(inference)」,Nvidia過去產品主力在訓練階段,此次新平台轉攻推論運算,專門處理AI接收指令並產出解答的流程,這套硬體能縮短AI回覆時間,解決市場當前面臨的算力瓶頸。

更多科技工作請上科技專區:https://techplus.1111.com.tw/

面對晶片市場對手增加與市占率流失壓力,Nvidia整合Groq技術推出新產品,直接協助OpenAI等客戶提升AI運作效能,Groq專攻推論處理器,Nvidia將其技術整合進自家系統,直接拉高平台處理AI問答的效能,這樣的結盟模式也打破Nvidia過去硬體全靠內部研發的慣例。

延伸閱讀:

Google正式推出NanoBanana2新一代AI圖像生成模型

資料來源:economictimes

Loading

在 Google News 上追蹤我們

發佈留言

Back to top button