高通AI Hub將支援Snapdragon X系列平台,驅動多個AI模型服務

文/鉅亨網

IC 設計大廠高通 (QCOM-US) 宣布,Qualcomm AI Hub 支援 Snapdragon X 系列平台,使開發人員能夠輕鬆利用筆電中同類型最佳的 CPU 和全球最快的 NPU,在新一代 Windows PC 發揮生成式 AI 的優勢,開發人員現在可以導入自己的 AI 模型,無縫最佳化後直接在裝置內運行。

IC 設計大廠高通 (QCOM-US) 宣布,Qualcomm AI Hub 支援 Snapdragon X 系列平台。(圖/123RF)

高通資深副總裁暨技術規劃與邊緣解決方案總經理 Durga Malladi 表示,透過 Qualcomm AI Hub 支援 Snapdragon X 系列平台,將提供開發人員彈性和強大功能,為新一代 Windows PC 創造創新的 AI 應用程式。致力於為開發人員提供所需的工具和資源,充分釋放裝置上生成式 AI 的潛力。

Qualcomm AI Hub 是開發人員取得資源、工具和服務的途徑,以實現出色的裝置上 AI 效能,並擁有不斷增加的模型庫,其包含 100 多個預先最佳化的 AI 模型,並同步在 Hugging Face 和 GitHub 推出。

此外,Qualcomm AI Hub 現在允許開發人員「自帶模型」(Bring Your Own Model ,BYOM),能夠專門針對 Snapdragon 和 Qualcomm 平台上傳、最佳化和編譯模型,包括支援 PyTorch、TensorFlow 和 ONNX 等所有主要框架。

開發人員可以在不到五分鐘的時間內,利用幾行程式碼輕鬆在雲端託管裝置上測試和驗證模型。簡化模型最佳化和驗證流程後,開發人員可以節省寶貴的時間和精力,加快開發和部署週期,協助加快迭代速度。

全球領先的 PC OEM 廠商,包括宏碁、華碩、戴爾、惠普、聯想、微軟 Surface 和三星,計劃推出搭載 Snapdragon X Elite 和/或 X Plus 運算平台的 PC,讓開發人員能夠使用 Qualcomm AI Hub 為此新世代裝置帶來出色的體驗。

Snapdragon X 系列平台支援廣泛的 AI 開發工具。由於與 ONNX Runtime 和 Hugging Face Optimum 深度整合以及對 Llama.cpp 的支援,開發人員現在可以在 Snapdragon X 系列平台上運行數千個模型,建立豐富的 AI 驅動 Windows 應用程式。開發人員也可以在 DeepLearning.AI 與高通技術公司合作提供的線上課程中學習裝置上 AI,以及如何在自家的應用程式中導入裝置上 AI。

(本文已獲鉅亨網同意授權刊出)

瀏覽 221 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button