凌華和群聯合作推出「DLAP Supreme」邊緣生成式AI平台，打破地端生成式AI應用中的記憶體限制，提升地端設備的AI運算能力。記者／孫敬 Archer Sun

工業電腦廠凌華科技，上週宣布和台灣IC設計公司群聯電子，合作推出「DLAP Supreme」邊緣生成式AI平台，其整合群聯固態硬碟（SSD）產品「aiDAPTIV+」，可提升推論（Inferencing）速度8倍、Token長度4倍，打破地端生成式AI應用中的記憶體限制，提升地端設備的AI運算能力。

延伸閱讀：凌華攜銳能推「EMS能源管理系統」電動車社區高效充電服務

[caption id="attachment_160519" align="aligncenter" width="1920"] 凌華和群聯已合作超過10年。[/caption]

凌華DLAP Supreme提升運算效能助企業訓練LLM模型

「我們希望通過DLAP Supreme系列，幫助更多企業和機構輕鬆導入生成式AI技術，並在降低成本的同時，提升效能。」凌華科技邊緣運算平台事業處總經理陳少華指出，凌華跟群聯合作超過十年，這次共同推出的DLAP Supreme系列，將進一步推動智慧製造與智慧城市等場景中的AI普及與應用。

凌華表示，隨著生成式AI逐步滲透至各行各業，許多地端設備在執行大型語言模型時，面臨因DRAM容量不足而造成的性能瓶頸，影響模型運行，甚至出現Token長度不足等問題。

若以DLAP Supreme框架，套用DLAP-411 Orin Supreme搭載NVIDIA Jetson AGX Orin 32GB組態搭配上Gemma 27B模型為例，其推論產生第一個Token的時間（Time To First Token, TTFT）提升了8倍，一次性處理的Token長度提升了4倍，並可執行需在H100／A100 80G tensor core GPU才能運行的模型訓練任務，顯著的提升了運行生成式AI模型的效能，大幅度降低部署生成式AI的成本。

[caption id="attachment_160521" align="aligncenter" width="1200"] 凌華和群聯合作DLAP Supreme加速地端設備的AI運算能力。[/caption]

去年4月，群聯電子執行長潘健成於AI EXPO大會分享aiDAPTIV+產品，企業可在伺服器內透過群聯自行開發的軟體，把SSD當作記憶體來使用，來解決AI運算導致記憶體容量不足的問題，目前這項技術已獲雲達、技嘉、研華和華碩等伺服器廠使用。

「群聯推出的邊緣AI技術方案aiDAPTIV+，很高興能協助凌華打造以NVIDIA Jetson AGX Orin平台為基礎的全新DLAP Supreme邊緣生成式AI系列，這不僅是一項重要的合作里程碑，更將在邊緣AI的發展上掀開新篇章。」潘健成回應，未來將共同加速並擴大邊緣AI在模型fine-tuning的應用及市場，特別是在智慧製造、智慧城市及其他產業場景中的實際應用。

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

這篇文章 凌華攜群聯推「DLAP Supreme」提升企業地端設備AI運算能力 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

隨著大數據、AI人工智慧、5G技術的成熟，加上國際間的數位落差逐漸消弭，國立高雄科技大學近年積極深耕5G AI …

隨著大數據、AI人工智慧、5G技術的成熟，加上國際間的數位落差逐漸消弭，國立高雄科技大學近年積極深耕5G AIoT、自駕車等產業，培養相關技術人才，高科大攜手微軟Azure雲端平台，與台灣智慧駕駛股份有限公司（Turing Drive）及凌華科技合作，打造首部以微軟 Azure AI 服務驅動的自駕車。

高科大在微軟Azure雲端運算的基礎上，以PaaS模式，攜手合作台灣智慧駕駛(Turing Drive)以及凌華科技，開發出首部運用Azure AI服務驅動的高科大自駕車。圖為團隊於建工校區操場進行自駕車測試。圖/高科大提供

「微軟」（Microsoft，NASDAQ：MSFT）表示，為因應全球數位轉型潮流，高科大近年以自駕車研發、雲端科技做為未來重點發展領域，這次將 Azure AI 平台結合高科大研發長郭俊賢研發的燃料電池專業，將有助於國內學術界無人載具之研發。

台灣微軟公共業務事業群總經理陳守正對此表示，微軟 Azure 雲端平台提供高速運算能力，搭配 AI 服務，明顯可以提高自駕車軟體的智慧化程度。高科大校長楊慶煜強調，期望透過這次自駕車研發成果展現，讓高科大成為台灣未來自駕車整合解決方案的重要推手。

高科大攜手微軟推出亞洲首部 Azure AI 驅動自駕車，預期Azure 雲端平台將成為台灣自駕車產學合作的領頭羊，加速推動新世代智慧車輛的多元應用，同時也讓更多有志於此的學生具備雲端開發能力，讓更多的莘莘學子加入智慧科技的行列。（記者／劉閔）

這篇文章 微軟、高科大、凌華科技強強聯手 亞洲首部Azure AI驅動自駕車鼓動青春 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。