耐能推最新邊緣GPT與AI物聯網解決方案，強化企業資安、智慧轉型

記者／孫敬 Archer Sun

隨著大型語言模型（LLM）崛起，生成式AI儼然成為各個產業爭相導入、開發的重要工具。AI晶片新創耐能智慧表示將在今年6月《2024年臺北國際電腦展》（COMPUTEX 2024），展出五項含GPT和AI物聯網相關最新解決方案。

延伸閱讀：ChatGPT4.5正式版將上線！邏輯推理、口語大強化超車Claude3

AI與智慧物聯網結合，助企業保障資安、加速智慧轉型

耐能專注邊緣Soc晶片研發，服務範圍覆蓋終端設備生成式AI、物聯網 (IoT)、汽車電子、消費電子、城市安防、等關鍵領域，本次釋出的五項邊緣運算解決方案，多聚焦離線GPT與智慧物聯網。

1. 離線私有化GPT方案：與傳統的雲端大語言模型不同，耐能此次展出的EDGE GPT解決方案，能夠離線進行即時數據分析和智慧決策，亦可以相容於公司既有的權限存取管理，安裝於公司防火牆之後因不仰賴連網需求，能有效降低企業及科研機構資料洩露風險。

2. AI PC方案：耐能與PC產業鏈合作，推出基於耐能新一代KLL830晶片的AI PC方案，以支援在PC終端上部署本地RAG及大語言模型能力。即使在離線狀態下，也能在AI PC設備上運行大規模語言模型，實現更專業的本地知識庫問答及智慧文檔管理和搜索。

3. AI 板卡（GPU+NPU）：採用耐能可堆疊架構的KLL830, 提供高達40 TOPS等效算力的板卡，擁有體積小、性能強、功耗低優勢，可用於PC，工業電腦或是終端伺服器上。

4. 汽車智慧駕駛：耐能帶來的智慧輔助駕駛方案，透過成熟的ISP及AI演算法，有效監測駕駛員狀態並適應行車過程中 「隧道場景」、「逆光」等複雜光線場景，支持120db寬動態、星光級低照，並可識別人、車、標誌和障礙物等。

5. AI物聯網：基於耐能AI Soc和高能ISP 演算法的IP Cam及諸多智慧場景方案，覆蓋了門禁，全場景會議，及紅外熱成像監控場景。滿足客戶多種複雜安防環境及智慧需求，具備離線運算，高精度，低延遲等優勢。

「隨著生成式AI的爆炸性發展，加速了GPT技術融入在更多行業之中的廣泛應用，將讓人工智慧（AI）能力更易被眾多普通消費者所感知，而且可能會創造一個由AI驅動的新技術升級週期。」耐能創辦人暨執行長劉峻誠博士補充。

瀏覽 161 次