HPE攜手輝達推進代理型AI落地 強化治理、安全與Token使用效率
記者黃仁杰／台北報導
生成式AI正從回答問題的工具，進一步演變為能夠自主規劃、呼叫系統並執行任務的AI代理。然而，當AI開始接觸企業資料、操作業務流程，如何掌握代理行為、避免資料外洩，並控制GPU與Token成本，也成為企業將AI從測試環境推向正式營運的關鍵。
慧與科技（HPE）於HPE Discover Las Vegas 2026宣布擴大與輝達（NVIDIA）的合作，為HPE AI Factory with NVIDIA導入代理治理、機密運算與新一代運算架構，協助企業在兼顧資安、資料主權及成本效益的情況下，部署大規模代理型AI。
HPE總裁暨執行長Antonio Neri表示，隨著AI自主性提高，企業需要全新的架構，才能安全運行、負責任地治理，並以具成本效益的方式擴大部署。HPE將從網路、伺服器、儲存到軟體整合成完整AI堆疊，協助企業從AI實驗階段進入實際生產環境。
輝達創辦人暨執行長黃仁勳則指出，AI代理正在重塑整個運算堆疊，雙方合作的AI工廠解決方案，將結合NVIDIA Vera CPU、加速運算基礎架構與AI軟體，讓企業能將內部資料轉化為可執行的智慧行動。
為AI代理建立治理與安全護欄
此次更新的核心之一，是讓企業能夠掌握AI代理在系統中做了什麼。
HPE Private Cloud AI將整合NVIDIA Agent Toolkit，包含NVIDIA Nemotron開源模型、NVIDIA NeMoClaw及NVIDIA OpenShell安全執行環境。企業可藉此監控AI代理行為、設定安全護欄，並管理代理可以使用的模型、工具及技能，降低AI代理在執行任務過程中誤用權限或存取敏感資料的風險。
「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/
HPE也將在Private Cloud AI中加入本地代理註冊機制。企業可在集中式治理及資安政策下，審核哪些AI模型、外掛工具與代理技能能夠進入正式環境，而非讓不同部門自行部署、形成新的影子AI問題。
在異常事件處理方面，HPE Zerto Software將加入AI代理行為識別功能。當系統偵測到代理出現異常操作時，可透過持續資料保護機制，將資料及應用程式還原至未受影響的狀態。
改善資料管線 縮短Token回應時間
除了代理治理，資料準備效率也是企業AI部署的另一項瓶頸。大量企業資料仍以文件、影像、郵件及紀錄等非結構化形式存在，若無法快速整理、分類及套用權限，便難以供AI模型使用。
HPE表示，Private Cloud AI可在數分鐘內將非結構化資料轉換為AI資料管線。透過HPE Alletra Storage MP X10000內建的智慧功能，系統能自動加入中繼資料及治理政策，提前為AI應用整理資料，最高可將Token回應時間縮短20倍，並使Token吞吐量提高最高20%。
HPE Data Fabric Software則將模型上下文協定（Model Context Protocol，MCP）支援延伸至Apache Airflow，讓AI代理能在受控環境中使用分散於不同系統的企業資料。新增的AI資產盤點功能，也能透過中繼資料掌握企業內部的資料、模型與AI資源。
在成本管理方面，HPE Private Cloud AI將提供統一模型閘道、工作負載優先排序，以及橫跨最多256顆GPU的多節點推論能力。企業可依照任務需求分配模型及運算資源，提高GPU使用率，同時控制每次推論所消耗的Token成本。
企業也能透過NVIDIA NeMo，使用內部資料微調NVIDIA Nemotron等預訓練模型，在保留資料控制權的前提下，建立符合特定產業或組織需求的AI代理。
導入機密運算 保護執行中的模型與資料
針對金融、政府、醫療及涉及資料主權的應用，HPE將透過HPE Services，把NVIDIA機密運算技術整合至HPE AI Factory及HPE Sovereign AI Factory。
不同於只保護儲存或傳輸中的資料，機密運算主要保護資料與模型在實際執行期間的安全。系統可透過加密及密碼學驗證，確認硬體、軟體與資料集未遭竄改，建立從基礎架構到AI工作負載的信任鏈。
NVIDIA BlueField及DOCA軟體也將負責零信任政策執行、執行階段威脅偵測及網路加密，在不明顯犧牲效能的情況下，保護AI代理、模型與企業資料。
在硬體方面，HPE AI Factory將支援NVIDIA RTX PRO 6000 Blackwell Server Edition GPU、Spectrum-X乙太網路、BlueField-3 DPU及ConnectX SuperNIC。HPE Private Cloud AI未來也將加入搭載NVIDIA Vera CPU的HPE ProLiant Compute DL394 Gen12伺服器，作為代理型AI及高效能資料處理的運算平台。
HPE Private Cloud AI首波新功能預計於2026年7月推出，HPE Data Fabric Software則預計於同年10月上市。代理行為監控、資料智慧功能、NVIDIA Agent Toolkit、NeMoClaw及HPE Zerto相關功能，預計於2026年第四季陸續推出；搭載Vera CPU的ProLiant DL394 Gen12平台則規劃於2027年上市。
