AWS台北區域驅動產業升級 用生成式AI代理強化金融、醫療等企業數位韌性

記者孫敬/台北報導

AWS亞太(台北)區域自今年6月6日正式啟用後,至今已導入83項雲端服務,並預估將陸續提供達百項。AWS全球技術總監南丁(Shaown Nandi)表示,AWS台北區域由三個獨立可用區域組成,保障系統韌性的同時亦確保客戶資料不被存取或用於模型訓練,並將資料存在台灣境內伺服器。對於未來在台灣的發展,南丁看好應用在金融、醫療、製藥、政府機構及客服等對數據安全與合規性要求高,且擁有大量數據的關鍵產業。

延伸閱讀:AWS首座區域創新中心落腳新加坡 目標一年助300家企業升級AI

AWS Shaown Nandi scaled
AWS全球技術總監南丁。(圖/孫敬拍攝)

生成式AI代理:革新企業營運與加速創新的引擎

對生成式AI代理的發展,南丁觀察其已從單純回應問題的「助理」角色,進化為能自主規劃、執行複雜任務並達成特定目標的「AI代理」,而AI代理的核心構成要素包含:作為「大腦」的基礎模型(如大型語言模型)、賦予其「工作內容描述」的角色與指示、具備學習與改進能力的記憶力(包括短期與長期),以及能執行任務的資料與工具存取能力。南丁指出,未來趨勢將走向多個AI代理協同合作,以解決更龐大、更複雜的企業級挑戰。

AI代理能為企業帶來實質效益:除了可提升人工生產力,協助員工從重複性任務中釋放,提高工作效率;其二,能自動化複雜流程,例如財務報表處理、採購及保險理賠等,進而提升產業的運營效率與應變能力,強化數位韌性;其三,將驅動創新與研究,加速創意內容生成、新藥研發、數據分析,並協助科學研究。實際應用案例方面,Amazon Q Developer在AWS內部協助Java程式碼做轉移,可節省4,500人時工作時間並降低2.6億美元成本;國家美式足球聯盟(NFL)則運用AI代理,將新人訓練時間縮短67%。

AWS evolving into agentic ai scaled
AI正在從自動化工具,演進為能自主決策、執行複雜目標,甚至能模仿人類推理的智能代理。(圖/孫敬拍攝)

AWS技術底蘊與在地化優勢:構建安全、高效、彈性的雲端基石

AWS為企業提供全面的生成式AI架構,分為三層解決方案。底層基礎設施提供強大算力,包含與NVIDIA長達14年深度合作,以及AWS自研的Graviton(通用型處理器,如Audi透過其節省60%成本)與Trainium(專為AI訓練設計,具更高能源效率)晶片,這些晶片不僅降低成本,也使得企業能夠更具成本效益地部署和擴展AI解決方案,從而提升其整體數位韌性。

中層管理平台Amazon Bedrock作為核心,協助工程師「一次開發,適用多模型」,支援AWS自有、開源及第三方模型。南丁特別強調,AWS在資料安全與隱私上的承諾,「我們不取得我們的客戶的資訊,我們不接觸我們的客戶的資訊,包括了你提供的資料,這些資料仍然在虛擬私人雲端(VPC)中。」此外,Bedrock透過Model Distillation技術,可提升高達500%執行效率、降低75%運作成本。最上層則提供企業可直接部署的現有的AI代理工具,以加速業務應用。

在台灣,AWS台北區域由三個獨立可用區組成,每個可用區的地理位置、電力及網路系統皆獨立,「在台北區域,三個可用區域都是分開的,每一個可用區域裡面,都有一個以上的資料中心,地理位置、電源系統、網路系統都是分開的。」南丁提到,這項設計即便面對突發狀況,服務也能持續運作。

AWS Generative AI Stack scaled
AWS 生成式 AI 技術堆疊架構。(圖/孫敬拍攝)

瀏覽 138 次

發佈留言

Back to top button