從聊天到代辦事情！AI Agent風險升高 數發部揭6層治理課題

記者許若茵／台北報導

Meta宣布推出AI個人代理應用程式，並要求部分用戶付費，如今AI從「回答問題」進一步走向「代替人做事」，AI Agent的治理也成為下一階段監管課題。數位發展部次長侯宜秀今（9）日與媒體交流時表示，AI Agent同樣可以依循現行AI風險分類框架進行評估，但由於Agent具備更高的自主性與執行能力，未來治理方式可能與一般AI應用有很大不同；她更直指，若未來台灣AI Agent與美國等國家的Agent直接互動，甚至進入交易環境，國際間可能需要建立共同的Agent身分認證標準。

Meta正式把AI Agent推向更深層的個人生活應用，他們近日在美國推出AI助理Muse，可連結電子郵件、行事曆、支付、健康、購物及智慧家庭等App，並代表使用者執行寄信、賣車、訂旅行等任務。Muse內部代號為Hatch，是Meta執行長祖克柏「個人超級智慧」計畫的重要產品之一。Meta希望藉此讓AI不再只是聊天工具，而是能直接操作不同服務、持續替使用者完成工作。

侯宜秀指出，目前已有部分政府機關的AI應用情境使用Agent，但Agent與一般聊天機器人或單純嵌入特定功能的AI應用仍存在明顯差異。她以聊天機器人與Agent作比較，聊天機器人可能只是告訴使用者「該怎麼做」，最後仍由人執行；Agent則可能一路把事情完成。因此，Agent治理不只要看模型回答得是否正確，還必須進一步處理「它能做什麼」、「可以被授權到什麼程度」等問題。

侯宜秀表示，自己先前曾系統性討論AI Agent的治理，認為未來至少涉及6個層面的問題。

第一是能力信任，也就是Agent究竟具備多少能力、可以完成哪些事情；第二是行為信任，也就是人類願意授權Agent執行到什麼程度；第三則是安全，必須確保Agent本身及其運作環境受到適當保護。

第四是身分，侯宜秀指出，當Agent開始代表人或組織執行任務時，必須回答「這個Agent代表誰」；第五是可問責性，包括誰授權Agent、誰應該負責；第六則是制度問題，也就是當Agent真的發生問題時，應該如何處理，未來可能涉及認證標準、責任制度及保險等機制。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

侯宜秀認為，Agent治理與傳統AI應用最大的不同，就在於「授權」與「自主性」，一般AI可能只提供資訊或建議，但Agent可能直接採取行動，因此未來政府在AI應用指引中，也需要進一步思考如何納入Agent相關規範。

不過，她也坦言，AI Agent治理目前仍是全球各國都在發展中的議題，台灣並非唯一正在摸索的國家，尤其Agent未來可能跨國互動，單一國家的管理規範恐怕不足以處理新的問題。

侯宜秀舉例，未來很容易想像「台灣的Agent跟美國的Agent講話」，如果AI Agent未來進入商業交易環境，就必須知道對方Agent究竟是誰、代表哪個人或組織。，因此，她認為未來交易型Agent可能需要具備某種形式的身分ID或身分認證機制，讓交易雙方能夠確認Agent的身分與背後授權者。

但新的問題也隨之而來：Agent的身分制度究竟應由哪個國家制定？侯宜秀認為，這可能需要由可信任的國際夥伴共同討論，建立一套各方都能接受的標準。

「AI不是只有台灣人在用，是全世界大家都在用。」侯宜秀表示，未來如果不同國家的Agent彼此互動，各國若採取完全不同的規範，恐怕會成為跨境AI應用的障礙，因此建立國際共通的治理標準將是重要課題。