在AI時代，政府需要了解這些模型可以如何管理風險並抓住人工智慧的好處，近期，美國、英國、日本、加拿大、新加坡等國家意識到需要跟上人工智慧前所未有的發展步伐，成立了專門機構，稱為人工智慧安全研究所（AISI）。

作者：Howie Su（產業分析師）

在AI時代，政府需要了解這些模型可以如何管理風險並抓住人工智慧的好處，近期，美國、英國、日本、加拿大、新加坡等國家意識到需要跟上人工智慧前所未有的發展步伐，成立了專門機構，稱為人工智慧安全研究所（AISI）。

他們的任務是評估人工智慧系統的能力和風險，進行基礎安全研究，傳播研究結果並促進利害關係人之間的資訊交流。除了作為監管機構的主要職責外，歐盟人工智慧辦公室還將透過其人工智慧安全部門履行類似的職責，AISI的成立標誌著該國朝著制定AI全球策略方向前進，以確保安全和有益的人工智慧邁出重要一步。

人工智慧安全研究所成為判讀指標

從本質上講，人工智慧模型是複雜且不可預測的。人工智慧技術的當前狀態使得很難預測模型將如何回應新的、看不見的輸入或評估其能力的上限。這對安全性和可靠性提出了重大挑戰。例如，透過工具或其他擴充功能來擴展人工智慧系統功能的潛力使安全部署和使用變得複雜，鑑於下一代人工智慧模型的能力和潛在風險存在巨大的不確定性，今天有效的評估和保障措施明天可能就行不通了。

不過，各國 AISI 的具體作用各不相同。例如，在英國，人工智慧安全研究所的使命明確是「最大限度地降低人工智慧快速和意想不到的進步對英國和人類帶來的意外」。美國、加拿大、日本或新加坡的其他機構也有類似但不同的任務：美國人工智慧安全研究所將協調國內外不同的參與者，制定強大的人工智慧安全和測試標準；而歐盟新的人工智慧辦公室擁有監管權，可以向模型提供者索取訊息，並可以透過執行人工智慧法案對業者實施制裁。

更是國際合作與技術協調的關鍵

AISI 最重要的功能之一就是促進技術合作，舉例而言，英國和美國在開發人工智慧系統的綜合評估套件以及對可公開存取的人工智慧模型進行聯合測試，這些做法鼓勵從事人工智慧的人員交流和資訊共享；英國和加拿大也建立了類似的合作夥伴關係，分享對人工智慧安全研究和評估至關重要的運算資源。

而 2024 年 5 月的首爾人工智慧高峰會上宣佈建立一個十個國家和歐盟的國際人工智慧安全網路，目的為促進對人工智慧模型的局限性、功能和相關風險的資訊共享，並在全球範圍內監控與人工智慧相關的安全事件ㄝ該框架將有助於跨國際邊界更均勻地分配技術知識。

不過，AISI 也有弱點： 必須與人工智慧公司競爭，以吸引頂級人工智慧工程師和科學家。例如，英國人工智慧安全研究所在成功聘請了大型人工智慧公司的頂尖研究人員後，最近在舊金山設立了辦事處，以更接近世界領先的人才，但未來是否能延續攬才優勢，以及如何與大型科技業互動，是各國AISI要思考的議題。

這篇文章 各國政府對AI了解程度：誰領先誰落後？【Howie Su】 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。