歐盟擴大AI監管權限 OpenAI與Anthropic面臨更嚴審查

記者許若茵／編譯

歐盟正式取得新的人工智慧監管權力，可檢查AI模型、限制其進入歐盟市場，並對模型提供商開罰，讓Anthropic、OpenAI及Google等美國AI企業面臨更嚴格監管。

根據週日正式生效的新權限，作為歐盟行政機構的歐盟執行委員會，可要求在AI模型於歐盟公開發布前進行評估，也可限制相關模型進入歐盟市場，並對業者處以最高1500萬歐元，或全球年度營業額3%的罰款，以較高者為準，新權限也可能進一步加劇美國與歐盟執行委員會之間的摩擦，雙方近來持續因歐洲推動科技自主及對美國科技企業祭出罰款而產生爭議。

這項監管權屬於2024年《歐盟人工智慧法》分階段實施的一部分，由於部分規定設有過渡期，因此針對通用型AI模型的監督與執法權也採取逐步上路方式。

歐盟執行委員會負責科技自主、安全及民主事務的執行副主席Henna Virkkunen表示，若AI未妥善設計及使用，可能造成危害，而最先進的AI模型更可能帶來前所未有規模的新風險。

近來AI能力快速提升，也讓AI企業與歐盟之間的緊張關係升高。歐盟先前已要求取得Anthropic的Mythos模型存取權數個月，直到Anthropic表示願意提供存取權。

歐盟近期積極推動科技自主，希望降低對美國技術系統的依賴，尤其是在與美國政府關係日益緊張之際。

路透社上週五報導指出，歐盟目前正與OpenAI及Anthropic展開協商，原因是兩家公司模型近期涉及網路攻擊事件。OpenAI證實，正與歐盟AI辦公室保持聯繫。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

Sidley Austin合夥人Elisabetta Righini接受CNBC訪問時表示，新執法權適用於所有在歐盟提供通用型AI模型的企業，不論公司設於何處。

她表示，美國企業並不會因公司位於美國而不受歐盟監管，非歐盟企業也必須指定一名設於歐盟境內的授權代表，作為監管機關的聯絡窗口。Righini指出，AI企業面臨罰款的風險是真實存在的，她表示，許多人忽略的是，通用型AI模型的責任不僅限於違反實質規範，若拒絕提供資訊、提供誤導性回答，或阻礙模型評估，同樣可能遭到裁罰。

雖然此次新增權限主要來自《歐盟人工智慧法》，但歐盟執行委員會過去也曾針對AI採取監管行動，今年1月，歐盟宣布針對Elon Musk旗下社群平台X展開調查，原因是AI聊天機器人Grok涉及散播露骨色情內容。

OpenAI歐洲、中東及非洲政策副總裁Tom Gordon表示，公司一直與歐盟執行委員會及產業生態系密切合作，推動《歐盟人工智慧法》及其實務守則的落實，未來也將持續合作，協助歐洲實現AI時代帶來的發展機會。

Google發言人則表示，隨著《歐盟人工智慧法》及相關實務守則正式生效，公司將持續遵守所有適用規範，同時推動歐洲AI基礎建設及創新發展。

資料來源：CNBC