紐約AI安全法上路 OpenAI、Anthropic「重大事件須72小時內通報」
記者許若茵／編譯
紐約州即將開始執行美國最重要的人工智慧（AI）安全法案之一。州政府週二開放登記入口網站，Anthropic、OpenAI等大型前沿AI開發商，必須在2027年1月1日前完成登記。
紐約州的安全與透明度法案《RAISE Act》將於2027年初正式生效。法案要求大型前沿AI開發商，也就是年營收超過5億美元的企業，必須在官方網站公布安全框架、於72小時內通報重大安全事件，並發布公開的模型透明度報告。
新成立的數位創新、治理、誠信與信任辦公室（DIGIT），將負責執行《RAISE Act》，並監督大型前沿AI實驗室。若企業違反法規，單次違規最高可處100萬美元罰款，後續違規則最高可處300萬美元。此外，紐約州也能對未透過新設立入口網站完成登記的企業採取執法行動，但州政府發言人並未進一步說明具體措施。
紐約州州長Kathy Hochul週二在記者會上表示，科技巨頭告訴大眾，他們對AI的願景勢不可擋，甚至要求人們要麼跟上腳步，要麼被時代淘汰，並認為只要能贏得AI競賽，任何附帶損害都值得承受。
Hochul同日也宣布成立紐約州AI責任與研究中心，設於紐約州立大學賓漢頓分校。該中心將獨立評估先進AI系統的安全性、資安防護及運作情況，並與DIGIT合作，審查企業提出的安全框架。Hochul最早於今年1月宣布成立該中心，並獲得5500萬美元捐款及資本挹注。
Hochul表示，紐約州正建立一套兼顧智慧與合理性的AI監管模式，希望打造全國典範，讓社區利益優先於企業，人民利益優先於強大的科技。
《RAISE Act》並非紐約州通過的唯一AI安全法案。去年，紐約州已開始執行一項法律，要求AI陪伴服務業者定期提醒使用者，對話對象是聊天機器人，並合理努力偵測使用者是否出現自殺意念或自我傷害傾向。
今年10月，Hochul也簽署另一項針對未成年人的聊天機器人安全法，限制業者提供具有欺騙性、模仿真人的互動，以及情緒操控或一味迎合使用者的回應，同時禁止鼓勵自殺或飲食失調等行為。該法將於2027年6月1日生效。
美國其他州也陸續通過與《RAISE Act》類似的AI安全及透明度法案。加州《SB 53》已於今年1月生效，要求前沿AI實驗室建立並公開安全框架、制定吹哨者保護措施，並在15天內通報重大安全事件。
伊利諾州《SB 315》則預計於2027年初生效，規範內容與加州法案相似，另外也要求企業接受獨立的安全合規稽核。
資料來源：techcrunch
