不再憂AI風險　Google、微軟等7家業者做出安全承諾

記者／竹二

自從ChatGPT問世以來，生成式AI的開發與應用越來越多元、廣泛，各種對於資訊安全、個人隱私的質疑與隱憂也不曾間斷，近日有7大人工智慧業者對控管AI所帶來的風險做出了安全承諾，包含OpenAI、微軟、Amazon、Google、Meta、Anthropic，以及Inflection，這7家業者向美國白宮承諾，自願協助AI技術走向安全、可靠與透明的發展。

根據白宮的說法，開發AI這類新興技術的企業，有責任確保它們的產品是安全的，為了發揮AI的絕大部分潛力，美國政府鼓勵AI產業堅持最高標準，不讓美國人的權利與安全成為創新的代價。

更多新聞：Google成立紅隊　測試人工智慧系統的攻擊

OpenAI、微軟、Amazon、Google、Meta、Anthropic，以及Inflection這7家業者同意在推出產品之前確保安全性，會在建置系統時以安全為優先考量，譬如會在AI系統釋出前，進行內部與外部的安全測試；願意與同業、政府、社會及學術界分享AI管理的資訊；投資網路安全與內部威脅防護機制，以保護私有及未發表的模型權重；與第三方合作以找出AI系統的漏洞。

為了贏得大眾對AI工具的信任，這7家業者也承諾將打造「可標記AI」的生成內容的技術，例如浮水印系統，並公開對外說明其AI系統的能力、限制，以及適用或不適用的領域。此外，他們也將針對AI系統可能帶來的社會風險展開研究，避免有害的偏見與歧視，同時也保護隱私。

據了解，美國政府正在制定一項行政命令，以尋求立法，另一方面則與國際合作，預計要建立一個國際框架，來管理AI的開發與使用，目前已有澳洲、加拿大、巴西、德國、印度、新加坡、韓國等20個國家自願承諾進行協商，將藉由在各國舉行的重要AI會議上，推動這項全球共識。

瀏覽 721 次