Anthropic共同創辦人：我對AI發展樂觀 但更該面對人類的不信任

記者鄧天心／綜合報導

OpenAI政策總監Jack Clark在最新一期技術通訊Import AI（第431期）中，以〈Technological Optimism and Appropriate Fear〉為題，聚焦人工智慧的快速進展與潛在風險，他指出，生成式AI在過去一年間從內容生成、圖像創作到程式開發的應用突飛猛進，正加速改變產業運作模式，然而，當AI能力與影響力不斷擴大，如何建立有效的治理與限制機制，成為當前科技界與政策圈亟待解決的關鍵課題。

Clark強調，唯有在科技樂觀與理性警覺之間取得平衡，才能確保AI的發展真正造福人類。

延伸閱讀：

輝達、聯發科推全球最小AI超級電腦！黃仁勳還親自交給馬斯克

他以OpenAI的研究方向為例，強調「安全性工程」（Safety Engineering）與「模型可控性」（Model Control）仍是技術社群的核心挑戰。同時，在開放創新與風險管理之間建立平衡，也將決定產業生態的長期信任。他指出：「科技史告訴我們，進步本身並不保證結果會更好。唯有將制度、倫理與創新同時考量，才能讓AI真正成為促進人類繁榮的工具。」

此外，Clark呼籲開發者與決策者應採取更「有意識的樂觀主義」（Conscious Optimism）相信技術可以解決問題，但不忽視其中的代價與副作用。他認為這種態度，將是人類面對AI世代轉折點時最成熟的立場。

目前，OpenAI持續在大型語言模型安全性、責任使用機制與透明度工具上投入研究，也正與政府機構及產業夥伴合作制定AI治理指標，期望在提升模型能力的同時，確保社會能「有信任地採用」AI技術。

資料來源：Import AI