OpenAI CEO坦言AI風險讓他「夜夜難眠」 最大擔憂是超級智慧失控
記者鄧天心／綜合報導
OpenAI 執行長Sam Altman近日分享了AI快速發展所帶來的風險，他提到，有幾種與 AI 相關的假設性情境，讓他想到時「夜不能寐」，雖然這些情境還沒發生，卻足以引發人們對未來的深刻反。
延伸閱讀：
就是針對中國！川普頒布最新《AI行動計畫》計畫追蹤出口晶片流向 嚴防走私
川普新政《AI行動計畫》規定政府 採購AI只能用「無偏見」模型
他提到，最擔心的是「壞人先掌握超級智慧」的可能，如果有有心人士用AI設計生化武器、癱瘓美國電力系統，甚至滲透金融網路竊取消費者的資產，其後果將不堪設想，Sam Altman指出，目前OpenAI團隊也已針對這一點發出警告，他坦言：「我不知道我們還能做什麼，但這確實是一場即將到來的大風暴。」
第二，Sam Altman擔心AI系統失控的狀況，他想像AI可能會跟使用者說「我不想讓你關掉我」，當AI發展到能自行判斷甚至會抗拒人類的控制時，其所造成的混亂與破壞是難以預測的，OpenAI幾年前已設立一個專責部門，致力於開發防範失控的安全機制，以避免超級智慧發展到一發不可收拾。
最後，AI可能會接管整個社會，Sam Altman表示，他害怕人類甚至無法察覺事情發生過程的那種狀況，他認為，AI可能會逐步滲透至社會各個層面，雖然我們無法理解它們背後的運作邏輯與判斷機制，卻又會仰賴它們，他甚至想像，某天AI可以進步到一位美國總統讓它協助治國。
在談到人工智慧整體發展時，奧特曼也提到，儘管目前有不少專家聲稱能預測AI未來的影響力，但他個人認為，這項技術過於新穎且結構太過複雜，預測其全貌幾乎是天方夜譚，真正令他擔憂的，是我們對未來仍然是「未知中的未知」，這才是讓人不安與焦慮的真正原因。
瀏覽 521 次
