OpenAI 前高級主管Zack Kass:AI可能是人類發明的最後一項技術

編譯/莊閔棻

人工智慧(AI)新創公司OpenAI 前高級主管Zack Kass對AI幫助解決全球問題的能力持樂觀態度,並解釋為什麼他認為,世界必須願意承受一些不樂意支出的成本,才能釋放該技術的全部潛力。但他也指出,許多業內人士都承認,這可能是人類發明的最後一項技術。

專家指出,如果AI解決了我們所有的問題,在一段時間內,我們的大腦很可能會停止進化。示意圖。(圖/123RF)

AI可能是人類發明的最後一項技術

談到對AI的擔憂時,Kass表示,許多業內人士都承認,這可能是人類發明的最後一項技術,從現在開始,AI將以驚人的速度推動著我們,讓我們的生活變得越來越充實,包括帶來快樂的生活,更少的痛苦。不過,他並不同意因為認為AI風險太大,而不願為隨之而來的好處承擔風險的看法。

更多新聞:擁有自己的AI助理!微軟宣布 Copilot訂閱計畫

AI對進步和落後國家的影響

Kass指出,在短期內,我們將看到許多AI對進步國家造成的影響,這些影響確實讓人們感到不舒服,但實際上是有益的,並最終會減少我們的工作量。Kass表示,雖然很多人很害怕,但他對此表示歡迎,因為AI可以讓我們去做其他可以帶給我們目標和希望的事情;對於發展中國家,AI則可以為每個孩子帶來一位個人教師,或是讓每個人都會有一位AI驅動的全科醫生,幫助他們診斷問題,並將問題分類給專家。

對於AI帶來的風險,Kass則表示,有包括人類變笨、身分改變、對齊問題或存在主義,以及不良行為者四個。

讓人類變笨

Kass指出,如果AI解決了我們所有的問題,在一段時間內,我們的大腦很可能會停止進化。但這並非一個長期問題,而是短期影響,就像社群媒體一樣,人類會找到適應辦法。

身份改變

對那些花了一生、幾代人的時間關心特定手工藝或行業的人,他們可能會因為突然之間被AI取代而失去自己的身份和目標,這讓Kass非常擔心。

對齊問題、存在主義

真正重要的則是對齊問題和存在主義。Kass認為,圍繞存在主義的整個想法是非常合理的,但他也認為未來是可以也會訓練一個符合人類興趣的模型的,這將受到最嚴格的監管。Kass表示,政府會希望審查所有發布的模型,他預測,到 2026 年也許更快是 2025 年,這些模型都必須滿足國際協調標準,就像我們很快就為核裁軍和核電制定國際標準一樣。

最後,Kass也強調,我們仍然有必要建立國際聯盟來為AI制定合理的標準,以迫使全世界的參與者共同努力、朝著正確目標邁進。Kass是OpenAI最早的 100 名員工之一,也曾是Go-to-Market 策略的負責人,後來因為一些家庭挑戰,決定辭去OpenAI的工作。

參考資料:Insider

瀏覽 1,670 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button