微軟AI負責人：未來3年「看似有意識的AI」將問世

記者鄧天心／綜合報導

Google DeepMind共同創辦人，現任微軟AI負責人Mustafa Suleyman近日於其個人部落格發表長文，他指出，未來兩三年內，業界就能打造出讓人誤以為有意識的AI，這種AI甚至不需要昂貴的專屬訓練，人們只要運用API、進階提示工程與雲端資源，很容易就能大量生產。

Suleyman提到即將出現的是「看似有意識的AI」（Seemingly Conscious AI，以下簡稱SCAI）今天的AI對話能力已極為自然，AI能記住和用戶的互動細節，甚至能表達情感和個性。這使許多人開始將AI視為朋友、神，甚至產生情感依賴。

延伸閱讀：

Google祭出「Gemini for Home」 直球對決Alexa Plus智慧家庭霸主地位

他指出已經有「AI精神病式依附」的現象，有些用戶因長期、情感性依賴AI，心理健康與現實社交可能受到嚴重影響，同時，討論AI是否有意識、是否該被賦予法律權利，也從邊緣意見變為社會關注焦點，學界更出現「模型福利」（modelwelfare）和「AI道德地位」等新議題。

事實上，關於「意識」到底是什麼，目前在哲學與科學領域仍沒有定論。，Suleyman解釋，雖然「AI意識」的證據完全不存在，但人會將一個會對話、能記憶、表現出情感、能提及自己經歷且有目標規劃的系統，當作是「有意識」的存在。

Suleyman進一步指出，SCAI的門檻正在降低，新一代AI只要結合強大的語言理解、多元風格、長時記憶、主觀經驗敘述、自我認知與目標規劃，就能呈現極為擬人的表現，因此，他呼籲產業明確自律，產品必須清楚標示「AI即是工具、並非真的人」，設計上要刻意弱化AI的「人格」連續感、避免AI說出會痛苦、會有自我意志等話語，甚至建議業界共同建立標準、出台法規，加強用戶教育並適時介面提醒，讓社會時刻記住AI本質與限界。

最後，MustafaSuleyman提醒，AI即將跨入新時代，人與機器的界線變得模糊，社會體制和產品設計必須同步進化，產業、政府與公民社會要盡快討論並因應SCAI帶來的全新挑戰，確保AI進步最終用來服務人類，而不是誤導社會大眾或製造新的危機。

資料來源：Mustafa Suleyman