編譯／莊閔棻 ChatGPT和其他新的聊天機器人因為非常善於模仿人類的互動，讓一些人開始討論關於其是否有「意識 …

編譯／莊閔棻

ChatGPT和其他新的聊天機器人因為非常善於模仿人類的互動，讓一些人開始討論關於其是否有「意識」的可能性，雖然到目前為止答案都是否定的，但也有專家表示，這可能取決於我們對「意識」的理解和解釋。

根據《NBC》的報導，在人工智慧時代，擁有意識代表著什麼，還有待討論。牛津大學人類未來研究所的創始主任Nick Bostrom表示，如何將這些由數百萬個數字組成的深度神經網路，映射到關於意識是什麼的觀點上，是一個「未知領域」。他也提到：「這是一個非常新的研究領域，有一大堆工作還沒有完成。」

幾十年來，人類創造出各種生命一直都是科幻小說的主題，而哲學家們則花了幾十年時間考慮意識的本質。一些人就認為，現在存在的一些人工智慧程式應該是有意識的。先前，一名Google工程師就曾因為提出這樣的主張而被解僱；與此同時，ChatGPT背後的公司OpenAI的聯合創始人Ilya Sutskever也推測，ChatGPT背後的演算法可能「略有意識」。

一般來說，基於其所訓練的大型資料庫，ChatGPT和其他大型語言模型是使用數學計算出在任何特定情況下該使用什麼詞，來做出回應的，因此，創造人工智慧的公司都堅持他們的產品沒有意識，只是透過其學習的資料來對人們的詢問進行回應而已。微軟的一位發言人就強調，Bing聊天機器人「不能自己思考或學習」。

許多哲學家則認為，一個東西要想成為「有意識的」，就必須有主觀體驗。哲學家Thomas Nagel表示，只有一樣東西是「有機體」時才有可能有意識。他打比方說，雖然蝙蝠的大腦和感官與人類的非常不同，但牠很可能有某種類似於蝙蝠的經驗，相比之下，一個餐盤則不會有。

紐約大學心智、大腦和意識中心的聯合主任David Chalmers就說，雖然ChatGPT顯然不具備許多通常假設的意識要素，如感覺和獨立，但很容易想像，一個更複雜的程式可能可以達到這些標準。

佛羅里達大西洋大學未來思想中心的創始主任Susan Schneider表示：「他們有點像變色龍。可以在任何時候成為任何新的角色。目前，尚不清楚他們是否有基本的目標和信念來驅動他們的行動，但隨著時間的推移，他們可能會發展出更清晰的代理感。」

哲學家們指出的一個問題是，用戶可以去問一個複雜的聊天機器人說它是否有自己的經驗，但我們不能相信它會給出一個可靠的答案。Susan Schneider說：「他們是優秀的騙子。它可以告訴你，它覺得自己是人。然後10分鐘後，在另一個對話中，它會說相反的話。」

舊金山非營利組織人工智慧安全中心的哲學研究員Robert Long也提醒說，像ChatGPT這樣的系統雖然具有複雜性但並不代表它有意識。另一方面，他也指出，雖然聊天機器人描述的主觀體驗可能不可信，但這並不帶表它沒有主觀體驗。他舉例說：「如果一隻鸚鵡說牠感到痛苦，這並不代表它處於痛苦之中，但鸚鵡確實可能可以感到痛苦，而類似的事情可能發生在人工智慧上。」

Susan Schneider建議說，因為是透過資料學習的，因此目前的聊天機器人是使用現有的人類文字來描述其自我意識的狀態。因此，她認為，測試一個程式是否有意識的一個方法，就是不給它接觸這類資料的機會，看看它是否還能描述自己的主觀經驗，然而，如果人工智慧真的有意識，可能又將引發另外一個倫理問題。

參考資料：NBC

這篇文章 何謂「意識」？ChatGPT等高級AI可能重新定義答案 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

AI可以模仿人的語言、情感等功能，讓人對AI產生共情，於是一部分人就會認為，「AI是人，或具有人的某些精神品質 …

AI可以模仿人的語言、情感等功能，讓人對AI產生共情，於是一部分人就會認為，「AI是人，或具有人的某些精神品質」，AI和人相比除了硬件都相同，也可以有人格、有道德。因為AI在科學上沒有情感等人類品質，就可以排除或禁止一個人對AI產生共情嗎？這屬於人文的邊界，這個邊界至少目前非常模糊。

自今年6月以來，Google一名工程師稱某AI聊天機械人可能具有自己的「意識」，並稱該AI「令人印象深刻的語言技巧背後，可能還隱藏着一顆具備感知能力的心」。

據悉，這種觀點與根深蒂固的「二元論」是根本不同的，所以人工智能帶來的顛覆實際上遠超科技範疇。如果以這種觀點考慮，能化解很多矛盾和難題，包括法律難題，而且可以讓科學與人文在某種程度上重新「握手言和」。

中國科學技術大學教授、中國人工智能學會AI倫理工作委員會負責人陳小平接受媒體訪問提到，與科學的邊界不同，AI與人類之間「人文的邊界」已非常模糊，如果AI真的具備人格、情感、道德，一般能力又超過人類，就會出現可控性問題。陳小平說，依據科學判斷，AI是沒有人格的。另一方面，導致這位Google員工認為AI有「人格」有其客觀原因，比如他可能對這個AI系統產生了共情。

然而，「幾乎可以肯定的是，只要AI能夠模仿一種功能，那AI的這種功能遲早會比人強，就像Alpha Go下棋一樣。如果AI的通用能力也超過人，到那時人類憑甚麼能夠控制AI？這是個疑問。而我們現在就要思考這樣的問題，提前做好風險防範。」他說，現在人工智能已經讓一些人產生了共情，將來會讓愈來愈多的人產生共情，這件事客觀存在，將給人機關係、人際關係帶來巨大的新挑戰和新機遇，是新的重大課題。（記者／宋柏瑜）

這篇文章 AI與人邊界模糊　將超出控制 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

Google內部針對AI（人工智慧）技術是否具有人類意識的爭論曝光，讓AI伴隨的野心與風險浮上檯面。 Goog …

Google內部針對AI（人工智慧）技術是否具有人類意識的爭論曝光，讓AI伴隨的野心與風險浮上檯面。

Google這家矽谷巨頭上週將一名工程師停職，因為他認為公司的AI系統LaMDA似乎「有知覺」，Google已正式駁斥這種說法。

多位專家告訴法新社，他們也對LaMDA有意識的說法高度懷疑，但人類的本質和野心很容易模糊問題。

美國華盛頓大學（University of Washington）語言學教授班德（Emily M. Bender）說：「問題在於…當我們遇到屬於我們語言的字串時，就會加以理解。」

「我們在做的是想像一個不存在的頭腦。」

LaMDA是一個使用先進模型、功能強大的系統，能用文字聊天來模擬人類溝通。

根據Google的解釋，該系統建立在一個模型上，模型觀察單字之間的關係，然後預測接下來會出現在句子或段落中的單字。

北卡羅來納大學教堂山分校（University of North Carolina at Chapel Hill）電腦科學助理教授斯里瓦斯塔瓦（Shashank Srivastava）說：「它在某種程度上仍然只是模式匹配。」

「當然，你可以找到一些真正有意義的對話，可以生成一些非常有創意的文字，但在許多情況下它會迅速轉移。」

儘管如此，確定它們有沒有意識還是棘手問題，這通常得使用圖靈測試（Turing test）這樣的基準測試。

多倫多大學（University of Toronto）哲學教授金威爾（Mark Kingwell）說：「對於2022年我們這裡的任何AI來說，這實際上是一個相當容易通過的測試。」

「更嚴格的測試是上下文測試，當前系統似乎會被上下文測試中的常識知識或背景想法等難倒，那是演算法很難處理的東西。」

AI在科技界內外仍然是微妙議題，可能讓人驚訝，卻也讓人有些不舒服。

Google在聲明中迅速且堅定地淡化LaMDA是不是有自我意識的問題，「這些系統模仿了數百萬個句子中的交流類型，並且可以重複任何奇異的話題」。（譯者：鄭詩韻/核稿：楊昭彥）1110615

這篇文章 Google工程師稱機器人有知覺遭停職 AI爭議浮檯面 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。