從蘋果的Siri和亞馬遜的Alexa虛擬助理，到吸塵器和自動駕駛車，再到自動化投資管理者和市場分析機器人，人工 …

從蘋果的Siri和亞馬遜的Alexa虛擬助理，到吸塵器和自動駕駛車，再到自動化投資管理者和市場分析機器人，人工智慧在我們的日常生活中佔據了很大一部分。至今，當我們想到AI時，很多人因為科幻小說的渲染，都會聯想到長得跟人類很像的機器人，而且有一天會變得獨立並背叛我們。

近期華盛頓郵報刊登的報導引起軒然大波，在這則報導中，Google工程師布萊克．勒莫因(Blake Lemoine)表示，人工智慧聊天機器人：LaMDA，可能有感知能力。「在聊天時LaMDA就像是個七、八歲的小朋友。」這位早已和LaMDA深入對話無數次的工程師，這樣告訴華盛頓郵報。然而，東北大學社會科學與人文學副教授約翰．巴賽爾(John Basl)認為，這則報導不足以證明LaMDA擁有感知能力。他認為這個證據是基於LaMDA的語言能力，和當時所聊的話題而產生的。不過LaMDA被專門設計作為談話的機器人，能夠訓練優化其語言功能，並透過刺激，讓它的演算法製造出這樣的證據。「這個聊天機器人讓人類認為它是有感知能力的情況，說明了它的複雜性，但是它需要優化的是別的能力，而不是感知能力。」

感知能力有許多不同的定義，感知被定義為能夠感受、感覺到，且大多時候被認為是和智慧相關的能力。巴賽爾認為感知人工智慧至少能夠感覺到當下，且能夠有正面或負面的態度，像是痛覺、不想感受到痛覺，並擁有慾望。「我們能在動物世界中看到這些感知能力，像是狗並不會認為世界應該換一種運作方式，但是比起狗糧，牠明顯更喜歡小餅乾。」

這則華盛頓郵報的故事是模稜兩可的，為什麼勒莫因會將LaMDA和小孩做比較呢？他可能想表示這個聊天機器人擁有像小孩子一樣的智力，或是像小朋友一樣的生存能力和慾望。「這些都可能是不同的東西，我們能創造出會思考但沒有感覺的人工智慧，也能創造有感覺但不太會思考的人工智慧。」巴賽爾說道。

在人工智慧領域中，大部分的研究員由機械學家、人工智慧專家、哲學家、科技倫理和知覺科學家組成，他們已經在思考未來可能會遇到的問題，尤其是思想倫理方面。巴賽爾表示「如果我們創造出無比聰明的人工智慧，那它可能會殺光我們全部人。在對待人工智慧時，我們道德方面的思考並不足夠。」他認為人類很有可能會錯誤的對待人工智慧，因為他們認為它只是個機器人，甚至無法意識到人類自身的錯誤。

另一派想法則認為，感知型人工智慧是不可能存在的，因為一些宇宙物質的限制，或是我們對於意識認知的限制。目前沒有任何公司明確表示希望創造感知型人工智慧，包含大公司如：Google、Meta、微軟、蘋果和政府機關等。有些組織對於開發通用人工智慧(AGI)較感興趣。國際商業機器公司(IBM)表示，有一派關於人工智慧的理論中，機器能夠擁有如人類般的智慧，能夠有解決大小問題、學習、規劃未來的能力。

在創造和研發人工智慧之前，我們應該建立透明化、與政府或公家機關共享資訊，並研究如何監管的基礎，巴賽爾提醒道。他提倡建立一個跨專業的委員會，共同設立這些基礎後，再來監督人工智慧研究員，並評估研究計畫和結果。「在證據上我們很難界定，」巴賽爾說，「我們在意識的研究上並不足夠，也無法界定是否擁有意識的證據，而且我們也沒有建立任何基礎，但是這些才是研究的關鍵。」（編譯／李昀蓁）

文章來源：https://techxplore.com/news/2022-06-google-ai-sentient.html

這篇文章 幫忙VS.背叛 如果人工智慧有知覺？ 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

AI可以模仿人的語言、情感等功能，讓人對AI產生共情，於是一部分人就會認為，「AI是人，或具有人的某些精神品質 …

AI可以模仿人的語言、情感等功能，讓人對AI產生共情，於是一部分人就會認為，「AI是人，或具有人的某些精神品質」，AI和人相比除了硬件都相同，也可以有人格、有道德。因為AI在科學上沒有情感等人類品質，就可以排除或禁止一個人對AI產生共情嗎？這屬於人文的邊界，這個邊界至少目前非常模糊。

自今年6月以來，Google一名工程師稱某AI聊天機械人可能具有自己的「意識」，並稱該AI「令人印象深刻的語言技巧背後，可能還隱藏着一顆具備感知能力的心」。

據悉，這種觀點與根深蒂固的「二元論」是根本不同的，所以人工智能帶來的顛覆實際上遠超科技範疇。如果以這種觀點考慮，能化解很多矛盾和難題，包括法律難題，而且可以讓科學與人文在某種程度上重新「握手言和」。

中國科學技術大學教授、中國人工智能學會AI倫理工作委員會負責人陳小平接受媒體訪問提到，與科學的邊界不同，AI與人類之間「人文的邊界」已非常模糊，如果AI真的具備人格、情感、道德，一般能力又超過人類，就會出現可控性問題。陳小平說，依據科學判斷，AI是沒有人格的。另一方面，導致這位Google員工認為AI有「人格」有其客觀原因，比如他可能對這個AI系統產生了共情。

然而，「幾乎可以肯定的是，只要AI能夠模仿一種功能，那AI的這種功能遲早會比人強，就像Alpha Go下棋一樣。如果AI的通用能力也超過人，到那時人類憑甚麼能夠控制AI？這是個疑問。而我們現在就要思考這樣的問題，提前做好風險防範。」他說，現在人工智能已經讓一些人產生了共情，將來會讓愈來愈多的人產生共情，這件事客觀存在，將給人機關係、人際關係帶來巨大的新挑戰和新機遇，是新的重大課題。（記者／宋柏瑜）

這篇文章 AI與人邊界模糊　將超出控制 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。