科技超越人類的潛在威脅？AI教父怎麼看

編譯／戴偉丞

被譽為「人工智慧教父」的多倫多大學榮譽教授 Geoffrey Hinton 日前接受日本經濟新聞採訪，談論到人工智慧及其在未來可能超越人類後所帶來的威脅。Hinton 表示，在此之前之所以選擇從 Google 離開，一方面是考量到自己已經75歲，另一方面，是想要能夠暢所欲言地公開討論人工智慧對於人類生存的威脅。

人工智慧構成人類威脅

在訪談中，Hinton 表示人工智慧可能會提供對於人類不利的解決方案，例如當我們詢問氣候變遷的解決方案，人工智慧的第一直覺可能會認為要先擺脫人類。此外，Hinton 也提到關於不同人工智慧的競爭，也又是說當多個人工智慧相互競爭、爭奪資源時，較為優秀的人工智慧將會勝出，根據物競天擇的原理，人工智慧看似在相互競爭，但可能直到最後，最優秀的人工智慧已經遠超過人類了。

針對聯合國決定就先進人工智慧軍事轉移的監督採取緊急行動，據 Hinton 所言，未來10年內將會有致命自主武器問世，屆時可能將會如同管制化學武器、核子武器，透過國際條約將這類型的武器加以管制。

互動式AI真的「聽得懂人話」？

Hinton 認為人工智慧是可以理解人類語言的。1985年，Hinton 透過神經網路（neural net）研發出全球第一個語言模型，旨在設計出人類大腦是如何理解的模型，當時外界認為其實這個模型並無法如人類大腦般實際理解，對此 Hinton 認為批評人士與掌握理論的研發人員間存在著知識鴻溝。

更多新聞：學習人類語言是關鍵！生成式AI將顛覆自動化業務未來

在訪談中 Hinton 告訴記者，雖然速度非常緩慢，但是人類有能力分享知識，但是在數位運算當中，一切都將簡化為1與0，並依賴在特定硬體中。此外，大型語言模型擁有人類知識，可能比我們所掌握的知識多了數千倍，但是彼此之間的連結卻少了約莫100倍。

但是，針對人工智慧是否掌握主觀意識，Hinton 的回答是肯定的。對此他提到，多數人認為人工智慧沒有主觀經驗，也就是說，人工智慧不具備我們人類所擁有的意識、主觀經驗或知覺。Hinton 說：「我認為這就是錯的。」

資料來源：Nikkei Asia

瀏覽 252 次