編譯／莊閔棻 一群人工智慧專家，包括億萬富翁馬斯克在內的科技領袖，要求人工智慧實驗室暫停其最先進的系統的工作， …

編譯／莊閔棻

一群人工智慧專家，包括億萬富翁馬斯克在內的科技領袖，要求人工智慧實驗室暫停其最先進的系統的工作，警告說它們「對社會和人類有深刻的風險」。

雖然許多專家對信中提到的風險的嚴重性持不同意見，但至今，我們也聽過很多人工智慧暴走的新聞了。不過，人工智慧是怎麼出問題的呢？可以避免嗎？

為了回答這些問題，透過人工智慧專欄報導，《紐約時報》就為我們提供了一些解釋：

• 網路垃圾和幻覺

《紐時》專欄指出，人工智慧是透過所謂的「機器學習」來進行訓練的。簡單來說，就是從網路上蒐集各種數據，然後讓人工智慧去分析這些數據，找出規則。然而，這些數據大多來自維基百科和各種論壇網站。而大家也都知道，雖然網路上充斥著有用的資訊，從歷史事實到醫療建議；但同時，網路也充斥著假訊息、仇恨言論和其他垃圾資料。而聊天機器人吸收了這一切，包括文本中明確和隱含的各種偏見。

接著，他們會根據他們「學習」到的東西給出回應。然而，由於它們以令人驚訝的方式混合和匹配它們所學到的東西來生成全新的文本，雖然它們可以創造出令人信服的語言，但很多時候給出的內容卻是完全錯誤的，或者根本不存在於它們的訓練數據中。人工智慧研究人員就將這種編造東西的傾向稱為 「幻覺」，其中可能包括不相關的、無意義的或與事實不符的答案。

美國聖菲研究所的人工智慧研究員Melanie Mitchell說。：「這些系統生活在一個語言的世界裡。這個世界給了他們一些線索，告訴他們什麼是真的，什麼是假的。但是他們學習的語言並不以現實為基礎。他們不一定知道他們所產生的東西是真的還是假的。」

• 有時野心勃勃的不是軟體，而是人類

而人類本身的傾象也是放大問題的原因之一。對於人類來說，我們有在非人類實體中，假設它們有類似人類的特徵和情感的傾象。這被稱為 「擬人論」（Anthropomorphism）。舉例來說，當一隻狗與我們進行眼神交流時，我們傾向於認為它比實際情況更聰明。這就是我們思想工作的方式。

因此，而當一台電腦開始像我們一樣拼寫句子時，我們會下意識的誤以為它能推理、理解和表達情感。但必須了解到的是，對話進行的時間越長，我們對大型語言模型所說的話就越有影響力，因為在和我們說話的同時，機器學習也正在進行。

根據人工智慧先驅Terry Sejnowski等研究人員的說法，一段時間後，聊天機器人可以開始反映我們想法和目的。如果我們引導它變得令人毛骨悚然，它就會變得令人毛骨悚然。Sejnowski博士還將微軟聊天機器人的行為比作《哈利波特》小說中的「意若思鏡」（The Mirror of Erised）。在故事中，當人們發現這面鏡子時，它似乎能提供真理和理解，但事實上不是這樣，它顯示的是任何盯著它看的人的「深層慾望」。因此，對於一些人來說，如果盯得太久就會發瘋。而人工智慧也一樣，它可能會反映出人們有意、無意在話語中展現出來的想法和慾望。

• 能解決這個問題嗎？

Google、微軟和OpenAI等公司正在努力解決這些問題。OpenAI正努力利用人類測試者的回饋來改善聊天機器人。使用一種叫做「強化學習」的技術，讓人類做出回饋，以讓該系統對它應該做什麼，和不應該做什麼有了更好的理解；而微軟則是對與Bing聊天機器人對話的長度做出了限制。

參考資料：The New York Times

這篇文章 AI聊天機器人　為何失控暴走？ 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。

聯發科宣布，近期機器學習導入晶片設計，運用強化學習（reinforcement learning）讓機器自我探 …

聯發科宣布，近期機器學習導入晶片設計，運用強化學習（reinforcement learning）讓機器自我探索學習，預測晶片最佳電路區塊位置與形狀，可大幅縮短開發時間並建構更強大晶片，此技術將在11月台灣舉行IEEE亞洲固態電路研討會A-SSCC（Asian Solid-State Circuits Conference）時發表，同步申請國際專利。

聯發科指出，AI 先進技術注入新演算法，針對極複雜的晶片設計，決定最佳電路配置，除了決定區塊（block）最佳位，還能調整成最佳形狀，將機器學習應用在最佳化設計，協助工程師花更少時間產出更好成果。

聯發科晶片設計研發本部群資深副總經理蔡守仁表示，聯發科將AI和EDA結合出機器最佳化電路區塊，協助研發人員提高效率並自動執行最佳化任務。技術逐步整合導入聯發科全線開發設計流程，包括手機、電視、網通等晶片，有效提升研發能量並且縮短研發時程。

隨著晶片複雜性不斷提高，如何讓數量龐大的組件處於最佳位置且功能正常，是晶片布局的大挑戰，早期電路區塊布局仰賴人力及經驗，往往需耗時數週才能產出方案給晶片系統開發者使用，聯發科透過跨部門合作，運用AI機器學習演算法，可將時間縮短至一天甚至數小時，加強聯發科在業界的競爭力。（記者／竹二）

這篇文章 聯發科機器學習導入晶片設計　縮短開發時程 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。