人工智慧的使用已經在許多金融領域中以金融科技的姿態出現，不過倘若人工智慧若因為「訓練時間」不夠充足或是模型不完 …

人工智慧的使用已經在許多金融領域中以金融科技的姿態出現，不過倘若人工智慧若因為「訓練時間」不夠充足或是模型不完全導致問題出現，最終可能仍需要人類出馬來親自解決相關問題。

《路透社》報導，身為資料管理系統開發領域的巨擘，FICO（Fair Isaac Corporation）目前已經為全球百大銀行中三分之二的客戶提供服務，並且以其人工智慧軟體來協助銀行的貸款決策。試想，倘若在貸款上出了什麼匹漏，那恐怕將是一場嚴重的悲劇。

FICO 表示，在美國蒙大拿州的公司，在使用人工智慧工具判斷銀行信用卡與簽帳卡詐騙時，該人工智慧所得出的結論是，若線上購物在短時間內激增，就表示詐騙活動一定相對平時更加活絡。疫情期間初期，當所有消費者爭先恐後地搶購衛生紙和其他生或必需品，人工智慧卻「拒絕」了數百萬次的合法購買。

不過，FICO 也補充，消費者最終消費是幾乎沒有受到拒絕的。由於該公司擁有一支20名不間斷監控公司系統的全球分析師小組，會在問題發生時，進行臨時的調整以避免類似上述的問題發生，在該團隊的監控下，共有9000家金融機構中的20億張信用卡受到保護，當然，也依賴著人工智慧的服務。

該團隊所利用的技術是一種在機器學習（Machine Learning）、資訊工程（Data Engineering）以及開發維運（DevOps）三項領域中產生交集的「MLOps」技術。

在2021年由 FICO 以及合作諮詢公司 McKinsey & Co 的調查結果中顯示，多數接受調查的組織，並沒有定期監控或是維護其人工智慧的程式。專家表示，當現實世界的環境或是專業術語與人工智慧訓練中的模型開始產生偏離時，將會有更多的錯誤發生，其中也包含了季節性的變化、數據品質的變化或是諸如新冠疫情的重大事件發生，都可能導致人工智慧的誤判。

據《路透社》報導，麻省理工學院可部署機器學習中心（Center for Deployable Machine Learning）的主任 Aleksander Madry 表示，對於沒有密切監控人工智慧系統的相關人員來說，這場疫情是一記當頭棒喝，因為疫情實在改變了許多行為模式的轉變。

對此，歐盟計畫最快在明年通過新的人工智慧法案，來進行人工智慧的監控；美國方面，白宮也在本月推出的《人工智慧藍圖》（Blueprint for an AI Bill of Rights）也呼籲了相關的監控，以確保性能不會隨著時間推移而降低水準。

就人工智慧的誤判，最顯著的案例莫過於關於種族、膚色相關的訓練數據，最終導致不公平、帶有偏見的判斷結果。《路透社》報導，現在已經有多家公司會事先審查數據以防止這種情況發生；此外，也很少會有公司將這些出現錯誤的表現視為危機。

另外，就詐騙行為而言。據《路透社》的報導，已經有些許人工智慧的使用者開始建立屬於自身的監控能力，也就是前述 FICO 所稱，在疫情初始期間的改變。但是，隨著線上購物的日益劇增，相關的警報也隨之處發，業界也將類似的狀況統稱為「此卡不存在」（card not present）。。

FICO 的首席分析師 Scoot Zoldi 表示，由於消費者習慣的變動太快，以至於人工智慧系統無法重寫。對此，Zoldi 建議可以依照其公司的測量標準來判斷是否為詐騙行為。交易行為在公司的人工智慧判斷結果會在1-999分之間獲得分數，分數越高，越有可能是詐騙行為。

Zoldi 表示：「除非你有在監控人工智慧，不然你對他是沒有管理責任的。」（編譯／戴偉丞）

延伸閱讀：白宮發布「人工智慧權利法案」藍圖

白宮《人工智慧權利法案藍圖》  防範AI造成不平等

英研究人員新發現  人工智慧可能造成人類毀滅

資料來源：Reuters

這篇文章 人工智慧若失控  還是要由人類出馬 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。