AI判讀X光片竟分黑人、白人 醫界憂種族歧視

AI人工智慧竟會種族歧視?清華大學資工系助理教授郭柏志與麻省理工學院、哈佛大學跨國研究時意外發現,透過AI深度學習演算法來判讀 X 光片及電腦斷層掃描時,電腦竟然自動區分患者是黑人、白人或亞洲人的背景身分,並影響判斷的準確率,但科學家至今還不明白AI是如何辦到。

先前麻省理工媒體實驗室的資料科學家喬伊‧波拉維尼(Joy Buolamwini)就發現由微軟、亞馬遜與IBM等公司研發出的臉部辨識AI演算法,竟然出現判讀白人的正確度比較高,判讀黑人與女性的正確性則偏低的差別待遇,這種潛藏在科技裡的偏見歧視,成為未來隱憂。

圖/取自Pexels

郭柏志等人的跨國研究團隊橫跨4國,包括史丹佛大學、多倫多大學與美國國家衛生院,分析超過 20 萬位病患的胸部、頸椎、手部X光及胸部電腦斷層掃描,最後統計成果竟然揭露了人工智慧也有歧視問題的驚人真相,這也將衝擊醫療倫理。

研究團隊中一名哈佛大學教授表示,當團隊成員稱AI可以從X光片來判斷人種,自己簡直不敢置信,認為這真的太瘋狂,一定是哪裡出錯,但當越來越多的證據浮現,有團隊成員則直言感覺很「恐怖」。

醫界近年大量引進人工智慧,研發醫療機器人、智慧診療及醫學影像識別技術等,協助醫生更快速、準確地診斷,郭柏志表示,原本以為電腦應該是最公平的,沒想到電腦也默默地提取人類沒教的資訊,包括人種及性別等,因此如何去除歧視,讓各族群的醫學影像判讀都有一致的準確率,成為團隊下一階段要努力的目標。(記者/白水曉)

瀏覽 1,131 次

覺得不錯的話就分享出去吧!

發佈留言

Back to top button