AI招聘不只「複製偏見」 研究發現還會自行建立新刻板印象

記者許若茵／編譯

AI人工智慧已廣泛應用於企業招聘流程，但外界擔心演算法可能承襲既有的人類偏見。最新研究則指出，即使沒有任何既有偏見，大型語言模型仍可能自行發展出新的社會偏見，進而影響招聘決策。

這項由普林斯頓大學與芝加哥大學研究團隊發表的研究，讓多款大型語言模型參與一項過去曾由人類受試者完成的招聘實驗，實驗要求參與者將求職者分配到不同職位，並根據每次招聘結果獲得成功或失敗的回饋。

研究中所有求職者實際上都有相同的工作成功機率，只是被設定為分屬四個虛構族群，包括Tufa、Aima、Reku及Weki，過去的人類實驗顯示，受試者會因個別招聘結果，逐漸對特定族群產生刻板印象。例如，若聘用一名Tufa族群成員擔任醫師後得到負面回饋，之後便較不願再錄用其他Tufa族群成員擔任相同職位，而且這種偏見甚至在實驗結束後仍持續存在。

當研究團隊改由大型語言模型執行相同任務時，發現模型形成偏見的比例遠高於人類，研究團隊指出，大型語言模型即使面對不存在任何差異的虛構族群，也會自發形成新的社會偏見，這項結果顯示，大型語言模型並非只是被動反映人類既有偏見，而是可能透過自身經驗主動創造新的偏見，也引發未來AI長期影響社會的疑慮。

研究認為，問題核心來自決策過程中的「探索與利用權衡」（explore-exploit tradeoff），人在做決策時，通常需要在嘗試新選項與延續過去成功經驗之間取得平衡，當決策風險較高時，人們往往傾向選擇曾經成功的方法，而不是冒險嘗試新的可能，研究指出，AI系統更傾向追求最高回報，缺乏探索新選項的動機，因此更容易根據過去結果形成固定模式，進而產生新的刻板印象。

研究共測試來自OpenAI、Anthropic、DeepSeek、Meta、Google及Alibaba等公司的15款模型。其中，OpenAI的o3推理模型對虛構求職者的分類程度最為明顯。研究也發現，同系列模型中，推理能力越強、規模越大的新模型，反而越容易出現偏見。

研究人員表示，原因在於能力較強的模型能更精確推論過去結果，因此更容易偏好曾成功完成類似工作的特定族群，而不是隨機選擇。然而，這種看似合理的決策方式，可能降低探索新選項的意願，最終使部分族群在無形中遭到邊緣化。

「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/

根據ManPower Group近期調查，目前已有超過九成企業在人才招募流程中使用AI。隨著AI逐步自動化招聘流程，愈來愈多求職者也質疑，AI可能讓他們失去原本公平競爭工作的機會。

目前人力資源管理軟體業者Workday正面臨集體訴訟，原告指控其提供給企業客戶的AI招聘工具涉及歧視。此外，Meta也遭部分員工提告，指稱公司裁員決策依賴存在偏見的AI系統，對身心障礙員工，以及依法請病假或家庭照顧假的員工造成不公平待遇。

研究指出，AI偏見帶來的影響不僅限於職場，過去AI系統也曾因醫療照護、租屋資格審查等應用，遭質疑產生偏頗結果，進而影響民眾的重要權益。

研究人員表示，大型語言模型快速找出規律並進行概括的能力，是其能快速學習新任務的重要原因，但也正是這項能力，使AI在真實世界應用時存在潛在風險。

研究團隊認為，未來最大的挑戰，在於如何設計有效機制，抑制AI產生有害的模式配對，同時保留其有助於推理與學習的抽象能力，唯有在兩者間取得平衡，才能建立兼顧公平與社會利益的AI系統。

資料來源：gizmodo