專家認為，人工智能驅動的招聘工具可能無法提高招聘多樣性

背線

劍橋大學的研究人員周日辯稱，聲稱使用人工智能來避免性別和種族偏見的招聘工具可能不會改善招聘的多樣性，而且實際上可能會使這些偏見永久化。作為一種使用技術快速解決更深層次問題的方法。

關鍵事實

在發表的一篇論文中 哲學與技術，研究人員查看了幾家提供人工智能招聘工具的公司的聲明，其中許多聲稱通過隱藏候選人的姓名、性別和其他標識符來消除偏見並促進多樣性，其中一些 排名 候選人基於簡歷掃描、在線評估和對申請人的言語和麵部表情的分析。

研究人員——劍橋大學性別研究中心的兩位教授——認為，這些工具實際上可能會促進招聘的統一性，因為它們再現了“理想候選人”的文化偏見，而“理想候選人”在歷史上一直是白人或歐洲男性。

這些工具也可能不會提高多樣性，因為它們基於過去的公司數據，因此可能會提升與當前員工最相似的候選人。

劍橋大學性別研究中心的研究合著者兼研究員埃莉諾·德拉格 (Eleanor Drage) 在一份聲明中表示，“對這些產品的製造或測試方式幾乎沒有責任”，並補充說該技術可能是“危險的” “關於招聘如何‘去偏見’和更公平的錯誤信息的來源。”

重要報價

“通過聲稱可以使用人工智能從招聘過程中消除種族主義、性別歧視和其他形式的歧視，這些公司將種族和性別減少到微不足道的數據點，而不是塑造我們如何在世界上行動的權力系統， ”德拉格在一份聲明中說。

切線

亞馬遜在 2018 年宣布將 停止 在發現系統強烈歧視女性後，使用人工智能招聘工具審查求職者的簡歷。 這是因為它所依賴的計算機模型是根據過去10年提交給公司的簡歷開發的，這些簡歷大多來自男性應聘者。

關鍵背景

組織越來越多地轉向人工智能來幫助管理招聘流程。 在一個 2020民意調查 在周日論文的作者引用的 300 多名人力資源領導者中，諮詢公司 Gartner 發現 86% 的雇主在招聘實踐中使用虛擬技術，自 Covid-19 大流行迫使許多人將工作轉移到網上以來，這一趨勢已經加速。 雖然一些公司認為人工智能可以提供更具成本效益和時間效益的招聘流程，但有些公司 專家 有 發現 這些系統傾向於通過複製現實世界的現有偏見來促進而不是消除種族和性別偏見的招聘。 幾位美國議員已經 瞄準 解決人工智能係統中的偏見，因為技術繼續快速發展，並且幾乎沒有法律對其進行監管。 白宮本週發布 一份“人工智能權利法案藍圖”認為，招聘中使用的算法被發現“反映和再現了現有的不受歡迎的不平等”或嵌入了新的“偏見和歧視”。 該藍圖沒有法律約束力或官方政府政策，呼籲公司確保人工智能不歧視或侵犯數據隱私，並讓用戶了解何時使用該技術。

需要注意什麼

在推薦列表中，Sunday's 的作者 哲學與技術 論文建議開發人工智能技術的公司關注更廣泛的、系統性的不平等，而不是“個體化的偏見實例”。 例如，他們建議軟件開發人員檢查用於對候選人進行分類、處理和分類的類別，以及這些類別如何通過依賴關於性別和種族的某些假設來促進歧視。 研究人員還認為，人力資源專業人士應該嘗試了解人工智能招聘工具的工作原理以及它們的一些潛在局限性。

令人驚訝的事實

歐盟將人工智能驅動的招聘軟件和績效評估工具列為“高風險” 草案 人工智能的法律框架，這意味著這些工具將受到更嚴格的審查，並且需要滿足某些合規要求。

延伸閱讀

DC希望領導與AI偏見的鬥爭 （Axios）