AI招聘官走馬上任，是公正裁決還是偏見(jiàn)陷阱？
新智元報道
編輯：耳朵 喬楊
【新智元導讀】隨著(zhù)企業(yè)紛紛采用AI技術(shù)來(lái)自動(dòng)篩選簡(jiǎn)歷、評估面試，我們不禁會(huì )發(fā)出疑問(wèn)：這些「AI招聘官」到底是鐵面無(wú)私、一視同仁，還是攜帶偏見(jiàn)越走越遠？
寶寶你是一個(gè)即將畢業(yè)的應屆畢業(yè)生，對未來(lái)充滿(mǎn)希望，決定畢業(yè)后在職場(chǎng)也要叱咤風(fēng)云。
然而，聽(tīng)多了AI取代人類(lèi)的你也萬(wàn)萬(wàn)沒(méi)有想到，找工作時(shí)遇到的第一個(gè)面試官，竟然是AI。
到了時(shí)間，你登錄系統，根據指示核對身份信息，檢查攝像頭是否開(kāi)啟，麥克風(fēng)是否正常，坐得端端正正，最后在電腦前按下確認。
隨著(zhù)冷靜而又停頓機械的AI考官出題，一場(chǎng)人機面試就開(kāi)始了。
應聘新關(guān)卡：「鐵面無(wú)私」人機交鋒
又到一年畢業(yè)季，上面的「你」可能就是千千萬(wàn)萬(wàn)個(gè)畢業(yè)生的縮影。
人工智能革命已經(jīng)開(kāi)始，幾乎遍及人們職業(yè)和個(gè)人生活的方方面面，包括學(xué)業(yè)面試和工作招聘。
企業(yè)管理層越來(lái)越意識到，在供應鏈管理、客戶(hù)服務(wù)、產(chǎn)品開(kāi)發(fā)和人力資源等各個(gè)環(huán)節，人工智能都有可能帶來(lái)更高的效率。
其中，能用于招聘的，就是傳說(shuō)中的「AI面試官」。
它實(shí)際上是一個(gè)能夠實(shí)時(shí)交互的問(wèn)答機器人，通過(guò)語(yǔ)義識別、表情識別和聲音識別等多種算法，根據既定問(wèn)題，對面試者的回答進(jìn)行分析、梳理，最終給出參考評分。
例如，在按照職位要求篩選簡(jiǎn)歷時(shí)，AI比人類(lèi)有更高的準確率和效率優(yōu)勢，而在相對簡(jiǎn)單、流程標準化的初試中，也能以最快的速度完成初篩。
此外，AI面試官確實(shí)是物理意義上的「鐵面無(wú)私」，能夠避免面試官因偏見(jiàn)、歧視、親緣等問(wèn)題而造成的偏差，提高決策的公平性和一致性。
《2023年吉印通絡(luò )招聘市場(chǎng)發(fā)展研究報告》顯示，AI視頻面試在應用場(chǎng)景中的占比已經(jīng)達到31.8％，而這個(gè)比例在未來(lái)只會(huì )有增無(wú)減。
不僅是中國，在全球范圍內用AI提升招聘效率也越來(lái)越常見(jiàn)。
快消巨頭吉印通利華就曾發(fā)布過(guò)一組數據：AI能夠幫助節約10萬(wàn)小時(shí)的面試時(shí)間，每年能省下100萬(wàn)美元的招聘成本。
然而，雖然AI的引入能降本增效，但人工智能的本質(zhì)以及背后的訓練數據，都帶著(zhù)人的烙印，會(huì )不可避免地引入人類(lèi)偏見(jiàn)，甚至還可能在原有偏見(jiàn)的基礎上「變本加厲」。
放大人類(lèi)偏見(jiàn)
雖然在招聘中使用人工智能的原因之一是為了更加客觀(guān)，但多項研究發(fā)現，這種技術(shù)實(shí)際上很可能存在偏見(jiàn)。
之所以會(huì )出現這種情況，根本原因還是數據。如果數據有偏見(jiàn)和缺陷，人工智能也會(huì )復制這種缺陷。
The Decoder與22位人力資源專(zhuān)業(yè)人士進(jìn)行的訪(fǎng)談后，發(fā)現了招聘中常見(jiàn)的兩種偏見(jiàn)——「刻板印象偏見(jiàn)」和 「同類(lèi)相似偏見(jiàn)」。
「刻板印象偏見(jiàn)」顧名思義，來(lái)源于對某個(gè)群體的刻板印象。比如偏愛(ài)某個(gè)性別的應聘者，從而導致性別不平等。
「同類(lèi)相似偏見(jiàn)」，則指的是招聘人員偏愛(ài)與自己有相似背景或興趣愛(ài)好的應聘者。
這些偏見(jiàn)會(huì )嚴重影響招聘過(guò)程的公平性，它們可能流入歷史招聘數據，然后被用來(lái)訓練人工智能系統，就導致了AI偏見(jiàn)。
例如，從2014年起，亞馬遜公司就開(kāi)始開(kāi)發(fā)用于簡(jiǎn)歷篩選的人工智能，希望從海量的簡(jiǎn)歷中，快速地篩選出最理想的候選人。
不過(guò)，這個(gè)技術(shù)僅僅過(guò)了一年，有人就發(fā)現，AI的篩選結果中包含強烈的性別傾向。
即使候選簡(jiǎn)歷里面并未明示性別，AI也會(huì )在文本的蛛絲馬跡里尋找「線(xiàn)索」，例如「女子棋社隊長(cháng)」，或者畢業(yè)于女子大學(xué)。
知情人士表示，這個(gè)人工智能的訓練材料，是公司過(guò)去10年的雇傭歷史，而在科技領(lǐng)域，長(cháng)期的職業(yè)刻板印象以及「親男文化」，都導致了男性雇員數量大于女性，尤其是技術(shù)崗位。
2017年，亞馬遜棄用了這個(gè)篩簡(jiǎn)歷的AI模型。
這種偏見(jiàn)的持續存在表明，無(wú)論是否使用AI，都有必要進(jìn)行仔細規劃和監測，以確保招聘流程的公平性。
人類(lèi)能消除偏見(jiàn)嗎？
除了人力資源專(zhuān)業(yè)人士，The Decoder還采訪(fǎng)了17位人工智能開(kāi)發(fā)人員，希望研究如何開(kāi)發(fā)人工智能招聘系統，以減少而不是加劇招聘偏見(jiàn)。
在訪(fǎng)談的基礎上，他們建立了一個(gè)模型，讓人力資源專(zhuān)業(yè)人員和AI工程師在研究數據集和開(kāi)發(fā)算法的過(guò)程中，來(lái)回交換信息，質(zhì)疑并去除先入為主的觀(guān)念。
然而，研究結果表明，實(shí)施這種模式的困難在于人力資源專(zhuān)業(yè)人員和AI開(kāi)發(fā)人員之間存在的教育和專(zhuān)業(yè)差異。
這些差異阻礙了有效溝通、合作，甚至是相互理解的能力。
人力資源專(zhuān)業(yè)人員傳統上接受的是人員管理和組織行為方面的培訓，而AI開(kāi)發(fā)人員則精通數據計算和技術(shù)，這些不同的背景會(huì )導致合作時(shí)的誤解和不協(xié)調。
如何優(yōu)化AI＋HR
皮尤研究中心最近對11004名美國人進(jìn)行了一項調查，發(fā)現66%的人不想向用AI招聘的雇主申請工作。
只有32%的人表示他們會(huì )申請，而其余的人則不確定。而71%的人反對AI做出的招聘決定。
因此，如果企業(yè)和人力資源行業(yè)想要解決AI招聘中的偏見(jiàn)問(wèn)題，就需要做出幾項改變。
首先，要對人力資源專(zhuān)業(yè)人員進(jìn)行培訓，以信息系統開(kāi)發(fā)和人工智能為重點(diǎn)的結構化培訓至關(guān)重要。
培訓內容應包括AI的基本原理、如何識別系統中的偏見(jiàn)以及減少這些偏見(jiàn)。
此外，促進(jìn)人力資源專(zhuān)業(yè)人員與AI開(kāi)發(fā)人員之間更好的合作也很重要。
公司應該建立包括人力資源和AI專(zhuān)家在內的團隊。這有助于彌合溝通鴻溝，更好地協(xié)調雙方的工作。
此外，建立具有文化多樣性的高質(zhì)量數據集，確保AI的招聘流程中使用的數據能代表不同的人口群體。
最后，各國需要制定在招聘中使用AI的指導方針和道德標準，以幫助建立信任并確保公平。各組織應在A(yíng)I的決策過(guò)程中實(shí)行問(wèn)責制，提高透明度。
通過(guò)采取這些措施，我們可以創(chuàng )建一個(gè)更具包容性和公平性的招聘系統，既然AI擅長(cháng)做客觀(guān)數據的分析與決策參考，那么作為輔助工具使用，而不是攜帶著(zhù)訓練不夠的「蠢」和復制偏見(jiàn)的「壞」貿然成為命運的判官。
最后，下拉海報新智元招聘中，全人工傾情對接無(wú)人機機械冰冷~
參考資料：
021yin.com/what-will-a-robot-make-of-your-resume-the-bias-problem-with-using-ai-in-job-recruitment/
