AI has transformed recruitment. Resume screening algorithms process thousands of applications in minutes. Video interview analysis tools score candidates on facial expressions, vocal tone, and word choice. Predictive models estimate "cultural fit," "retention probability," and "performance potential" from application data. These tools promise efficiency, consistency, and objectivity—removing the human biases that decades of employment discrimination research has documented.

The promise is undermined by a growing body of evidence that AI hiring tools can replicate precisely the biases they claim to eliminate. Amazon's internal AI recruiting tool, abandoned in 2018 after it was found to systematically downgrade resumes containing the word "women's" (as in "women's chess club captain"), was an early warning. Since then, research has documented algorithmic bias in resume screening, video interview scoring, and predictive analytics across multiple industries.

The Explainability Problem

Fabeyo (2025) examines transparency methods in AI hiring algorithms. AI tools have increasingly been shaping employment decisions, from resume screening to employment tests and automated video interviews. Concerns about the "black box" nature of these tools have grown as many algorithmic models offer little insight into how or why hiring decisions are made.

The explainability problem in hiring AI is both technical and legal. Technically, complex models (deep neural networks, ensemble methods) cannot provide simple, human-interpretable explanations for their predictions. Legally, employment law in most jurisdictions requires that adverse employment decisions be justifiable—but an algorithm that says "this candidate scored 62 out of 100" without explaining which factors drove the score does not provide the justification that a rejected candidate would need to contest the decision.

Designing for Fairness

Agbasiere and Nze-Igwe (2025) investigate how AI affects hiring procedures, focusing on the fairness of algorithms that drive hiring tools. AI has improved the efficiency of the hiring process, yet its use results in institutionalized discrimination. The AI systems used for recruitment, which are trained on historical data, frequently reflect and reinforce pre-existing prejudices in the data.

The paper proposes design principles for fairer AI hiring tools:

• Bias auditing: Regular testing of AI outputs across demographic groups to detect disparate impact.
• Representative training data: Ensuring training data reflects the diversity of the qualified candidate pool, not the historical hiring pool (which may reflect past discrimination).
• Human oversight: Maintaining meaningful human review of AI recommendations, particularly for adverse decisions.
• Candidate transparency: Providing candidates with information about how AI was used in their evaluation and the opportunity to contest AI-informed decisions.

The AIHR Landscape

Zhu (2025) examines AI in the field of employment and AI-HR (AIHR) under the recruitment path based on big data algorithms for resume screening. Some AI has already replaced humans in working positions, and in the field of recruitment, AI-powered tools process large numbers of applications using pattern recognition that may encode biases present in historical hiring data.

The paper documents how algorithmic bias enters the hiring pipeline at multiple points: during data collection (which candidates are represented in training data), during feature selection (which candidate attributes the model considers), during model training (what patterns the algorithm learns to associate with "good" candidates), and during deployment (how the model's outputs interact with human decision-makers).

Ethical Design Framework

Singh, Kumar, and Das (2025) propose Ethicruit—a framework for designing ethical AI systems in employment and recruitment. Conventional AI recruitment systems tend to perpetuate existing human prejudices, which result in gender, race, or socioeconomic-based discrimination.

The framework addresses ethical AI recruitment through four pillars: fairness (ensuring equal treatment across demographic groups), transparency (making algorithmic decision processes understandable), accountability (establishing clear responsibility for algorithmic outcomes), and privacy (protecting candidate data from unauthorized use).

Gender Equity in Automation

Maheswari (2025) proposes the G.E.N.D.E.R. AI Framework for advancing workplace equity in automation. AI and automation are increasingly influencing workplace decision-making, particularly in recruitment, performance evaluations, and career progression. While AI is often perceived as neutral, research highlights that these systems frequently replicate and amplify existing inequalities.

The framework addresses a specific dimension of algorithmic hiring bias: gender. AI systems trained on historically male-dominated industries learn to associate "successful employee" with male-correlated attributes (education at male-dominated institutions, career trajectories without gaps, leadership language associated with masculine communication styles). Without deliberate corrective design, these systems systematically disadvantage female candidates.

Claims and Evidence

Open Questions

Implications

The research reviewed here suggests that AI hiring tools are not neutral—they encode the biases present in historical hiring data and the design choices of their developers. Employment law must evolve to address algorithmic discrimination that lacks identifiable discriminatory intent, and organizational practice must incorporate bias auditing, transparency, and human oversight as standard components of AI-assisted recruitment.

면책 조항: 이 게시물은 정보 제공 목적의 연구 동향 개요이다. 학술 연구에서 인용하기 전에 구체적인 연구 결과, 통계 및 주장은 원본 논문을 통해 확인해야 한다.

채용에서의 AI: 알고리즘이 '거절'이라고 말하지만 이유를 설명할 수 없을 때

AI는 채용 방식을 변화시켰다. 이력서 선별 알고리즘은 수천 건의 지원서를 몇 분 만에 처리한다. 화상 면접 분석 도구는 표정, 음성 톤, 단어 선택을 기준으로 지원자에게 점수를 부여한다. 예측 모델은 지원 데이터로부터 "문화적 적합성", "재직 가능성", "업무 성과 잠재력"을 추정한다. 이러한 도구들은 수십 년에 걸친 고용 차별 연구가 기록해 온 인간의 편견을 제거함으로써 효율성, 일관성, 객관성을 제공한다고 약속한다.

그러나 이러한 약속은 AI 채용 도구가 바로 자신들이 제거하겠다고 주장하는 편견을 복제할 수 있다는 점을 보여주는 증거가 축적되면서 그 신뢰성이 흔들리고 있다. Amazon이 2018년 내부적으로 폐기한 AI 채용 도구는 "여성(women's)"이라는 단어(예: "여성 체스 클럽 회장")가 포함된 이력서를 체계적으로 낮게 평가하는 것으로 밝혀지면서 일찍이 경고 신호가 되었다. 그 이후로도 연구들은 여러 산업에 걸쳐 이력서 선별, 화상 면접 채점, 예측 분석에서 알고리즘 편향을 기록해 왔다.

설명 가능성 문제

Fabeyo(2025)는 AI 채용 알고리즘의 투명성 방법을 검토한다. AI 도구는 이력서 선별부터 채용 시험 및 자동화된 화상 면접에 이르기까지 고용 결정을 점점 더 많이 형성해 왔다. 많은 알고리즘 모델이 채용 결정이 어떻게, 왜 내려지는지에 대해 거의 통찰을 제공하지 않음에 따라, 이러한 도구들의 "블랙박스" 특성에 대한 우려가 커지고 있다.

채용 AI에서 설명 가능성 문제는 기술적인 동시에 법적인 문제이기도 하다. 기술적으로, 복잡한 모델(심층 신경망, 앙상블 방법)은 예측에 대한 단순하고 인간이 해석 가능한 설명을 제공할 수 없다. 법적으로, 대부분의 법적 관할권에서 고용 관련 법률은 불리한 고용 결정에 정당한 근거가 있을 것을 요구한다. 그러나 어떤 요소가 점수를 좌우했는지 설명하지 않고 단순히 "이 지원자는 100점 만점에 62점을 받았다"고만 말하는 알고리즘은 탈락한 지원자가 결정에 이의를 제기하는 데 필요한 근거를 제공하지 못한다.

공정성을 위한 설계

Agbasiere와 Nze-Igwe(2025)는 AI가 채용 절차에 미치는 영향을 조사하며, 특히 채용 도구를 구동하는 알고리즘의 공정성에 초점을 맞춘다. AI는 채용 과정의 효율성을 향상시켰지만, 그 사용은 제도화된 차별을 초래하기도 한다. 채용에 활용되는 AI 시스템은 역사적 데이터를 바탕으로 훈련되기 때문에, 데이터에 내재된 기존의 편견을 빈번히 반영하고 강화한다.

해당 논문은 보다 공정한 AI 채용 도구를 위한 설계 원칙을 제안한다:

• 편향 감사: 불균등한 영향을 탐지하기 위해 인구통계학적 집단에 걸쳐 AI 출력물을 정기적으로 검사한다.
• 대표성 있는 훈련 데이터: 훈련 데이터가 과거의 차별을 반영했을 수 있는 역사적 채용 풀이 아닌, 자격을 갖춘 지원자 풀의 다양성을 반영하도록 보장한다.
• 인간의 감독: AI 권고 사항, 특히 불리한 결정에 대한 실질적인 인간 검토를 유지한다.
• 지원자 투명성: 지원자에게 자신의 평가에 AI가 어떻게 활용되었는지에 대한 정보를 제공하고, AI에 기반한 결정에 이의를 제기할 기회를 부여한다.

AIHR 환경

Zhu(2025)는 이력서 선별을 위한 빅데이터 알고리즘 기반 채용 경로를 중심으로 고용 분야의 AI 및 AI-HR(AIHR)을 검토한다. 일부 AI는 이미 작업 현장에서 인간을 대체하였으며, 채용 분야에서도 AI 기반 도구가 역사적 채용 데이터에 내재된 편향을 인코딩할 수 있는 패턴 인식을 활용하여 대규모 지원서를 처리하고 있다. 이 논문은 알고리즘 편향이 채용 파이프라인의 여러 지점에서 유입되는 방식을 기술한다: 데이터 수집 단계(훈련 데이터에 어떤 지원자가 대표되는가), 특성 선택 단계(모델이 어떤 지원자 속성을 고려하는가), 모델 훈련 단계(알고리즘이 "우수한" 지원자와 연관 짓도록 학습하는 패턴이 무엇인가), 그리고 배포 단계(모델의 출력이 인간 의사결정자와 어떻게 상호작용하는가)가 이에 해당한다.

윤리적 설계 프레임워크

Singh, Kumar, Das(2025)는 고용 및 채용 분야의 윤리적 AI 시스템 설계를 위한 프레임워크인 Ethicruit을 제안한다. 기존의 AI 채용 시스템은 기존의 인간적 편견을 영속시키는 경향이 있으며, 이로 인해 성별, 인종, 사회경제적 지위에 기반한 차별이 발생한다.

이 프레임워크는 네 가지 기둥을 통해 윤리적 AI 채용 문제를 다룬다: 공정성(인구통계학적 집단 전반에 걸친 동등한 대우 보장), 투명성(알고리즘적 의사결정 과정을 이해 가능하게 만들기), 책임성(알고리즘적 결과에 대한 명확한 책임 확립), 그리고 프라이버시(지원자 데이터를 무단 사용으로부터 보호)가 이에 해당한다.

자동화에서의 성별 형평성

Maheswari(2025)는 자동화 환경에서의 직장 내 형평성 증진을 위한 G.E.N.D.E.R. AI 프레임워크를 제안한다. AI와 자동화는 특히 채용, 성과 평가, 경력 발전 분야에서 직장 내 의사결정에 점점 더 큰 영향을 미치고 있다. AI는 흔히 중립적인 것으로 인식되지만, 연구에 따르면 이러한 시스템은 기존의 불평등을 빈번히 복제하고 증폭시킨다.

이 프레임워크는 알고리즘 채용 편향의 특정 차원인 성별 문제를 다룬다. 역사적으로 남성이 지배적이었던 산업의 데이터로 훈련된 AI 시스템은 "성공적인 직원"을 남성과 상관된 속성(남성 중심 기관에서의 학력, 공백 없는 경력 궤적, 남성적 의사소통 방식과 연관된 리더십 언어)과 연관 짓도록 학습한다. 의도적인 교정 설계 없이는 이러한 시스템이 여성 지원자를 체계적으로 불리하게 만든다.

주장과 근거

미해결 질문

시사점