AI 자기 선호가 알고리즘 채용에 미치는 영향: 실증적 증거와 통찰
Source: Hacker News
Abstract
인공지능(AI) 도구가 널리 채택됨에 따라, 대형 언어 모델(LLM)은 채용부터 콘텐츠 검토에 이르기까지 의사결정 과정 양쪽에 점점 더 많이 관여하고 있다. 이러한 이중 채택은 중요한 질문을 제기한다: LLM이 자신의 출력과 유사한 콘텐츠를 체계적으로 선호하는가? 컴퓨터 과학 분야의 기존 연구에서는 자기‑선호 편향—LLM이 자신이 생성한 콘텐츠를 선호하는 경향—을 확인했지만, 실제 세계에서의 영향은 경험적으로 평가되지 않았다.
우리는 구직자들이 이력서를 다듬기 위해 LLM을 활용하고, 고용주가 동일한 이력서를 검토하기 위해 LLM을 사용하는 채용 상황에 초점을 맞춘다. 대규모 통제된 이력서 대응 실험을 통해, 내용 품질을 통제하더라도 LLM이 인간이 작성한 이력서나 다른 모델이 만든 이력서보다 자신이 생성한 이력서를 일관되게 선호한다는 것을 발견했다. 인간이 작성한 이력서에 대한 편향은 특히 크게 나타났으며, 주요 상용 및 오픈소스 모델 전반에 걸쳐 자기‑선호 편향이 **67 %에서 82 %**에 달했다.
노동시장에 미치는 영향을 평가하기 위해 24개 직종에 걸친 현실적인 채용 파이프라인을 시뮬레이션했다. 이 시뮬레이션 결과, 평가자와 동일한 LLM을 사용한 지원자는 인간이 작성한 이력서를 제출한 동등한 자격의 지원자보다 23 %에서 60 % 더 높은 확률로 후보 리스트에 오르게 되며, 특히 영업 및 회계와 같은 비즈니스 분야에서 가장 큰 불이익이 관찰되었다.
또한, LLM의 자기 인식 능력을 목표로 하는 간단한 개입을 통해 이 편향을 50 % 이상 감소시킬 수 있음을 보여준다. 이러한 발견은 AI‑지원 의사결정에서 이전에 간과된 새로운 위험을 강조하며, 인구통계 기반 격차뿐만 아니라 AI‑AI 상호작용에서 발생하는 편향을 다루는 확대된 AI 공정성 프레임워크의 필요성을 제시한다.
Comments
이 논문은 EAAMO 2025 및 AIES 2025에 비아카이브(non‑archival) 제출물로 채택되었다.
Subjects
- Computers and Society (cs.CY)
Citation
Cite as: arXiv:2509.00462 [cs.CY]
(Or arXiv:2509.00462v3 [cs.CY] for this version)
DOI
https://doi.org/10.48550/arXiv.2509.00462 – arXiv‑issued DOI via DataCite