코알라가 사는 숲 ④ : AI가 공정하다고 믿고 맡기면 어떤 리스크가 생기는가

AI 채용, 공정성을 위해 다양성을 살펴보아야 할 때

AI의 등장으로 취업 시장에 자소서 코칭과 면접 시뮬레이션 수준이 높아진 만큼, 기업 역시 AI 면접을 빠르게 도입하는 추세이다. 기업이 AI 면접을 도입하는 이유는 비교적 명확하다. 많은 지원가를 빠르게 평가하고, 평가자의 주관을 줄이며, 일관된 기준으로 인재를 선발하기 위해서다. 그래서 늘 AI 채용에는 ‘효율성’과 ‘공정성‘이라는 두 단어가 따라붙는다. 특히 공정성은 다양성, 포용성을 지향하는 글로벌 트렌드와 대치되는 인상으로 인해 매번 논란이 되기도 한다. 나는 다양성, 포용성의 극단에 서있는 ‘장애인’을 기준으로 AI 채용에서 놓치고 있는 점들을 살펴보고자 한다. ‘장애인 고용’을 예시로 들었지만 기술 개발과 활용에 있어서 점차 고령화, 다문화, 감수성 차원에서 시사하는 바가 크다.

비언어, 과연 어디까지 믿을 수 있나

비언어는 많은 정보를 내포하고 있다. 특히 진실과 거짓을 구별하는 중요한 단서가 되기도 한다. 그래서 AI 면접의 가장 큰 비중을 차지하면서도 학습 데이터의 핵심이 되는 것이 비언어 데이터다. 하지만 여기에 맹점있는데, 바로 비장애인의 비언어를 학습했다는 것이다. 다양성, 포용성 관점에서 이런 질문이 생긴다. 과연 AI가 평가하는 행동은 정말 직무역량과 관련이 있는가. 비언어를 직무역량 검증 도구로써 얼마나 신뢰할 것이가.

저시력 장애인 가운데 안구진탕 증상을 가진 경우가 많다. 안구진탕이란 무의식적으로 눈동자가 좌우로 빠르게 움직이는 상태를 말한다. 나의 의지나 심리적 상태와 관계없이 장애 특성으로 나타나는 현상인 것이다. 만약 그런 지원자가 영상 기반 AI 면접에 참여했다고 가정해 보자. AI가 시선의 움직임과 화면 반응을 분석해 집중도나 불안 정도를 판단하도록 설계되어 있다면 어떻게 될까. 장애 특성으로 발생한 동공 움직임이 비장애인 기준에서는 시선 회피, 낮은 집중력, 높은 불안도로 해석될 가능성이 있다. 이 지원자는 나와 함께 일했던 장애인 동료의 실제 사례이다. 그는 대기업 개발자들과 함께 프로젝트를 할 만큼 실력도, 사회성도 뛰어난 친구였다. 하지만 그는 비장애인이 만들어 놓은 프레임 속에서 낮은 집중력에 불안이 높은 저성과자로 분류된 것이다. 시각장애인의 경우 한국장애인고용공단에서 ‘정보접근성 컨설턴트’로 양성하는 경우가 많아, 자연스럽게 개발자 언어와 생태계에 대한 이해도가 높고 상황에 따라 개발자를 지도하기도 한다. 하지만 이런 실력을 가졌음에도 비장애인과 면접 경쟁에서 눈동자가 떨리는 신체적 장애가 커리어의 장애까지 전이된 것이다.

정신장애인의 경우도 비슷하다. 정신장애는 약물의 도움을 받아야 할 만큼 감정 기복과 깊은 우울, 환청 등으로 일상의 어려움을 겪는 장애다. 정신장애인은 장시간 약물 복용이나 장애 특성으로 표정이 적고, 답변 사이의 침묵이 길거나 말의 속도가 느린 특성이 있다. 그런데 만약 AI가 풍부한 표정, 빠른 반응속도, 안정적인 호흡, 일정한 시선처리를 좋은 면접자의 특징으로 학습했다면 어떨까. 이 지원자도 직무 능력과 상관없는 요소에서 낮은 평가를 받을 수 있다. 정신장애인 중 고학력자, 고성과자들도 많다. 이들은 탈진 또는 트라우마로 인해 생긴 정신 병력을 어떻게든 이겨내려고 애쓴 사람들이다. 혼자만의 긴 싸움 끝에 다시금 세상으로 나가려는 출발선에서 또 다시 무너짐을 경험한 것이다. 여기서 HR은 반드시 질문해야 한다. 우리는 지원자의 역량을 평가한 것인가. 아니면 장애를 평가한 것인가.

AI 채용, 어떻게 설계해야 하나

따라서 AI가 사람보다 객관적이라는 표현도 조금 더 정확하게 볼 필요가 있다. AI는 스스로 공정한 기준을 만들어내는 존재가 아니다. 우리가 정한 기준과 우리가 제공한 데이터를 매우 빠르고 일관되게 적용하는 기술에 가깝다. 잘 설계된 기준을 적용하면 평가의 일관성을 높일 수 있지만, 잘못된 기준을 넣으면 편견 역시 빠르고 일관되게 자동화 해 버리는 리스크가 동시에 존재한다. 나는 이것이 AX 시대의 HR이 새롭게 마주하게 될 중요한 과제하고 생각한다.

기존의 채용은 주로 산업과 직무, 필요한 역량을 중심으로 설계했다. 하지만 앞으로 AI 채용이 확대되면 고려해야 할 변수가 훨씬 많아진다. 산업과 직무, 역량에 더해 장애 유형과 정도, 보조기기 사용 여부, 인터페이스 접근성, 학습 데이터의 구성, 평가 알고리즘의 편향까지 함께 살펴야 한다. 특히 장애는 하나의 특성으로 묶을 수 없다. 시각장애만 해도 전맹과 저시력의 경험이 다르고, 청각장애 역시 농인과 난청인, 선천성과 후천성에 따라 언어와 정보처리 방식이 달라진다. 16가지 장애 유형에 연령, 성별, 직무 경험, 디지털 활용 역량 등이 결합되면 사람의 특성은 훨씬 복잡해진다. 더 나아가 산업 전반에 장애 유형별 이해도가 높은 장애·비장애 전문가들이 양성되어야 하고, 더 많은 연구와 데이터가 쌓여야 한다는 뜻이기도 하다.

AI 채용에서는 모두에게 똑같은 절차를 제공하는 것이 반드시 공정한 것은 아니다. 비언어 정보가 직무 수행과 직접적인 관련이 없는 직무라면 장애 유형에 따라 해당 분석을 제외할 수 있어야 한다. 영상 면접 대신 텍스트나 음성을 활용할 수 있는 대체 경로도 필요하다. 스크린리더나 자막, 보조기기와의 접근성도 확인해야 한다. AI의 판단 결과를 사람이 다시 검토할 수 있는 절차 역시 중요하다. 나는 이것을 ‘특혜’라고 생각하지 않는다. 오히려 평가하려는 역량과 평가하지 않아야 할 요소를 정확하게 구분하는 과정이다. 시선처리 능력을 평가하려는 것이 아니라면 안구진탕은 평가 대상이 될 이유가 없다. 답변 속도를 평가하려는 것이 아니라면 장애나 약물의 영향으로 발생한 지연을 역량 부족으로 해석해서는 안 된다는 의미다.

AX시대의 HR, 공정성을 위해 다양성을 설계하는 사람

공정성이란 모두에게 같은 시험지를 주는 것이 아니다. 직무와 무관한 차이가 결과에 개입하지 않도록 평가 구조를 설계하는 일에 더 가깝다. 앞으로 기업의 AI 채용이 늘어날수록 HR의 역할도 달라질 수밖에 없다. AI 솔루션을 도입했다는 사실 자체가 AX가 아니다. 어떤 데이터를 학습했는지, 무엇을 평가하고 있는지, 누구에게 구조적으로 불리할 수 있는지 질문할 수 있어야 한다. 그리고 필요하다면 기술기업에 평가 기준과 데이터셋의 개선을 요구할 수 있어야 한다. 또한 AX시대의 HR은 기술 사용자가 아니라 기술이 사람을 평가하는 기준을 설계하고 통제하는 사람이 되어야 한다.

앞선 글에서는 AI가 장애인의 업무 장벽을 낮추는 사례를 살펴봤다. 이번에는 반대로 AI가 장애인을 걸러내는 장벽이 될 가능성을 살펴봤다. 결국 기술 그 자체가 포용적이거나 배타적인 것은 아니다. 누구를 기준으로 설계했느냐에 따라 결과가 달라질 뿐이다. 그렇다면 한 걸음 더 나아가 이런 질문을 해볼 수 있다. 앞으로 HR의 가장 중요한 역할은 좋은 사람을 찾아내는 것일까. 아니면 더 다양한 사람이 좋은 성과를 낼 수 있는 구조를 만드는 것일까. 마지막 편에서 여기에 대한 나의 생각을 나눠 보겠다.