EU AI Act와 AI Literacy, 그리고 유럽 CHRO들이 준비하는 것(1/2)

EU AI Act

요즘은 어디를 가던지 오프라인이든 온라인이든 AI 활용법에 대한 이야기가 넘쳐난다. 어떤 프롬프트를 쓰면 좋은 답변을 얻는지, 채용에 AI를 어떻게 활용하는지, 실제로 업무 생산성을 얼마나 높일 수 있는지 같은 이야기들이다.

최근 유럽에 있는 글로벌 기업 CHRO 들 간 논의의 중심은 "AI를 얼마나 잘 쓸 것인가" 에서 "AI를 어떻게 통제하고 책임질 것인가"로 옮겨가고 있다.  여전히 기업마다 준비 수준의 편차가 크지만, 최근 참석한 Gartner 세션과 CHRO 네트워크에서 접하는 논의를 보면 AI 활용에 대한 관심이 AI 거버넌스 논의로 확장되는 움직임이 보인다.

그 배경에는 EU AI Act가 있다. EU AI Act는 2024년 8월 발효되었고, AI Literacy 의무와 금지 AI 규정은 2025년 2월부터 단계적으로 적용되기 시작했다. 이제 유럽 CHRO들의 관심은 "직원들이 AI를 사용할 줄 아는가?"가 보다는 "우리 조직은 AI를 책임 있게 사용할 수 있는 거버넌스를 갖추고 있는가?" 쪽으로 빠르게 옮겨 가고 있는 것 같다.

EU AI Act가 기술에 대한 내용이라는 오해

많은 사람들이 EU AI Act를 AI 기술 규제로 잘못 이해한다. 실제로는 AI 자체보다 AI가 사람의 권리, 안전, 삶에 어떤 영향을 미치는가에 초점이 맞춰져 있다. 본사 소재지에 상관없이 AI 시스템이 EU 시장에서 사용되거나 EU 내 사람들에게 영향을 미친다면 적용 대상이 될 수 있다. (한국의 많은 스타트업들이 AI 기반 제품을 만들고 글로벌 진출을 목표로 하는데, EU 사람들에게 영향을 주는 제품을 만든다면 EU AI Act의 적용 대상이 된다)

우리 회사가 AI 개발하는 기업이 아니더라도 한 기업이AI Provider, AI 활용주체(Deployer), 고용주, 사업 파트너, 고객 등 여러 역할을 겸할 수 있으므로 그에 따라 다양한 의무를 부담하게 된다. 많은 글로벌 제조기업 역시 AI를 개발하지는 않지만 HR, 영업, 고객 서비스, 생산 현장에 AI 기능을 도입하면서 사실상 EU AI Act의 적용 범위 안에 들어오고 있다.

유럽에서 이 법이 중요하게 다뤄지는 이유도 여기에 있다. AI를 신기술이라기보다 사람에 대한 의사결정 체계의 하나로 보기 때문이다. 그래서 기술의 성능보다 공정성(Fairness), 투명성(Transparency), 설명 가능성(Explainability), 그리고 책임(Accountability)이 더 자주 논의된다.

모든 AI가 같은 위험 수준은 아니다

EU AI Act는 위험 수준에 따라 규제를 달리 적용한다.

금지되는 AI : 대표적인 사례가 직장에서의 감정 인식(Emotion Recognition) AI다.

직원의 표정, 음성, 행동을 분석해서 감정 상태를 추론하는 AI는 원칙적으로 금지 영역에 속한다.

"회의 중 직원 몰입도 실시간 분석하거나, 콜센터 직원의 감정상태를 측정하거나, 표정 기반으로 조직 분위기를 진단하는 것과 같은 활용은 유럽에서 매우 민감한 부분이다.  

고위험 AI : HR과 가장 관련이 깊은 영역이다.

채용 후보자 선별, 이력서 스크리닝, 승진 추천, 해고 관련 의사결정, 업무 배분, 성과 모니터링, 직원 행동 평가 등이 해당될 수 있다. AI가 사람의 고용 기회와 경력에 영향을 준다면 단순 생산성 도구가 아니라는 것이다.

낮은 위험 AI : 회의 요약, 문서 초안 작성, 번역, 아이디어 생성 같은 기능은 상대적으로 위험이 낮다.

고위험인지, 저위험인지 판단하는 기준은 사용 목적(Context) 이다.

같은 생성형 AI라도 HR 정책 초안을 만드는 아이디어 생성 목적이면 낮은 위험이지만, 지원자 적합성을 평가 목적으로 활용하면 고위험으로 분류된다.  채용 업무에서도 직무기술서 생성, 면접 질문리스트 생성, 교육 콘텐츠 개발 등은 고위험이 아니다.

AI 의사결정이 늘어날수록 HR이 중요해지는 이유

EU AI Act에서 HR은 핵심 영역이다.  AI가 영향을 미치는 가장 대표적인 대상이 사람이기 때문이다. 채용, 선발, 승진, 성과평가, 교육, 직무 배치와 같은 활동은 한사람의 삶에 직접적이고 큰 영향을 미친다.

많은 기업들이 AI를 활용하여 채용 공고 작성, 후보자 추천, 인터뷰 분석, 성과분석, 학습 추천, 인력계획 수립, 직원 문의 응대를 하고 있다. HR이 AI 솔루션을 직접 구매하지 않았더라도 나중에 문제가 생길 경우, 책임에서 자유롭지 않다. HCM, ATS, LMS 같은 시스템에 벤더가 AI 기능을 추가하는 경우도 많이 있고, IT가 계약했다고 해서 끝나는 문제가 아니다.

그래서, HR은 최소한 다음 질문에는 답할 수 있어야 한다.

• 어떤 프로세스에 AI가 사용되는가

• AI는 무엇을 추천하거나 평가하는가

• 누구에게 영향을 미치는가

• 최종 결정권자는 누구인가

• 언제 사람이 개입해야 하는가

• 편향(Bias)은 누가 검토하는가

• 이의를 제기할 절차가 존재하는가