EU AI Act와 AI Literacy, 그리고 유럽 CHRO들이 준비하는 것(2/2)

AI Literacy는 AI 활용 능력이 아니다

많은 사람들이 AI Literacy를 AI를 활용해서 무엇인가를 만들어내는 능력으로 오해한다.  EU AI Act가 말하는 AI Literacy는  AI의 기회와 위험을 이해하고, 결과를 검증하고, 문제를 발견했을 때 적절히 대응할 수 있는 역량이다. 쉽게 말하면 "언제 AI를 믿지 말아야 하는가"를 아는 능력이다.

AI가 사용되는 맥락과 의사결정의 위험도에 따라 필요한 역량이 달라진다. 예를들어, 채용담당자는 AI 추천 결과의 한계, 편향과 차별 가능성, 인간의 최종 검토 의무과 책임을 명확히 알고 있어야 한다. 반면 HR Analytics 담당자는 데이터 대표성과 품질, 대리차별(Proxy discrimination), 모델 한계와 통계적 오류 가능성을 알고 있어야 한다.

대리차별이란 AI가 성별, 나이, 국적과 같은 민감한 정보를 직접 사용하지 않더라도, 다른 데이터를 통해 결과적으로 특정 성별이나 연령 집단에게 불리한 결과를 내놓는 현상을 말한다. 겉으로 보기에는 중립적인 데이터처럼 보이지만 실제로는 차별적 영향을 만들어낼 수 있기 때문에 유럽에서는 특히 중요하게 다뤄지는 주제다.

EU AI Act에서 말하는 AI Literacy는 조직에서 책임있게 AI 를 활용할 수 있는 역량이자 문화정도로 정의할수 있을 것 같다.

AI Literacy는 지속적인 통제 체계에 가깝다.

며칠전 참석한 Gartner 사의 교육에서는 AI Literacy를 가리켜 Living Control이라고 표현했다.

AI Literacy는 법정필수교육 처럼 교육 수강하고, 컴플라이언스 체크박스를 채웠다고 끝나는것이 아니라 실제 업무 환경에서 다음의 포인트가 지켜져야 한다.

• 사용자가 AI 결과를 비판적으로 검토할 수 있는가?

• 문제가 의심될 경우 사용을 중단할 수 있는가

• 적절한 보고 (Escalation) 절차를 알고 있는가

• 사고 발생 시 학습하고 개선할 수 있는가

많은 인사 담당자들이 AI활용 교육 먼저 생각하는데, AI Literacy 관점에서는 직원 AI 활용 교육 이수율 95%보다 "위