윤리는 액자에 걸리는 순간 죽는다

속도는 공짜가 아니다.

KPMG 조사에 따르면 전 세계 응답자의 66%가 AI를 정기적으로 사용하고 있다. 하지만 AI를 신뢰한다고 답한 비율은 46%에 그쳤고, 70%는 AI에 대한 규제가 필요하다고 응답했다. 사람들은 AI를 매일 사용하지만, 아직은 온전히 믿지 못한다.

이 간극이 지금 조직이 마주한 현실이다.

AI가 의사결정을 빠르게 만들수록 더 중요한 질문이 남는다.

우리는 무엇을 기준으로 옳고 그름을 판단할 것인가.

그동안 조직의 가치는 대체로 문제가 생긴 뒤에 관리됐다. 사고가 발생하면 규정을 만들고, 교육을 하고, 준법 점검을 강화했다. 기업 홈페이지나 회의실 벽에는 경영이념과 핵심가치가 걸려 있었지만, 실제 의사결정에서 그것이 얼마나 작동하는지는 별개의 문제였다.

AI 시대에는 이런 방식이 통하지 않는다.

의사결정이 자동화되고 속도가 빨라질수록 추상적인 선언은 현장의 판단을 따라가지 못한다. 그 틈에서 사고가 발생한다.

국내에서도 이미 그런 경험이 있었다.

2020년 공개된 AI 챗봇 '이루다'는 자연스러운 대화 능력으로 큰 관심을 받았지만, 학습 데이터에 포함된 개인정보가 노출되면서 사회적 논란으로 이어졌다. 결국 개인정보보호위원회의 제재를 받았고 서비스는 중단됐다.

좋은 의도와 훌륭한 원칙만으로는 충분하지 않았다.

그 원칙이 실제 개발 과정과 운영 절차 속에 들어가지 못했기 때문이다.

오늘 소개할 영화는 〈쉰들러 리스트〉다.

독일 사업가 오스카 쉰들러는 처음에는 전쟁을 이용해 돈을 버는 사업가였다. 하지만 유대인들이 학살당하는 현실을 목격한 뒤 자신의 공장을 피난처로 만들기 시작한다. 그는 군수물자를 만들어야 할 자금으로 사람을 살렸고, 독일군의 감시를 피해 한 사람, 한 사람의 이름을 명단에 올렸다.

그를 특별하게 만든 것은 거창한 연설이 아니었다.

매 순간 손해를 감수하면서도 사람을 살리는 쪽을 선택한 수많은 작은 결정이었다.

영화가 보여주는 것은 분명하다.

가치는 선언이 아니라 선택이라는 사실이다.

국내 기업들도 조금씩 같은 방향으로 움직이고 있다.

카카오는 2018년 국내 기업 최초로 알고리즘 윤리헌장을 발표했고, 이후 그룹 기술윤리위원회를 설립해 AI 개발과 운영 전 과정에 윤리 점검 체계를 적용하고 있다.

네이버 역시 서울대학교 연구진과 함께 AI 윤리준칙을 마련하고, 대표이사 직속 조직을 통해 AI 서비스 전반의 윤리 정책을 관리하고 있다.

공통점은 하나다.

가치를 선언문에 남겨둔 것이 아니라 운영 절차 안으로 가져왔다는 점이다.

조직 밖에서도 같은 변화가 일어나고 있다.

유럽연합(EU)은 AI Act를 통해 고위험 AI에 대한 엄격한 규제를 도입했다. 이제 윤리는 기업의 자율에만 맡겨둘 문제가 아니라 법과 제도로 관리되는 영역이 되고 있다.

하지만 아직 갈 길은 멀다.

미국에서도 책임 있는 AI 정책을 갖추고 있다고 답한 조직은 절반 정도에 그쳤고, 아예 그런 정책이 없다고 답한 조직도 적지 않았다.

AI의 발전 속도가 거버넌스의 발전 속도를 앞지르고 있는 것이다.

결국 중요한 것은 선언문이 아니다.

무엇을 옳다고 믿는가는 회의실 벽이 아니라, 일상의 의사결정 과정에서 드러난다.

윤리는 액자에 걸리는 순간 죽는다.

사람들이 매일 반복하는 절차 속으로 들어갈 때 비로소 살아 움직인다.

Patrick's Insight

최근 참석한 HR 모임과 조직문화 세미나에서 AI 거버넌스 이야기가 자주 나온다.

이런 이야기를 들을 때마다 자연스럽게 기업의 경영이념과 핵심가치를 떠올리게 된다.

그동안 적지 않은 기업을 만나면서 회사 홈페이지와 회의실 벽에는 훌륭한 경영이념과 핵심가치가 걸려 있지만, 실제 채용과 평가, 승진, 징계에서는 그 가치가 거의 언급되지 않는 모습을 여러 번 보았다.

그럴 바에는 차라리 액자를 내려놓는 편이 낫지 않을까 하는 생각마저 들 때가 있다.

가치는 보여주기 위해 존재하는 것이 아니라, 불편한 결정을 할 때 기준이 되기 위해 존재한다.

People팀이 관리해야 하는 것도 '가치 문구'가 아니라 가치가 실제 의사결정에 스며드는 과정이다.

이번 주 회의에서는 이런 질문 하나를 던져보면 어떨까.

"우리 회사의 핵심가치는 채용·평가·승진·징계의 기준으로 살아 있는가, 아니면 회의실 벽에만 걸려 있는가?"