우리는 왜 이렇게 쉽게 AI를 믿어버리는가

오늘 소개할 영화는 〈12명의 성난 사람들〉이다.

한 소년의 살인 사건을 두고 열두 명의 배심원이 모인다. 열한 명은 증거가 충분하다며 빠르게 유죄를 결정하려 한다. 하지만 단 한 사람만이 손을 든다. "혹시 우리가 놓친 것은 없을까요?" 그 한 번의 질문은 모두가 당연하다고 믿었던 증거를 다시 살펴보게 만들고, 사건은 전혀 다른 방향으로 흘러간다. 영화는 말한다. 정의를 지키는 힘은 빨리 판단하는 능력이 아니라, 잠시 멈춰 의심할 수 있는 용기에서 나온다고.

AI 시대에도 같은 질문이 필요하다.

이번 연재 초반에 소개했던 Klarna를 다시 떠올려 보자.

AI를 앞세워 인력을 절반 가까이 줄이며 효율의 상징이 되었던 이 회사는, 시간이 지나 서비스 품질 저하와 고객 신뢰 하락을 경험했다. 결국 CEO는 "효율만 바라보다 너무 멀리 갔다"고 인정했고, 고객 응대 인력을 다시 채용하기 시작했다. 속도를 얻었지만, 신뢰라는 더 큰 비용을 치른 것이다.

앞선 글에서 우리는 윤리는 선언이 아니라 운영이라고 이야기했다.

AI 시대에는 이 말이 더욱 중요해진다. 좋은 가치 선언만으로는 부족하다.

AI가 일상의 의사결정 속으로 들어올수록, 무엇을 옳다고 믿는지보다 그 원칙을 누가, 언제, 어떻게 확인할 것인지가 더 중요해진다. 그것이 AI 거버넌스다.

여기에는 한 가지 심리적 함정도 있다. 사람은 AI가 제시하는 답을 생각보다 쉽게 믿는다.

빠르고, 논리적이고, 자신감 있게 말하는 AI의 답을 우리는 무의식적으로 더 정확하다고 받아들이기 쉽다. 이를 심리학에서는 자동화 편향(Automation Bias)이라고 부른다. AI 결과를 충분히 검증하지 않는 사람이 많은 이유도 여기에 있다. 그래서 거버넌스는 AI를 통제하기 위한 제도가 아니다. AI를 쉽게 믿어버리는 사람을 보호하기 위한 장치에 가깝다.

국내에서도 이러한 변화는 이미 시작됐다.

NH농협은행은 금융권 최초로 AI 거버넌스를 구축해 AI의 위험 수준에 따라 통제 강도를 달리 적용하고 있다. 위험이 높은 영역일수록 더 엄격한 승인과 검증 절차를 적용하는 방식이다. 신한금융과 KB국민은행도 AI 윤리와 거버넌스를 조직 운영 체계 안으로 편입하고 있다.

해외에서는 마이크로소프트가 AI 영향평가와 책임 있는 AI 원칙을 별도의 윤리 선언이 아니라 개발과 운영 프로세스 안에 내재화했다.

공통점은 분명하다. 윤리를 문장으로 관리하는 것이 아니라, 업무의 흐름 속에서 운영하는 기준으로 만들었다는 점이다.

People팀도 이제 AI 활용을 개인의 선택에만 맡겨서는 안 된다.

어디까지 AI를 활용할 수 있는지, 어떤 업무에서는 반드시 사람이 검토해야 하는지, 문제가 생기면 누가 책임지고 멈출 것인지를 조직의 일하는 방식 안에 담아야 한다. 신뢰는 AI를 믿는 데서 생기지 않는다.

AI를 다루는 사람과 조직의 절차를 믿을 수 있을 때 비로소 만들어진다.

Patrick's Insight

실제 경영 현장에서 비슷한 장면을 자주 본다. 사건이 터지면 그제야 규정을 만들고, 징계 기준을 손보고, 교육을 강화한다. 하지만 진짜 중요한 것은 사고 이후의 징계가 아니라, 사고 이전의 기준이다.

평소 리더가 어떤 행동을 중요하게 여기고, 무엇을 반복해서 이야기하며, 어떤 기준으로 구성원을 평가하는지가 결국 조직의 문화가 된다.

AI 활용도 마찬가지다. "잘 활용하라."는 말만으로는 부족하다.

어디까지 활용할 수 있는지, 언제 반드시 사람이 검토해야 하는지, 어떤 경우에는 AI의 판단보다 사람의 판단이 우선하는지를 조직이 분명하게 알려주어야 한다. 특히 리더의 평가 항목에도 이러한 책임 있는 AI 활용이 포함되어야 한다. 리더가 먼저 기준을 지키지 않으면 구성원도 기준을 지키지 않는다.

People팀이 만들어야 하는 것은 규정집이 아니라 구성원이 자연스럽게 올바른 선택을 하도록 돕는 운영 체계다.

이번 주 회의에서는 이런 질문 하나를 던져보면 어떨까.

"우리 조직은 AI를 잘 쓰는 사람을 키우고 있는가, 아니면 AI를 책임 있게 쓰는 사람을 키우고 있는가?"