AI 시대, 과정이 실종된 결재판

매끈한 결과물, 그 이면의 공포

  당신의 책상 위에 올라온 보고서를 보십시오. 과거와 달리 아주 매끈합니다. 오탈자도 없고, 문장의 호응도 완벽하며, 데이터의 시각화는 전문 디자이너가 만진 듯 화려합니다. AI가 다듬어낸 결과물입니다. 그런데 이상하게도 그 완벽한 보고서를 바라보는 당신의 마음 한구석은 불편합니다. 개운치 않은 뒷맛이 남습니다.

  이유는 간단합니다. ‘과정’이 보이지 않기 때문입니다. 과거의 보고서에는 실무자의 고뇌가 묻어 있었습니다. 치열하게 논리 구조를 세우다가 지우고 다시 쓴 흔적, 데이터를 해석하기 위해 며칠 밤을 새운 흔적들이 행간에 보였습니다. 리더는 그 거친 흔적들을 따라가며 질문을 던졌습니다. “이 가정은 왜 이렇게 설정했나?”, “이 변수가 바뀌면 결과는 어떻게 되나?” 그 질의응답 과정(Process) 속에서 리더와 실무자는 문제의 본질에 접근했고, 서로의 생각을 조율했습니다. 우리는 그것을 ‘검토’라고 불렀습니다.

  하지만 지금은 다릅니다. AI는 중간 과정을 생략하고 곧바로 정답(혹은 정답처럼 보이는 것)을 내놓습니다. 입력(Input)을 넣으면 블랙박스를 거쳐 순식간에 출력(Output)이 나옵니다. 그 사이에 어떤 논리적 비약이 있었는지, 어떤 데이터가 가중치를 받았는지, 어떤 위험 요소를 배제했는지 인간은 알 길이 없습니다.

  구성원이 보고합니다. “AI 시뮬레이션 결과, A안이 B안보다 성공 확률이 23% 높습니다.”  당신이 묻습니다. “왜 A안이 더 높은가?”  구성원이 답합니다. “알고리즘이 수만 가지 변수를 종합했을 때 최적의 경로라고 판단했습니다.”

  더 이상 질문은 불가능합니다. “알고리즘이 그렇다는데”라는 말은 현대판 신탁(Oracle)과도 같습니다. 그 앞에서 “내 생각은 다른데”라고 말하는 것은 비과학적인 억지처럼 느껴집니다. 결국 당신은 찜찜함을 삼키며 결재란에 서명합니다.

  이것은 결재가 아닙니다. ‘맹신(Blind Faith)’이거나, 혹은 책임을 회피하기 위한 ‘도박’에 가깝습니다. 과정이 실종된 결과물만 받아 드는 리더, 이것이 AI 시대의 새로운 풍경입니다.

센스메이킹의 붕괴: 조직이 치매에 걸리다

  조직 이론의 대가 칼 와익(Karl Weick)은 조직의 생존 본능을 ‘센스메이킹(Sensemaking)’이라는 개념으로 설명했습니다. 조직은 끊임없이 변화하는 불확실한 환경 속에서, 일어난 사건들의 맥락을 연결하고 의미를 부여함으로써 질서를 만들어냅니다. 즉, “우리가 지금 어디에 있고, 왜 이 일을 하며, 앞으로 어떻게 될 것이다”라는 서사(Narrative)를 만들어내는 능력이 바로 센스메이킹입니다.

  그런데 AI에 의한 ‘과정의 실종’은 이 센스메이킹 능력을 파괴합니다. 과정을 모른다는 것은 맥락(Context)이 단절된다는 뜻입니다. 결과값인 숫자 하나만 덩그러니 던져졌을 때, 인간은 그 숫자가 나온 배경 서사를 이해할 수 없습니다. 서사가 없으면 의미 부여가 불가능하고, 의미를 모르면 올바른 대처를 할 수 없습니다.

  MIT 슬론 매니지먼트 리뷰(MIT Sloan Management Review)는 이를 ‘알고리즘 경영(Algorithmic Management)의 그림자’라고 경고했습니다. 알고리즘은 효율성을 극대화하지만, 설명 가능성(Explainability)을 희생시킵니다. 설명할 수 없는 성공은 위험합니다. 왜 성공했는지 모르면, 다음번에 그 성공을 재현할 수 없기 때문입니다. 반대로 설명할 수 없는 실패는 더 위험합니다. 원인을 모르니 같은 실수를 반복하게 됩니다.

  지금의 조직은 마치 ‘단기 기억 상실증’에 걸린 환자와 같습니다. 매 순간 AI가 정답을 주니 당장의 성과는 나옵니다. 하지만 1년 뒤, 3년 뒤에 되돌아보면 “우리가 그때 왜 그런 결정을 했지?”라고 물었을 때 아무도 대답하지 못합니다. “그때 AI가 그렇게 하라고 해서요”라는 공허한 대답만 남습니다.

  사고(Thinking)의 근육이 퇴화하는 것입니다. 치열하게 고민하고 논쟁하며 과정을 쌓아가는 능력을 잃어버린 조직은, AI 플러그가 뽑히는 순간 아무것도 할 수 없는 바보가 됩니다. 과정의 실종은 단순한 생략이 아니라, 조직 지능의 영구적인 손상을 의미합니다.

승인자(Approver): 권력자가 아닌 껍데기

  이러한 환경에서 리더의 지위는 어떻게 변질됩니까. 당신은 더 이상 의사결정자(Decision Maker)가 아닙니다. 그저 ‘승인자(Approver)’일 뿐입니다.

  이 두 단어의 차이는 하늘과 땅 차이입니다. 의사결정자는 여러 대안을 비교하고, 자신의 철학과 가치관을 투영하여 선택하고, 그 선택의 과정을 장악하는 사람입니다. 반면 승인자는 이미 결정된 사항에 대해 형식적인 허가만 내어주는 수동적인 존재입니다.

  은행 대출 심사를 생각해 보십시오. 과거에는 지점장이 고객의 눈빛, 사업 의지, 평판 등을 종합적으로 고려해 대출을 결정했습니다(Decision). 하지만 지금은 AI 신용평가 시스템이 점수를 매기고 “대출 가능” 혹은 “불가” 판정을 내립니다. 지점장은 그저 시스템이 뱉어낸 결과 화면을 보고 ‘승인’ 버튼을 누를 뿐입니다(Approval). 만약 지점장이 AI의 판정을 거스르고 대출을 해줬다가 부도가 나면, 그는 문책을 당합니다. 그러니 그는 기계의 결정에 따를 수밖에 없습니다.

  지금 기업의 리더들이 마주한 현실이 이 지점장의 운명과 놀랍도록 닮아 있습니다. AI가 최적의 마케팅 타겟을 정해주고, AI가 재고 관리 수량을 정해주고, AI가 채용할 인재를 추천합니다. 당신이 할 일은 그저 엔터 키를 누르는 것뿐입니다. 당신의 고유한 판단, 직관, 철학이 개입할 틈(Gap)이 사라졌습니다.

  그렇다면 묻겠습니다. 당신은 왜 그 자리에 앉아 있습니까? 단지 버튼을 누르기 위해서라면, 굳이 고액 연봉을 받는 당신이 필요할까요? 자동화 스크립트 하나면 충분하지 않을까요?

  승인자로 전락한 리더는 무력합니다. 과정을 장악하지 못했기에 결과를 통제할 수 없고, 결과를 통제할 수 없기에 조직을 이끌 수 없습니다. 부하 직원들도 이를 기가 막히게 알아챕니다. “어차피 부장님도 내용 모르잖아. 그냥 AI 결과라고 하고 결재받아.” 그들 사이에서 당신은 ‘결재 기계’ 혹은 ‘병풍’으로 불릴지도 모릅니다. 권위는 결재권(Right to Approve)에서 나오는 것이 아니라, ‘설명할 수 있는 능력(Ability to Explain)’에서 나옵니다. 설명할 수 없는 자는 리더가 아닙니다.

결과가 과정을 덮을 때 벌어지는 폭력

  과정이 사라진 결재판은 언제 터질지 모르는 시한폭탄과 같습니다. 가장 큰 위험은 ‘책임의 비대칭’입니다.

  블랙박스 속에서 AI가 어떤 편향(Bias)을 가지고 결과를 도출했는지 우리는 모릅니다. 예를 들어, 채용 AI가 특정 성별이나 출신 학교를 미세하게 차별하여 합격자 명단을 뽑았다고 칩시다. 리더는 과정을 모르니 그 명단에 서명합니다. 나중에 차별 문제가 불거졌을 때, 사회는 누구를 비난합니까? 알고리즘을 짠 개발자입니까, 아니면 AI입니까?

  아닙니다. 서명한 당신입니다. “저는 AI가 추천해서 몰랐습니다”라는 변명은 법정에서도, 여론 앞에서도 통하지 않습니다. 과정을 검증하지 않고 결과만 취한 대가(代價)는 가혹합니다. 이를 ‘알고리즘의 면책 불가성’이라고 합니다. 혜택은 AI가 주는 효율성으로 누리지만, 그로 인한 사고의 책임은 인간이 온몸으로 받아내야 합니다.

  또한, 과정의 실종은 구성원들에게도 폭력이 됩니다. 과거에는 결과가 좋지 않아도 “그 과정에서 우리가 얼마나 노력했는지”, “어떤 시도를 했는지”가 평가받을 여지가 있었습니다. 하지만 결과값만 남은 세상에서 ‘노력’이나 ‘시도’ 같은 정성적인 가치는 설 자리가 없습니다.

  “AI 예측보다 실적이 낮네요. 당신의 성과는 C등급입니다.” 이 한마디로 끝입니다. 왜 시장 상황이 안 좋았는지, 어떤 변수가 있었는지 맥락을 설명할 기회조차 주어지지 않습니다. 결과가 과정을 덮어버리는 순간, 조직은 피도 눈물도 없는 기계적 시스템으로 전락합니다. 인간 소외는 바로 여기서 시작됩니다.

설명할 수 없는 것은 당신의 것이 아닙니다

  지금 당신의 결재판을 다시 보십시오. 화려한 그래프와 확신에 찬 숫자들. 그것은 달콤한 유혹입니다. “골치 아프게 따지지 말고 그냥 믿으세요. 그러면 편해집니다”라고 속삭입니다.

  하지만 거부하십시오. 그 편안함이 당신을 죽입니다. 리더인 당신이 해야 할 일은, 그 매끈한 결과물에 흠집을 내는 것입니다. 질문의 송곳으로 찔러보고, 해체해 보고, “도대체 왜?”라고 끈질기게 질문해야 합니다. AI가 “설명할 수 없는(Unexplainable)” 영역이라고 답한다면, 그 결재는 보류하십시오.

  내가 이해하지 못하고, 내가 설명할 수 없는 성과는 내 것이 아닙니다. 과정을 잃어버린 리더에게 미래는 없습니다. 블랙박스를 열어보려는 시도조차 하지 않는다면, 당신은 이미 리더의 자격을 상실했습니다. AI가 면죄부가 될 수 없습니다. 특히 리더의 자리에서는 더욱 그렇습니다.