전문가들이 모인 조직은 더 안전할 것 같지만, 현실은 정반대다. 각 분야의 전문가들이 "내 담당은 완벽하다"고 외치는 사이, 조직 전체는 서서히 침몰한다.
문제는 역량이 부족해서가 아니다. 판단이 너무 잘게 쪼개져 있기 때문이다. 기획, 개발, 보안, 운영이 각자의 KPI 달성에만 몰두할 때, 아무도 책임지지 않는 '회색 지대(Gray Zone)'가 생긴다. 위험은 바로 그 틈새에서 자라난다. 조직은 정교해지는데, 정작 전체를 보는 눈은 장님이 되는 역설이다.
현상의 본질 l 리스크는 ‘판단이 분절된 운영 구조’의 틈새에서 자란다.
착시의 원인 l 각 팀은 자기 지표 안에서 합리적이다. 그러나, ‘부분의 합리성’이 모이면 ‘전체의 비합리성’을 만든다.
리더의 과제 l 각 팀 성과가 연결될 때 발생하는 비용과 위험을 묻는 질문을 던져야 한다.
대형 사고가 터진 뒤 현장을 보면 범인은 없다. 대부분 “우리는 매뉴얼대로 했다”고 말한다. 이것이 플랫폼 기업들의 딜레마다. 알고리즘 팀은 체류 시간을 늘리고, 광고 팀은 노출을 극대화하고, 정책 팀은 규제만 피한다. 각자는 자기 일을 잘했다. 하지만 합쳐보니 플랫폼 전체는 다른 모습이 된다. 실패는 한 팀의 잘못이 아니다. 각 팀이 서로 연결되지 않은 채, 각방을 쓰는 구조 자체에서 만들어진다.
Meta 내부 연구 문서로 알려진 Facebook Papers는 이 구조가 어떻게 작동하는지 구체적으로 드러낸다. 이용자에게 부정적 영향이 있다는 내부 분석이 반복적으로 올라가도, 안전성 검토·정책 설계·운영·알고리즘 조정이 서로 다른 판단 라인에서 별개로 처리된다. 각 팀의 결론은 자기 영역에서는 타당하다. 다만 그 결론들이 서로 묶이지 않는 순간, 플랫폼 전체 차원의 위험은 어느 의사결정에서도 ‘직접의 안건’이 되지 못한다. 구조의 문제라는 말이 여기서 나온다.
Diane Vaughan은 NASA 챌린저 사고를 분석하며, 작은 이상 신호가 점점 “이 정도는 허용 가능한 범위”로 재해석되는 과정을 ‘일탈의 정상화(Normalization of Deviance)’라고 불렀다. 처음에는 작은 이상 신호가 뜬다. 엔지니어들은 우려하지만, 경영진은 "지난번에도 괜찮았잖아?"라며 넘어간다. 사고가 안 터지면, 그 다음부터 '그 정도의 위험'은 '정상 범위'로 둔갑한다.
무능해서가 아니다. 전문가일수록 자신의 경험과 데이터로 위험을 합리화하는 능력이 뛰어나기 때문이다. 조직이 가장 위험할 때는 경고등이 꺼졌을 때가 아니다. 경고등을 보고도 "원래 켜져 있는 거야"라고 말할 때다.
거창한 컨설팅이 필요 없다. 아래 징후 중 2개 이상이 보인다면, 우리 조직은 이미 '각자도생' 중이다.
위험의 주어가 없다: 문제를 말하면 “그건 우리 팀 범위가 아니다”로 끝난다.
각 팀의 KPI로는 문제 없음이다: 지표상 정상인데, 현장에서는 반복적으로 찜찜함이 남는다.
리스크가 기능별로 쪼개져 있다: 알고리즘/보안/정책/운영이 각자 최적화되지만, 전체 그림이 없다.
의사결정이 ‘전달’로 끝난다: 공유는 되는데, 하나의 결론이나 책임으로 묶이지 않는다. 방어용 근거로만 남는다.
사고 이후에만 전체가 보인다: 평소에는 분절되어 있다가, 터지고 나서야 비로소 전체 맥락이 보인다.
똑똑한 바보 조직이 되지 않으려면, 회의 끝에 이 질문 하나를 던져야 한다.
“우리 팀의 성과가, 혹시 옆 팀이나