자동화의 아이러니(Ironies of Automation)

Anthropic이 자사 모델 연구개발 업무의 26%를 Claude가 주도하고 있다고 밝혔다. 여기서 주도한다는 말은 사람의 감독 아래, 상위 수준의 지시 하나만 하면 업무 대부분을 AI가 끝까지 처리한다는 뜻이다. 사람이 일일이 방향을 잡아주는 협업까지 포함하면 전체 연구개발의 약 90%에 AI가 관여한다. 8월 기준으로 연구와 엔지니어링에 투입된 에이전트 수는 약 3만 개다.

그런데, 조직 관점에서 26%를 생각해보자. AI에게 넘긴 26%를 제외한 74%는 설계, 검증, 의사결정 등 위임이 어려운 일들만 압축되어 있다. 따라서, AI 도입의 성패는 얼마나 많이 자동화했느냐가 아니라, 남은 사람들이 그 압축된 고난도의 일을 어떻게 수행하느냐에 달려있다.

자동화는 언제나 쉬운 일부터 이뤄진다. 그래서 사람에게는 더 어렵고, 더 드물게 발생하며, 실패했을 때 더 치명적인 것들만 남겨진다. 그런데, 쉬운 일들이 전부 자동화되어버린 탓에 사람은 연습할 기회를 얻지 못하고 성장하지 못한다.

역설적이게도, 조직에서 자동화의 비중이 커지면, 우리는 더 크게 실패할 수 있다.