
연말이 되면 각종 세미나와 강연, 행사가 봇물 터지듯 쏟아진다. 한 해를 회고하고 트렌드를 정리하며 내년의 방향을 제시하는 자리가 대부분이다. 최근 어디를 가든 빠지지 않는 단어가 있다. 바로 AI다. 강연자들은 데이터 분석 사례와 화려한 시각화 자료를 앞세워 자사의 AI 성과를 공유하며 장미빛 미래를 그려낸다. 하지만 강연장을 나서면 화려한 발표 속 성공 사례들은 대부분 자본과 인력을 갖춘 대기업이나 글로벌 기업의 이야기인데, 우리나라 일자리의 중추를 담당하는 지방 중소기업에서도 과연 AI로 성과를 낼 수 있을까? 라는 의문이 든다.
ChatGPT를 비롯한 생성형 AI가 우리 삶에 깊숙이 들어온 것은 분명하다. 하지만 이러한 기술 혁신이 중소기업에도 제대로 안착했다고 볼 수 있을까? 실상은 그렇지 않다. 중소벤처기업연구원의 2024년 조사에 따르면, AI를 본격적으로 도입한 기업은 대기업 9.2%에 불과한 반면, 중소기업은 2.9%에 그친다. ChatGPT 같은 간단한 도구까지 포함한 활용률로 봐도 대기업 48.8%, 중견기업 30.1%, 중소기업 28.7%로 기업 규모에 비례해 격차가 뚜렷하다. 필자는 현장에서 관찰되는 중소기업의 AI 도입을 어렵게 하는 이유를 세 가지로 정리하고자 한다.
(1) 만능주의에 빠진 AI 인식
첫 번째 이유는 AI 활용에 대한 정확한 인식 부족이다. 최근 몇몇 기업에서는 대표와 임원진이 ChatGPT와 몇 마디 대화를 나눈 내용을 바탕으로 직원들에게 "이 전략대로 수행하라"고 지시하는 사례가 있다고 한다. AI가 결과이자 목적이 되어버린 것이다. AI는 만능이 아니다. 매출 향상, 영업이익 구조 개선, 시장점유율 확대, 이직률 감소, 리드타임 단축 등 경영성과에 직간접적으로 영향을 미치는 구체적 목적이 먼저 설정되어야 한다. 목적 없는 AI 도입은 생산성 향상이 아닌 혼돈만 가중시킬 뿐이다.
(2) 데이터 빈곤
두 번째 장애물은 데이터 부족이다. "가비지 인, 가비지 아웃"이라는 말처럼 AI는 무에서 유를 창조하지 못한다. AI는 확률 기반 알고리즘으로 가장 그럴듯한 결과를 생성하는 도구이며 양질의 데이터가 많을수록 정확도가 높아진다. 인사 관리를 예로 들어보자. 인원 현황만 있는 회사와 인원 현황, 부서 재직 기간, 퇴사일, 구조화된 퇴사 사유, 주소, 자격증 유무, 평가 점수, 보상 수준 등 풍부한 데이터를 보유한 회사의 퇴사자 분석 결과는 차원이 다를 수밖에 없다. 기초 체력(데이터) 없이 고난도 훈련(AI)에 임하는 것은 무모한 도전이다.
(3) 보이지 않는 성공사례
세 번째 문제는 실질적인 AI 성공 사례 부족이다. 여러 기업이 내년도 사업계획에 AI 활용을 중요 과제로 설정하지만 정작 중소기업이 AI를 활용해 가시적 성과를 낸 사례를 찾기는 쉽지 않다. AI를 활용한 공장 자동화, 개발자 채용 규모 축소를 통한 인건비 절감, 단순 반복 업무 축소로 본질적 업무에 집중 등 흔히 언급되는 혁신적 사례는 주로 대기업 중심이다. 한국지능정보사회진흥원의 2025년 보고서에서는 "제조업 분야에서 AI 도입 이후에도 디지털 전환 지출, 인력 비용, 영업이익, 조직 변화 등에 '변화 없음'이라는 응답이 우세하여 AI 도입에 따른 실질적 변화는 아직 제한적"이라고 지적했다.
그렇다면 이 혼란은 언제까지 지속될 것인가? 그리고 이 격차는 어떤 결과를 가져올 것인가? 역사는 기술 혁명이 결코 짧은 시간에 완성되지 않는다는 점을 보여준다. 과거 산업혁명은 1760년대에서 1820년대까지 약 60년에 걸쳐 전개되었다. 증기기관이 전 세계로 확산되는 데만 50여 년이 걸렸고 세상의 변화를 모두가 체감하기까지는 100여 년이라는 시간이 필요했다. 그 결과는 명확했다. 산업혁명에 성공한 국가는 강대국이 되었고 그렇지 못한 국가는 식민지로 전락했다.
AI 시대로의 전환 역시 시간이 걸릴 것이다. 우려스러운 점은 변화가 평등하지 않다는 사실이다. 자본과 데이터, 그리고 숙련된 인력을 선점한 기업은 AI를 통해 생산성을 폭발적으로 키우겠지만 그렇지 못한 기업은 격차를 좁히지 못한 채 도태될 위험이 크다. OECD는 AI 확산이 특정 기업에 집중될 경우 기업 간 불평등이 심화될 것이라고 경고한다. 결국 중소기업에서 AI 활용이 어려운 이유는 기술을 몰라서가 아니다. 목적의 불명확성(인식), 데이터의 빈곤(입력), 검증된 사례의 부족(확신)이라는 세 가지 사슬에 묶여 있기 때문이다. 이제는 중소기업의 발등에 떨어진 불을 끌 수 있는 실질적인 데이터 축적 지원과 맞춤형 성공 모델 발굴에 정책적 역량을 집중해야 할 때다.
E.O.D