오프피스트에 AI 관련 칼럼을 쓰면 쓸수록 감탄보다 씁쓸함이 커지는 것 같습니다.

AI는 이제 검색과 문서 작성을 넘어 분석하고, 판단하고, 계획하며, 스스로 다음 행동을 수행하는 단계로 나아가고 있습니다. 박사급 AI라는 표현도 머지않아 낡은 말이 될지 모릅니다. 발전 속도에는 다시 가속도가 붙고, 이제 그 미래를 누구도 자신 있게 예측하기 어렵습니다.

인류는 자신이 만든 이 인공지능이 인간을 위협할 수 있다는 사실을 알고 있습니다.

그런데도 멈추지 못합니다. 왜냐하면 AI가 당장 돈이 되기 때문입니다. 먼저 멈추면 시장을 빼앗기고, 투자금을 잃고, 경쟁에서 뒤처질 수 있기 때문입니다. 모두가 위험을 말하면서도 속으로는 같은 계산을 합니다.

“나만 멈출 수는 없어.”
“우리가 하지 않아도 누군가는 할거야.”
“일단 앞서간 뒤에 안전을 고민하면 돼.”

이 논리 속에서는 누구도 먼저 브레이크를 밟지 못합니다.

저는 이 광경을 보며 한 단어를 떠올립니다.

[바벨탑]

성경 속 인간은 하늘에 닿는 탑을 쌓으며 자신들의 이름을 높이려 했습니다.

더 높아지고, 더 강해지고, 마침내 신과 같은 존재가 되고자 했던 욕망이 탑을 쌓게 된 이유였습니다.

오늘날 우리는 인간의 지능을 넘어서는 인공지능을 만들고, 인간의 신체를 닮은 휴머노이드에 그 지능을 담으려 합니다. 질병과 노화, 노동과 죽음이라는 인간의 한계까지 기술로 극복하고자 합니다.

그 열망이 모두 잘못된 것은 아닙니다.

AI는 질병을 치료하고, 위험한 노동을 대신하며, 인간의 가능성을 확장할 수 있습니다. 그러나 우리는 무엇을 만들 수 있는지는 끊임없이 묻는 반면, 무엇을 만들어도 되는지는 충분히 묻지 않습니다.

바벨탑의 본질은 높은 건물이 아니라 한계를 인정하지 않으려는 인간의 욕망이었습니다.

오늘의 AI도 마찬가지입니다. 위험은 AI의 지능에만 있지 않습니다. 그 지능을 소유하고 통제하려는 인간의 욕망에 있습니다.

지금의 AI 경쟁은 브레이크 없는 F1 자동차를 닮았습니다.

엔진은 계속 강해집니다. 자본과 인재는 더 많이 몰립니다. 모두가 결승선을 먼저 통과하려 합니다.

그러나 자동차가 어디로 향하는지, 도로 위에 누가 서 있는지, 사고가 나면 누가 책임질지는 충분히 합의되지 않았습니다.

속도 자체가 악은 아닙니다. 목적지와 방향, 안전장치와 책임이 분명할 때 속도는 발전이 됩니다.

하지만 방향도 브레이크도 없는 속도는 진보가 아니라 질주입니다.

더 두려운 것은 AI가 인간보다 똑똑해지는 일이 아닙니다.

인간이 AI보다 지혜롭지 못한 상태에서 더 강한 AI를 만들어내고 있다는 사실입니다.

AI의 계산 능력은 기하급수적으로 발전하고 있습니다. 그러나 인간의 윤리와 절제, 책임과 합의의 능력도 같은 속도로 성장하고 있을까요? 기술은 새로워졌지만 욕망은 오래된 모습 그대로입니다.

더 많이 가지려 합니다.
더 먼저 차지하려 합니다.
위험이 뻔히 예상되는데도 당장의 이익이 크다고 판단되니 미래의 대가를 잠시 접어둡니다.

우리에게 부족한 것은 더 높은 지능이 아닐지도 모릅니다.

그 지능을 어디까지 사용하고 어디에서 멈출지 결정할 지혜입니다.

AI 시대의 가장 깊은 질문은 “기계가 인간처럼 될 수 있는가”가 아닙니다.

오히려 이렇게 물어야 합니다.

AI가 인간처럼 되어갈수록 인간은 무엇이 되어가고 있습니까?

AI가 더 빠르게 일할수록 느린 사람은 무능한 사람이 됩니다. AI가 더 많은 결과물을 만들수록 인간에게도 더 많은 생산량을 요구합니다. AI가 사람을 평가하기 시작하면 인간의 삶과 가능성은 점수와 확률로 환원될 수 있습니다. 인간을 위해 만든 기술이 어느 순간 인간에게 기술의 속도를 따라오라고 명령합니다.

인간이 신과 같은 능력을 가지려 할수록 정작 인간 한 사람의 존엄은 작아질 수 있습니다. 거대한 혁신과 효율 앞에서 사람은 목적이 아니라 비용과 수단이 됩니다.

그러나 인간의 존엄은 지능이나 생산성에서 나오지 않습니다.

더 많이 알고, 더 빨리 판단하며, 더 완벽하게 일하기 때문에 인간이 존귀한 것은 아닙니다.

연약하고 불완전하며 때로 실패하는 존재임에도 인간은 그 자체로 존엄합니다.

AI가 인간의 지식과 생산성을 넘어선다고 해서 인간의 가치가 줄어들지 않는 이유입니다.

AI 시대에 지켜야 할 것은 인간의 우월성이 아닙니다.

인간의 존엄입니다.

기술은 묻습니다.

더 강한 모델을 만들 수 있는가?
AI가 스스로 학습하고 개선할 수 있는가?
인간보다 뛰어난 판단을 할 수 있는가?
로봇이 인간의 일을 대신할 수 있는가?

철학과 신학은 그다음 질문을 던집니다.

그것은 선한가?
누구를 위한 발전인가?
그 과정에서 누가 소외되는가?
잘못되었을 때 누가 책임지는가?
할 수 있더라도 하지 말아야 할 일은 없는가?

능력이 작을 때의 실수는 고칠 수 있습니다. 그러나 힘이 너무 커진 뒤의 실수는 되돌릴 수 없을지도 모릅니다.

우리는 더 강한 지능을 만드는 데 막대한 자본을 투자합니다. 그렇다면 그 지능을 통제할 지혜와 절제, 책임의 문화를 만드는 데는 얼마나 투자하고 있습니까.

사람보다 뛰어난 AI를 만드는 교육은 넘쳐납니다. 그러나 그 AI를 언제 멈추어야 하는지 판단할 사람을 길러내는 교육은 충분합니까.

브레이크는 혁신의 반대가 아닙니다.

자동차를 멈추게 하기 위한 장치가 아니라, 더 안전하고 멀리 달리게 하는 장치입니다.

AI에도 브레이크가 필요합니다. 위험을 검증할 시간, 인간이 최종 결정할 권한, 잘못된 결과에 책임질 주체가 필요합니다. 제도보다 더 중요한 것은 우리 안의 브레이크입니다.

할 수 있는 일과 해야 하는 일을 구분하는 지혜, 경쟁자가 한다는 이유만으로 따라가지 않는 용기, 인간의 한계를 결함이 아니라 인간다움의 조건으로 받아들이는 겸손입니다.

우리는 무엇을 위해 이토록 빠르게 달리고 있습니까.

인간을 노동에서 해방하기 위해서입니까?
질병과 빈곤을 해결하기 위해서입니까?
더 많은 이익과 권력을 차지하기 위해서입니까?
인간이 신과 같은 존재가 될 수 있음을 증명하기 위해서입니까?

아마 이 욕망들이 모두 섞여 있을 것입니다.

그래서 더 경계해야 합니다. “인류를 위한 발전”이라는 선한 명분은 욕망을 숨기는 가장 편리한 언어가 될 수 있기 때문입니다.

누가 이익을 얻습니까.
누가 위험을 감당합니까.
누가 결정권을 가집니까.
누가 기술의 속도를 늦출 권한을 가집니까.

기술의 결말은 기술만으로 결정되지 않습니다.

그 기술을 만든 인간이 무엇을 사랑하고, 무엇을 두려워하며, 어떤 가치를 끝까지 지키는가에 따라 달라집니다.

바벨탑의 경고는 단순합니다.

높이 올라갈 수 있다고 해서 끝없이 올라가도 되는 것은 아닙니다.

더 높이 쌓기 전에 어디를 향하는지 물어야 합니다. 더 빠르게 달리기 전에 누구를 위한 속도인지 물어야 합니다. 인간을 넘어서는 지능을 만들기 전에 인간다움이 무엇인지 먼저 답해야 합니다.

AI의 미래를 정확히 예측할 수 있는 사람은 없습니다.

그러나 예측할 수 없다는 이유로 책임까지 포기할 수는 없습니다. 멈출 수 없다는 말로 숙고를 중단해서도 안 됩니다. 모두가 달린다는 사실이 브레이크 없는 질주를 정당화하지도 않습니다.

우리의 미래를 결정할 질문은 “AI가 인간을 넘어설 것인가”가 아닐지도 모릅니다.

AI가 인간의 지능을 넘어서는 동안, 인간은 자신의 욕망을 넘어설 수 있는가.

인간이 자신의 한계를 잊고 능력을 신격화한다면 무너지는 것은 탑만이 아닐 것입니다.

그 아래에서 살아가는 인간의 존엄과 공동체, 우리가 인간답다고 믿어온 가치까지 함께 무너질 수 있습니다.

지금 인류에게 필요한 것은 더 강한 엔진이 아닙니다.

어디에서 속도를 늦추고, 무엇을 지키기 위해 멈출 것인지 결정할 공동의 지혜입니다.

바벨탑을 다시 쌓지 않으려면 기술보다 먼저 인간이 성숙해야 합니다.