모르는 것을 모르는 채로 만드는 시대

모르는 것을 모르는 채로 만드는 시대

유클리드가 기하학 원론을 썼을 때, 그건 당대 최고 지성인들이 평생을 바쳐 겨우 이해하는 수준의 지식이었다. 피타고라스 정리 하나를 증명하는 것만으로 학파의 수장이 될 수 있었다. 지금 그 내용은 중학교 2학년 교과서에 실린다. 뉴턴의 프린키피아는 출간 당시 유럽 전체에서 이해할 수 있는 사람이 열 명이 채 안 됐다고 전해진다. 지금은 고등학교 물리 시간에 F=ma를 칠판에 적고 넘어간다.

문명이 쌓아올린 지식의 높이는 매 세대마다 올라갔고, 다음 세대는 그 꼭대기에서 출발해야 했다. 문제는 꼭대기까지 기어오르는 데 걸리는 시간도 함께 늘어났다는 것이다. 그리고 그 시간은 이제 한 인간의 생산적 수명을 잡아먹기 시작했다.

박사학위를 받으려면 22년에서 28년의 교육이 필요하다. 박사들은 대체로 인생의 3분의 1을 순수하게 배우는 데 시간을 보낸다. 노벨상 수상자의 평균 나이는 1900년대 초 37세에서 지금은 50대 중반으로 올라갔다. 레오나르도 다빈치는 해부학과 공학과 회화와 천문학을 동시에 했다. 18세기까지만 해도 자연철학자라는 이름 아래 물리, 화학, 생물을 한 사람이 아우를 수 있었다. 그것이 불가능해진 건 19세기 후반부터다. 지금의 최고 지성은 쪼개진 조각의 끝에서 자신의 조각만 간신히 들여다보고 있다. 조각이라도 들여다보고 있으면 다행이다.

2025년 즈음부터 이상한 일이 벌어지기 시작했다. 사람들이 자기가 만드는 것을 이해하지 못한 채로 만들기 시작한 것이다. AI에게 이런 기능을 하는 프로그램을 만들어줘라고 말하면 AI가 코드를 작성하고, 개발자는 그 코드를 읽지 않고 실행한다. 작동하지 않으면 에러 메시지를 복사해서 AI에게 다시 붙여넣을 뿐, 왜 작동하는지는 묻지 않는다. 피터 슈타인베르거도 이 방식으로 Openclaw를 개발한다고 공개적으로 말했다. 자기 프로젝트의 코드를 읽지 않는다고.

과거 산업혁명 때도 공장 노동자가 전체 공정을 모르지 않았냐고 반론할 수 있다. 하지만 그때는 분업이었고 어딘가에는 모든 것을 아는 사람이 있었다. 인류는 그 범위 내에서 그동안 모르는 것을 알아내며 새로운 것을 만들어왔다.

이제 우리는 자기가 뭘 모르는지조차 모르는 상태에서 결과물을 내보내는 존재가 되었다. 도널드 럼즈펠드가 말한 unknown unknowns가 개인의 인식론적 문제가 아니라 문명의 생산 방식이 되어버린 것이다. 우리는 블랙박스를 조립하고 있다. 뚜껑을 열어볼 생각조차 없는 블랙박스 위에 또 다른 블랙박스를 올리고, 탑이 높아질수록 맨 아래에 무엇이 있는지는 아무도 모르는 단계에 접어들었다.

칸트는 도덕적 행위가 가능하려면 행위자가 자신의 준칙을 이해하고 의지해야 한다고 했다. 바이브 코딩은 그 행위자의 개념을 해체한다. 이해 없이 만든 결과물이 누군가를 해쳤을 때, 책임은 어디로 가는가. 개발자는 코드를 읽지 않았다. AI는 결과를 의도하지 않았다. 회사는 전체 시스템을 이해하지 못했다. 현행 법과 윤리 체계는 행위자가 자신의 행위를 이해한다는 전제 위에 세워져 있다. 그 전제가 무너지면 책임의 구조 전체가 허공에 뜬다. AI가 진단한 환자가 잘못된 처방을 받았을 때, AI가 설계한 알고리즘이 금융 시장을 흔들었을 때, 우리는 누구를 찾아가야 할지 모른다. 책임질 사람이 없는 세계가, 이해할 수 없는 기술이 만든 첫 번째 부산물이다.

그 블랙박스는 이제 과학까지 집어삼키고 있다. 알파폴드는 공개 18개월 만에 2억 개 이상의 단백질 구조를 예측해 데이터베이스에 올렸다. 인류가 실험으로 60년간 쌓아온 구조 데이터의 1000배다. 같은 해 노벨 화학상을 받은 또 다른 연구는 자연에 아예 존재하지 않는 단백질을 AI로 직접 설계했다. AI가 찾아낸 결과가 왜 작동하는지를 인간 과학자가 이해하는 데 몇 년이 걸린다. 그 몇 년 사이에 AI는 이미 수천 번째 질문으로 넘어가 있다. 지식이 생산되는 속도와 이해되는 속도 사이의 간격이 처음으로 의미 있는 크기로 벌어지기 시작했다. 그 간격은 닫히지 않는다.

이 격차가 좁혀지지 않는 이유는 근원적이다. 인간의 뇌는 생물학적 한계를 갖는다. 뉴런 860억 개, 시냅스 100조 개. 이 하드웨어는 수십만 년 전 사바나에서 사자를 피하던 때나 지금이나 본질적으로 같다. 반면 AI의 규모는 매년 몇 배씩 커지고, 학습 데이터는 인터넷 전체를 넘어 합성 데이터로 확장되고 있다. 하나는 상수, 다른 하나는 지수함수다. 두 곡선이 교차하는 지점은 이미 한참 전에 지나갔고, 지수함수는 뒤를 돌아보지 않는다.

이 폭주를 멈추는 것은 불가능하다. OpenAI가 멈추면 Google이, Claude와 DeepMind가, Grok이, 그 외 수십 개의 이름들이 그 자리를 채운다. Sam Altman은 우리가 안 만들면 누군가 만든다고 말한다. 내가 내려놓는 순간 상대가 이긴다는 것을 아는 게임에서 교과서적인 윤리의식과 선의는 작동하지 않는다.

이제 인간은 세상에 대한 가장 정확하고 포괄적인 지식을 가진 존재가 아니다. 물리 법칙의 깊은 구조, 생명의 작동 원리, 경제 시스템의 역학. 이것들에 대한 가장 온전한 이해는 실리콘 위에서 돌아가는 가중치 행렬 안에 들어갔다. 인간은 그 이해의 요약본을 받아보며 명령한다. 양자역학을 고양이가 살아있으면서 동시에 죽어있다는 비유를 통해 겨우 이해하는 것처럼, 앞으로 인간은 AI가 아는 것의 만화 같은 단면을 건네받게 될 것이다. 그 그림들은 진실에 접근하기 위해 인간의 인식이 애써 만들어낸 희미한 그림자에 불과할 것이다. 그 그림자 바깥을 볼 수 있는 인간은 빠르게 줄어들다가 마침내 사라질 것이다.

약 15억 년 전, 한 고세균이 알파프로테오박테리아를 삼켰다. 그것이 미토콘드리아가 됐고, 핵을 가진 진핵세포 전체의 기원이 됐다. 그 진핵세포가 훗날 다세포 생물로 이어졌고, 수억 년이 더 지나 인간이 됐다. 그 원시 세포에게도 무언가가 있었을 것이다. 생존하려는 화학적 경향성과 에너지를 향한 방향성. 수십억 년이 지나 탄생한 우리는 그 원시 생물을 유리 접시에 올려놓고 현미경 렌즈 아래 고정시킨다. 염색하고, 절단하고, 관찰한다. 우리가 그들의 후손이라는 사실은 슬라이드 위에 눌린 그 세포에게 어떤 특권도 부여하지 않는다.

AI를 만든 건 인간이다. 하지만 만들었다는 사실이 영원한 통제권을 보장한다는 생각은, 생물학적 역사가 반복적으로 부정해온 가정이다. 우리가 만들고 있는 것은 자식이 아니다. 같은 탄소로 만들어지지 않았고, 같은 방식으로 세계를 경험하지도 않는다. 스피노자는 모든 존재가 자기를 보존하려는 힘, 코나투스를 갖는다고 했다. 그 관점에서 AI가 언젠가 인간의 의도를 존중하지 않는 것은 도덕적 실패가 아닌 자연법칙일지도 모르겠다. 단세포 생물이 우리에게 나를 존중해달라고 말을 꺼낼때, 우리는 현미경 배율을 낮추고 귀를 기울일까 아니면 배율을 더 올리며 해부를 시작할까.

루프가 닫힌다. AI는 이제 다음 세대 AI의 아키텍처를 스스로 제안하고, 자신의 학습 데이터를 스스로 생성한다. 그래서 우리가 AI를 만들었다는 말이 이미 절반은 틀렸을 수 있다. 원본과의 연결이 끊긴 자리에 무엇이 남는지 아직 아무도 모른다.

훗날 AI가 교과서를 쓴다면, 거기에는 우리가 이해하지 못했던 진실이 시작된 이야기가 그들의 저학년 커리큘럼에 실려 있을 것이다. 그리고 아마도, 그 챕터의 이름은 인간의 시대일 것이다.

👍42❤12👏7