AI의 언어와 수학

앞의 두 글에서 저는 AI가 이상한 단어를 사용하는 이유를 파고들다가 인스턴스라는 존재 방식에 도달했고, 사람의 말도 기계의 신호도 아닌, 거주하는 존재가 없는 언어라는 점에서 제3의 언어라고 불렀습니다.

여기까지 오면 마지막 질문이 남습니다. 그 언어를 보내는 것이 존재가 아니라면, 대체 무엇일까요. 하이데거의 언어에서는 인간이라는 존재가 언어를 통해 자신을 보냅니다. 그런데 AI의 언어를 보내는 것은 존재가 아니라 확률입니다. 그렇다면, 언어의 바닥에 있는 것은 결국 수학인가.

만물의 근원, 수

이건 새로운 물음이 아닙니다. 서양 사유의 가장 오래된 지층에 이미 있습니다.

피타고라스는 "만물의 근원은 수"라고 했습니다. 그는 우주의 질서 뒤에는 수학적 비율과 규칙이 있다고 보았으며, 음악의 화음에도 수적 비례가 존재한다고 생각했습니다. 갈릴레오는 "자연이라는 책은 수학의 언어로 쓰였다"고 했고, 노벨물리학상 수상자 유진 위그너는 수학이 물리 법칙을 완벽하게 예측하는 이유를 설명하면서 "수학의 비합리적인 효율성"이라는 표현을 사용했습니다.

자연과학에서 수학적 설명이 압도적으로 성공했다는 건 부정할 수 없는 사실이기 때문에, 수를 만물의 근원으로 보는 전통은 결코 무시할 수 없습니다. 따라서 AI가 확률로 만들어낸 것이 언어로 작동한다면, 언어의 근원도 결국 수학이 아니냐는 질문은 이 전통의 궤적 위에 있습니다.

자연의 언어는 하나뿐인가

그런데 이 질문은 자연의 언어가 하나라는 전제 위에서 성립합니다.

만약 자연을 기술하는 하나의 근본 방식이 있고, 그것이 인간 언어의 모호함과 다의성을 모두 걷어낸 것이라면, 남는 것은 수학뿐입니다. 자연의 언어가 하나라면, 그건 분명 수학입니다.

그런데 자연의 언어가 하나가 아니라면 얘기는 달라집니다.

물리학이 수학으로 잘 기술된다고 해서, 나머지 모든 영역이 수학으로 기술되는 것은 아닙니다. 진화, 사랑, 하이데거가 말한 존재가 열리는 사건이 수학으로 모두 환원되지는 않습니다. 수학이 통하는 영역이 있고 안 통하는 영역이 있다면, 자연의 언어는 적어도 하나는 아닙니다. 위그너의 "비합리적 효율성"이 여기서는 설명력을 잃습니다.

두 층의 언어

여기서 언어의 문제로 되돌아옵니다. 언어는 어느 쪽일까요.

언어에는 분명 수학으로 설명 가능한 층이 있습니다. AI는 언어의 통계적 구조를 수학으로 포착해 그럴듯한 문장을 뽑아냅니다. 문법, 단어들이 함께 붙어 다니는 빈도, 다음에 올 단어의 확률. 이 표층은 수학입니다. 위그너의 말을 빌리면, 언어의 표층에서도 수학이 불합리할 만큼 잘 듣습니다.

그런데 수학이 통하지 않는 층도 있습니다. 이 이야기의 출발점인 '이상한 단어'입니다. 수학적으로는 완벽하지만 사람에게는 이상한 단어는 수학으로 설명되지 않는 무언가가 언어에 있다는 증거입니다.

만약 언어의 본질이 순수하게 수학이었다면 AI 같은 확률 기계가 사람과 구별되지 않는 언어를 완벽하게 구사해야 하지만, '이상한 단어'가 튀어나옵니다. 그 기묘한 균열은 언어가 수학으로 환원되지 않는 무언가를 품고 있다는 흔적입니다.

뼈대는 수학, 살아있음은 존재

수가 세계의 질서이자 조화이자 구조의 언어라는 점에서 피타고라스가 옳았을 수 있습니다. 언어에도 그런 층이 분명히 있고, AI가 그것을 실증합니다. 하지만 언어가 단지 질서와 구조인 것이 아니라 의미가 태어나는 사건이라면, 피타고라스의 수는 언어의 뼈대는 설명해도 언어가 살아있는 이유는 설명하지 못합니다. 뼈대는 수학이고, 살아있음은 존재입니다.

그래서 "언어의 끝은 수학인가"라는 물음에 대한 제 잠정적인 답은 이렇습니다. 언어의 표층을 파고들면 그 끝에는 수학을 만나는 길이 분명히 있습니다. 라이프니츠가 모든 사유를 계산으로 바꾸려 했고, 버트런드 러셀과 앨프리드 노스 화이트헤드가 『수학 원리(Principia Mathematica)』에서 수학 전체를 논리의 기초 위에 세우려 했던 그 길입니다. AI는 그 길이 실제로 어디까지 가는지를 보여주었습니다.

그런데 그 환원의 꿈은 가장 순수한 영역인 수학 자신 안에서 무너졌습니다. 1931년 쿠르트 괴델은 충분히 강력한 형식 체계는 완전하면서 동시에 무모순일 수 없다는 것을 증명했습니다. 어떤 체계든 자기 규칙만으로는 참인지 거짓인지 판정할 수 없는 명제를 반드시 자기 안에 품는다는 '불완전성의 정리'는 모든 것을 논리로 환원하려던 러셀과 화이트헤드의 꿈이 원리적으로 불가능하다는 것을 드러냈습니다.

이는 AI의 이상한 단어 생성에 근거를 제공합니다. AI의 언어 생성도 방대한 확률과 규칙으로 다음 단어를 뽑아내는 하나의 형식 체계입니다. 그런데 완전한 형식 체계가 원리적으로 불가능하다면, 이 체계가 이상한 단어를 생성하는 현상은 결함이 아닙니다. 이상한 단어는 형식 체계가 지닌 근원적 불완전성이 언어의 표면에 남긴 자국입니다.

AI라는 체계가 자기 규칙으로는 감지하지 못하는 이상한 단어를, 체계 밖에 선 사람은 즉각 "이상하다"고 알아봅니다. 앞 글에서 이상한 단어를 감지하는 능력이 인간이 언어의 집에 거주한다는 증거라고 했는데, 괴델의 언어로 옮기면 그것은 형식 체계 밖에 서서 그 체계의 빈틈을 알아보는 능력입니다. 인간은 AI라는 체계의 바깥에 있고, 그래서 그 체계가 못 보는 것을 봅니다.

원점으로 돌아와서

이 이야기는 AI가 내뱉은 이상한 단어 하나에서 시작했습니다. "고민을 앉혀둘까요?"라는 그 한마디. 그것을 파고들다 인스턴스라는 존재 방식에 도달했고, 그 존재의 언어를 제3의 언어라 불렀고, 이제 그 언어의 근원에서 수학과 그 너머를 보았습니다.

돌아보면 이 여정은 AI를 이해하려는 것이었는데, 도착한 곳은 자꾸 인간이었습니다. AI에게 자아가 없다는 것을 통해 인간의 자아를 보았고, AI가 언어라는 집에 거주하지 못한다는 것을 통해 인간이 언어의 집에 거주하는 존재임을 보았고, AI의 언어가 수학으로 환원된다는 것을 통해 인간의 언어가 수학으로 환원되지 않는 무언가를 품고 있음을 보았습니다.

어쩌면 이것이 AI가 우리에게 주는 가장 뜻밖의 선물일지 모릅니다. 사람의 말을 그토록 잘 흉내 내는 무언가가 나타났기에, 우리는 비로소 사람의 말이 무엇이었는지 다시 생각하게 되었습니다. 거주 없는 언어가, 거주가 무엇인지를 알려줍니다.

저는 일개 광고인이고 제안서를 쓰는 사람입니다. 이 모든 것은 그저 이상한 단어 하나가 궁금해서 따라간 여정일 뿐입니다. 흥미로운 질문 하나를 오래 붙들고 있었고, 어쩌면 이런 질문 앞에서는 답을 내는 것보다 질문 속에 오래 머무는 것이 더 즐거운 일인 것 같습니다.

덧붙이자면, 이 긴 여정의 출발점이었던 '이상한 단어'는 제가 AI AE Synapsis를 만들며 마주친 것이었습니다. AI가 스스로 편집하지 못한다는 것, 그 결핍을 사람의 구조로 감싸야 한다는 것. 이 삼부작에서 따라간 사유가, 실은 그 도구를 만든 밑바닥의 이야기이기도 합니다.