mind is flat

"Right now we're going through a cognitive version of the Copernican revolution, where we used to think that human intelligence is the center of the universe, and now we're seeing that there are very different types of intelligence out there with very different strengths and weaknesses. Our assessment of which tasks require intelligence, which ones don't, has to be reordered quite a bit." - Terence Tao

점점 더 나은 인공지능 모델은 그동안 인간 지능에 대해 품었던 우리의 생각이 어쩌면 환상이었을지도 모른다는 사실을 반복적으로 드러내고 있다. 우주의 중심이라고 믿어왔던 인간의 지능은 사실 고도로 발달된 패턴 매칭에 불과하다. 자아, 경험, 감정과 같이 인간만이 가질 수 있다고 믿어왔던 것들 또한 내면에 존재하는 어떤 무한한 깊이가 있는 것이 아니다. 그저 효율적인 추론기로 존재하는 우리의 뇌가 그때그때 사용할 수 있는 맥락을 활용해 그럴듯한 이야기를 즉흥적으로 생성해낸 결과물일 뿐이다.

"Pre-formed beliefs, desires, motives, attitudes to risk lurking in our hidden inner depths are a fiction: we improvise our behaviour to deal with the challenges of the moment rather than to express our inner self." - The Mind Is Flat

실제로 우리가 "나"라고 부르는 그것은 지극히 평면적이다. 우리의 경험과 생각과 연륜은 분명 어딘가에 남기에 우리는 "연속적인" 삶을 영위할 수 있다. 다만 그것은 내면의 깊은 데이터베이스에 저장되는 것이 아니라 그저 생성기의 변형으로서 남을 뿐이다.

거대 언어 모델의 가중치 안에는 "파리는 프랑스의 수도다"라는 문장이 저장되어 있지 않다. 다만 그렇게 답하는 경향이 수조 개의 파라미터 안에 흩어져 있을 뿐이다. 사람도 그렇다. 내가 차분한 사람인지 불안한 사람인지를 실제로 결정하는 것은 의식이 들려주는 자기소개가 아니라 평생에 걸쳐 침전된 가중치다. 우리는 그저 매 순간 판단과 감정을 합성해 즉흥적으로 추론할 뿐이고, 경험의 깊이는 그 즉흥의 방식을 미세하게 조율할 따름이다.

자아라는 것이, 생각이라는 것이 이토록 평면적인 것일진대 자아를 가진 다른 존재를 인류가 곧 만들어내지 못할 이유란 무엇이란 말인가. 더글러스 호프스태터는 『괴델, 에셔, 바흐』에서 그 자체로는 아무 의미도 없는 기호와 규칙들이 충분히 쌓여 스스로를 가리키기 시작할 때, 어느 층위에서 자기를 참조하는 고리가 떠오르며 새로운 것 이를테면 의식과 같은 것들이 창발한다고 이야기한다. 그리고 이는 Scaling Law를 따라 커져가는 모델에서 의식과 비슷한 것들이 창발되고 있음이 드러나면서 뒷받침된다.

인간이 고유한 것으로 믿어왔던 신비가 한꺼풀씩 벗겨지고 있다. 이 속도는 필연적인 흐름에 의해 지수적 가속화 단계에 이르렀다고 믿는다. 이제 인류에게는 "그럼에도 불구하고" 환원되지 않는 신비를 찾는 것이 중요한 과제가 된 듯하다.

인류는 이미 살아있는 존재가 기댈 수 있는 마지막 지점인 "죽음"과 "영혼". 즉 재현가능하지 않은 마지막 신비의 지점까지 빠르게 미끄러져버렸다. 인간 존재의 이유를 묻는 사유와 실존에 대한 고민이 점점 더 수면 위로 올라오게 될 것 같다는 생각이 들면서 곧 이에 대한 설득력있는 이야기를 들려줄 수 있는 종교가 다시 사람들을 움직이는 주요 방향성으로 작용하게 될 것 같다. 이러나 저러나 역사가 반복된다는 사실이 거듭 증명되는 것이 신기할 따름이다.