steam, steel, and infinite minds

Ivan Zhao의 Article을 한글로 번역한 글입니다.

모든 시대는 기적의 재료에 의해 형성된다. 철강은 황금기를 만들었고, 반도체는 디지털 시대의 불을 켰다. 이제 AI는 무한한 정신(infinite minds)으로 도착했다. 역사가 우리에게 가르치는 바가 있다면, 그 재료를 통달한 사람들이 그 시대를 정의한다는 것이다.​

1850년대, 앤드루 카네기는 피츠버그의 진흙투성이 거리를 전신 배달 소년으로 뛰어다녔다. 미국인 열 명 중 여섯 명은 농부였다. 두 세대가 지나기도 전에, 카네기와 그의 또래들은 현대 세계를 단조했다. 말은 철도에 자리를 내주었고, 촛불은 전기로, 철은 강철로 바뀌었다.​

그 후로 일의 중심은 공장에서 사무실로 옮겨 갔다. 오늘날 나는 샌프란시스코에서 소프트웨어 회사를 운영하며 수백만 명의 지식 노동자를 위한 도구를 만들고 있다. 이 “산업 도시”에서는 모두가 AGI 이야기를 하지만, 20억 명에 이르는 사무직 노동자 대부분은 아직 그것을 체감하지 못하고 있다. 가까운 미래의 지식 노동은 어떤 모습일까? 조직도에 잠들지 않는 정신들이 흡수되면 무슨 일이 벌어질까?​

미래를 예측하기 어려운 이유는, 그것이 항상 과거의 모습으로 자신을 위장하기 때문이다. 초창기 전화 통화는 전보처럼 매우 간결했다. 초기 영화는 촬영된 연극처럼 보였다. 이것이 바로 마셜 맥루한이 “백미러를 통해 미래로 운전한다(driving to the future via the rearview window)”고 부른 현상이다.​

지금 우리가 보는 것은 구글 검색창을 흉내 내는 AI 챗봇들이다. 우리는 현재, 새로운 기술 전환이 올 때마다 찾아오는 그 불편한 과도기 한가운데에 서 있다.​

다음에 무엇이 올지에 대한 모든 답을 갖고 있지는 못하다. 하지만 개인, 조직, 전체 경제에 이르기까지, 서로 다른 스케일에서 AI가 어떻게 작동할 수 있는지를 생각해 보기 위해 몇 가지 역사적 은유를 가지고 놀아 보는 것을 좋아한다.​

Individuals: from bicycles to cars

첫 번째 단면은 지식 노동의 고위 사제들, 즉 프로그래머들에게서 엿볼 수 있다.​

내 공동 창업자 사이먼은 흔히 말하는 10배 개발자였지만, 요즘은 거의 코드를 직접 쓰지 않는다. 그의 책상 옆을 지나가 보면, 세 개 혹은 네 개의 AI 코딩 에이전트를 동시에 오케스트레이션하고 있는 모습을 보게 될 것이다. 그들은 단지 더 빨리 타이핑하는 것이 아니라 “생각”을 한다. 이 둘이 합쳐지면 그는 30~40배 생산성을 가진 엔지니어가 된다. 그는 점심이나 잠자리에 들기 전에 작업들을 큐에 쌓아 두고, 자는 동안에도 그것들이 계속 일하게 한다. 그는 무한한 정신들을 관리하는 매니저가 되었다.​

1980년대에 스티브 잡스는 개인용 컴퓨터를 “마음의 자전거”라고 불렀다. 10년 뒤, 우리는 인터넷이라는 “정보 고속도로”를 포장했다. 하지만 오늘날 대부분의 지식 노동은 여전히 인간의 힘으로 돌아간다. 마치 아우토반 위를 자전거로 페달을 밟고 있는 것과 같다.​

AI 에이전트 덕분에, 사이먼 같은 사람은 자전거를 타던 상태에서 자동차를 모는 단계로 졸업했다.​

그렇다면 다른 유형의 지식 노동자들은 언제 자동차를 얻게 될까? 두 가지 문제가 해결되어야 한다.​

맥락의 파편화​: 코딩의 경우, 도구와 맥락이 대개 한곳에 모여 있다. IDE, 리포지토리, 터미널이 그 예다. 하지만 일반적인 지식 노동은 수십 개의 도구에 흩어져 있다. AI 에이전트가 제품 기획서를 작성하려고 한다고 상상해 보자. 슬랙 스레드, 전략 문서, 지난 분기의 대시보드 지표, 그리고 누군가의 머릿속에만 존재하는 조직의 암묵지 등에서 정보를 끌어와야 한다.​

오늘날 사람들은 이 모든 것을 이어 붙이는 접착제 역할을 한다. 복사-붙여넣기를 반복하고 수많은 브라우저 탭을 전환한다. 이 맥락이 하나로 통합되기 전까지, 에이전트는 좁은 용도에 갇혀 있을 것이다.​

두 번째 빠진 재료는 검증 가능성이다. 코드에는 마법 같은 속성이 있다. 테스트와 에러를 통해 검증할 수 있다는 점이다. 모델 제작자는 이를 활용해 AI가 코딩을 더 잘하도록 훈련한다(예: 강화학습).​

하지만 프로젝트가 잘 관리되고 있는지, 전략 메모가 좋은지 어떻게 검증할 수 있을까? 일반적인 지식 노동을 위해 모델을 개선하는 방법은 아직 찾지 못했다. 그래서 여전히 인간이 루프 안에 있어야 한다. 감독하고, 방향을 제시하고, 무엇이 ‘좋은 것’인지 보여줘야 한다.​

올해의 프로그래밍 에이전트들은 “휴먼 인 더 루프”가 항상 바람직한 것은 아니라는 사실을 일깨워 주었다. 이는 마치 공장 라인의 모든 볼트를 사람이 직접 눈으로 검사하게 하거나, 자동차 앞에서 길을 비켜 주라고 사람이 걸어가게 하는 것과 같다(1865년의 레드 플래그 법을 떠올려 보라). 우리는 인간이 루프 “안”이 아니라, 더 레버리지되는 지점에서 루프를 감독하길 원한다.​

맥락이 통합되고, 작업이 검증 가능해지는 순간, 수십억의 노동자는 페달을 밟는 단계에서 운전하는 단계로, 그리고 운전에서 자율주행 단계로 이동하게 될 것이다.​

Organizations: steel and steam

회사는 비교적 최근에 발명된 존재다. 규모가 커질수록 성능이 떨어지고, 어느 지점에서 한계에 부딪힌다.​

몇백 년 전만 해도 대부분의 회사는 열두 명 안팎이 일하는 작업장이었다. 이제 우리는 수십만 명이 일하는 다국적 기업을 갖게 되었다. 회의와 메시지로 연결된 인간 두뇌라는 커뮤니케이션 인프라는 기하급수적인 부하 아래서 휘청거린다. 우리는 이를 계층 구조, 프로세스, 문서화로 해결하려 한다. 하지만 이는 산업 규모의 문제를 인간 규모의 도구로 해결하려는 시도다. 마치 고층 빌딩을 목재로 지으려는 것과 같다.​

두 가지 역사적 은유는, 기적의 재료가 바뀔 때 미래의 조직이 얼마나 다르게 보일 수 있는지를 보여 준다.​

첫 번째는 철강이다. 철강이 등장하기 전, 19세기 건물은 6~7층 높이가 한계였다. 철은 강하지만 부서지기 쉽고 무거웠다. 층수를 더 올리면 구조물은 자기 무게에 짓눌려 붕괴했다. 철강은 모든 것을 바꾸어 놓았다. 강하면서도 유연했다. 구조 골조는 더 가벼워지고, 벽은 더 얇아졌으며, 건물은 수십 층까지 솟아오를 수 있게 됐다. 전에는 상상할 수 없던 유형의 건물들이 가능해졌다.​

AI는 조직에 있어서 철강과 같다. 워크플로 전체에 걸쳐 맥락을 유지하고, 불필요한 소음을 제거한 채 필요한 순간에만 의사결정을 표면 위로 떠올릴 잠재력을 가진다. 인간 간의 커뮤니케이션이 더 이상 하중을 떠받치는 벽일 필요가 없다. 주간 2시간 정렬 회의는 5분짜리 비동기 리뷰로 대체될 수 있다. 3단계 승인 과정을 거쳐야 했던 경영 의사결정은 몇 분 만에 일어날 수 있다. 기업은, 우리가 그동안 불가피하다고 받아들였던 성능 저하 없이, 진짜로 “스케일”할 수 있게 된다.​

두 번째 이야기는 증기기관에 관한 것이다. 산업혁명 초기, 섬유 공장은 강과 시냇물 옆에 자리했고 물레방아로 동력을 얻었다. 증기기관이 등장했을 때, 공장주들은 처음에는 물레방아를 증기기관으로 단순 교체하고 나머지는 그대로 두었다. 생산성 향상은 미미했다.​

진짜 돌파구는 공장주들이 “물”로부터 완전히 분리될 수 있다는 사실을 깨달았을 때 찾아왔다. 그들은 더 큰 방직 공장을 노동자, 항구, 원자재에 더 가까운 곳에 지었다. 그리고 공장을 증기기관을 중심으로 다시 설계했다. (이후 전기가 보급되자, 공장주는 중앙 동력축에서 더 분산된 형태로 전환해, 공장 곳곳에 작은 엔진을 배치해 서로 다른 기계를 돌릴 수 있게 했다.) 생산성은 폭발적으로 증가했고, 제2차 산업혁명이 본격적으로 시작되었다.​

우리는 아직 “물레방아를 갈아 끼우는” 단계에 머물러 있다. 기존 도구 위에 AI 챗봇을 덧붙이는 정도에 그치고 있다. 옛 제약이 사라지고, 잠들지 않는 무한한 정신들이 회사를 24시간 가동할 수 있을 때, 조직이 어떤 모습일지 다시 상상하지 못하고 있다.​

나의 회사 노션(Notion)에서는 여러 실험을 진행 중이다. 1,000명의 직원과 함께, 700개가 넘는 에이전트가 반복적인 일을 맡고 있다. 그들은 회의록을 작성하고, 조직 내 암묵지를 요약해서 질문에 답한다. IT 요청을 처리하고 고객 피드백을 기록한다. 신규 입사자가 복지 제도를 이해하도록 돕는다. 사람들이 더 이상 복사·붙여넣기를 하지 않아도 되도록 주간 상태 보고서를 작성한다. 그리고 이것은 아직 걸음마 단계에 불과하다. 진짜 이득은 우리의 상상력과 관성만이 한계를 정할 것이다.​

Economies: from Florence to megacities

철강과 증기는 건물과 공장만 바꾼 것이 아니다. 도시 자체를 바꾸었다.​

몇백 년 전까지만 해도 도시는 인간의 스케일에 맞춰져 있었다. 피렌체는 걸어서 40분이면 가로질러 갈 수 있었다. 삶의 리듬은 사람이 얼마나 멀리 걸을 수 있는지, 목소리가 얼마나 멀리 닿는지에 의해 결정되었다.​

그러다 철골 구조가 초고층 빌딩을 가능하게 했다. 증기기관은 도시 중심과 변두리를 잇는 철도를 움직였다. 이어서 엘리베이터, 지하철, 고속도로가 뒤따랐다. 도시는 규모와 밀도 면에서 폭발적으로 확장됐다. 도쿄. 충칭. 댈러스.​

이 도시들은 단지 피렌체의 더 큰 버전이 아니다. 전혀 다른 삶의 방식이다. 메가시티는 혼란스럽고 익명성이 크며, 길 찾기가 더 어렵다. 이런 “읽기 어려움(illegibility)”은 스케일이 가져오는 대가다. 하지만 동시에 더 많은 기회와 자유를 제공한다. 더 많은 사람들이, 더 많은 일을, 더 다양한 조합으로 할 수 있다. 인간 규모의 르네상스 도시가 수용할 수 있는 것보다 훨씬 많은 것을.​

지식 경제도 곧 같은 변화를 겪게 될 것이라고 생각한다.​

오늘날 지식 노동은 미국 GDP의 거의 절반을 차지한다. 대부분은 여전히 인간 스케일에서 운영된다. 수십 명 단위의 팀, 회의와 이메일의 속도에 맞춰 돌아가는 워크플로, 몇백 명을 넘기면 삐걱거리기 시작하는 조직. 우리는 돌과 목재로 피렌체를 지어 온 셈이다.​

AI 에이전트가 대규모로 온라인에 올라오면, 우리는 도쿄를 짓게 될 것이다. 수천 개의 에이전트와 인간이 함께 일하는 조직. 누군가 깨어나기를 기다리지 않고, 시차를 건너 24시간 내내 돌아가는 워크플로. 딱 적절한 정도의 인간 참여를 곁들여 합성된 의사결정.​

그 경험은 다르게 느껴질 것이다. 더 빠르고, 더 레버리지되지만, 처음에는 훨씬 더 혼란스럽기도 할 것이다. 주간 회의, 분기별 기획 사이클, 연간 평가의 리듬은 더 이상 말이 되지 않을 수 있다. 새로운 리듬이 나타난다. 우리는 일정 부분의 “읽기 쉬움”을 잃고, 그 대신 스케일과 속도를 얻게 된다.​

Beyond the waterwheels

모든 기적의 재료는, 사람들이 세상을 백미러를 통해 보는 것을 멈추고 새로운 세상을 상상하기 시작해야 비로소 제 역할을 한다. 카네기는 철강을 보며 도시의 스카이라인을 떠올렸다. 랭커셔의 공장주들은 증기기관을 보며 강으로부터 해방된 공장 바닥을 상상했다.​

우리는 여전히 AI의 물레방아 단계에 머물러 있다. 인간을 위해 설계된 워크플로 위에 챗봇을 덧대는 수준이다. AI가 단지 우리의 “부조종사(copilot)”로 남아 있기를 바라지 말아야 한다. 인간 조직이 철강으로 보강되고, 단순 반복 업무가 잠들지 않는 정신들에게 위임되었을 때 지식 노동이 어떤 모습일지 상상해야 한다.​

철강. 증기. 무한한 정신들. 다음 스카이라인은 이미 그곳에 있다. 우리가 그것을 세워 올리기만 기다리면서.​

— Ivan Zhao (@ivanhzhao), CEO @NotionHQ​