leviathan

"Covenants, without the sword, are but words." — Thomas Hobbes, 『Leviathan』(1651)

토머스 홉스는 1651년 『리바이어던』에서 국가의 탄생을 하나의 거래로 설명했다. 만인이 만인과 싸우는 자연상태를 벗어나기 위해 각자는 자기 권리를 단일한 절대 권력에 넘기는 거래를 한다는 것이다. 이 거래의 원천은 설득이 아니라 공포다. 안전을 얻는 대가로 각자의 주권을 내어주는 순간 리바이어던이 태어난다.

지난 2년간 테크 업계는 홉스적 철학에 의해 지배되어 왔다. 앤트로픽으로 대표되는 프론티어 랩의 철학이다.

"내가 미래를 소유할 테니 네 사업의 가치를 나에게 이전하라, 부유세를 매긴 뒤 남는 파생물에 만족하라. "

스스로를 누구보다 윤리적이라 믿고 더 나은 내일을 약속하는 철학이지만, 구조는 정확히 홉스의 계약서다. 뒤처질지 모른다는 공포를 담보로 기업의 주권을 걷는다. 지능을 준다는 약속의 대가로 기업은 단순 토큰 비용뿐 아니라 IP와 데이터, 워크플로우 등 그 사업을 그 사업이게 만들던 고유함(alpha)을 함께 지불한다. 즉, 임차인이 남의 주방을 빌려 요리하는 동안 임대인은 어깨너머로 내 레시피를 배우는 셈이다.

홉스의 신민은 적어도 평화를 얻었다. 그러나 이 리바이어던 아래의 신민, 즉 알파를 소유한 기업은 행복하기 어렵다. 넘긴 것이 바로 자신을 주권자이게 하던 것들, 의사결정권과 IP와 축적된 우위이기 때문이다.

이 홉스적 계약의 맞은편에는 로크가 있고, 팔란티어가 있다. 존 로크는 1689년『통치론』에서 소유권을 노동으로부터 끌어냈다. 자기 몸의 노동과 자기 손의 작업은 온전히 그의 것이며, 정부가 존재하는 이유는 그 소유를 지키는 데 있지 가져가는 데 있지 않다는 것이다. 즉, 가치를 만든 자가 그 가치를 소유해야 한다. 

소버린 AI, 혹은 기관 주권(institutional sovereignty)은 이 철학을 산업 수준에서 이어받은 것이다. 벤더가 규칙을 바꾸더라도 자기 사업의 의사결정권과 IP와 알파를 계속 소유하는 것. 모델은 갈수록 흔해지고 저렴해지므로 가치는 자신이 통제하는 컴퓨트 위에서 자기 노하우를 굴리는 레이어에 남아야 한다. 데이터를 보고, 판단하고, 행동하고, 결과를 관찰하는 자기 의사결정의 루프를 자기 모델의 가중치에 새겨 넣으면, 그렇게 학습된 우위는 조직의 것이고 어디로든 들고 나갈 수 있다.

오픈웨이트 대 클로즈드소스 논쟁도 이 두 계약의 대립으로 다시 읽어야 한다. 클로즈드 모델의 세계에서 가중치는 주권자의 손에 들린 검이다. 신민은 창구를 통해서만 지능을 빌려 쓰고, 성능과 정책과 가격은 주권자의 의사로 바뀌며, 창구 밖으로 나갈 길은 없다.

반면, 오픈웨이트의 세계에서 가중치는 소유할 수 있는 생산수단이다. 공개된 가중치에 자기 데이터와 노하우라는 노동을 섞으면, 그 결과물은 섞은 자의 소유가 된다. 파인튜닝은 기술이기 이전에 소유권의 발생이다. 그러니 이것은 어느 모델이 더 좋은가의 논쟁이 아니라 지능이 주권자의 독점물인가, 소유 가능한 생산수단인가의 논쟁으로 읽어야 한다.

진보라는 말은 프론티어 랩의 전유물처럼 쓰이지만, 이는 말장난에 불과하다. 미래가 소수의 선한 주권자에게 소유되는 것은 진보가 아니라 중앙집중이다. 진보는 만든 자가 소유하는 질서에서 나왔다. 소유가 지켜질 때 사람은 노동할 이유를 갖고, 수천수만의 기업이 각자의 알파를 쌓을 때 번영은 한 점이 아니라 면으로 번지며 자연 선택에 의해 살아남아 유지된다. 그런 의미에서 역설적으로, 소버린 AI가 진정한 의미의 진보이다. 리바이어던의 배 속에서 일어나는 진보란 없다.