when do humans trust machines

"신뢰(trust)란 불확실성과 취약성이 특징인 상황에서, 자율주행 시스템이 사용자의 목표를 달성하는 데 도움을 줄 수 있다는 인간의 태도다." — Lee & See, Trust in Automation (2004)

1945년 9월, 뉴욕시에서 1만 5천 명의 엘리베이터 오퍼레이터가 파업에 돌입했다. 우편 배달이 중단되고, 연방 세수가 하루 800만 달러씩 줄었으며, 약 150만 명의 뉴요커가 출근을 포기했다. 고층 빌딩의 계단을 오르내리는 것은 물리적으로 불가능에 가까웠기 때문이다. 그런데 당시 이미 자동 엘리베이터 기술은 완성되어 있었다. 기술은 준비되어 있었지만, 사람들이 거부한 것이다. 레버를 매일 조작하는 것을 수없이 지켜봤으면서도, 정작 자신이 버튼을 누르는 것은 완전히 다른 문제였다.

자동 엘리베이터가 발명된 것은 1900년경이지만, 대중이 이를 일상적으로 받아들이기까지는 50년 이상이 걸렸다. 업계는 광고에 아이들과 할머니가 버튼을 누르는 장면을 넣었고, 엘리베이터 안에 안내 음성을 설치했으며, 가장 결정적으로는 빨간색 비상정지 버튼을 배치했다. 뉴요커 지는 이 시기를 이렇게 묘사했다. 제조업체들이 인간보다 더 뛰어난 수준의 자동 엘리베이터를 만들어냈음에도, 대중은 여전히 이를 경계하고 있다고.

80년이 지난 지금, 우리는 놀라울 정도로 유사한 장면을 목격하고 있다. 다만 이번에는 엘리베이터가 아니라 자동차다.

The Technology Is Ready, but Humans Are Not

자율주행 기술의 성숙도는 이미 상당한 수준에 도달했다. 2025년 기준, Waymo는 미국 5개 도시에서 주당 45만 건 이상의 완전 무인 유료 탑승을 처리하고 있다. Tesla는 2025년 6월 오스틴에서 로보택시 서비스를 개시한 뒤, 12월에는 안전 모니터 없는 완전 무인 탑승 테스트를 시작했다. 기술적 측면에서만 보면 자율주행은 이미 "되는" 단계에 진입했다.

그럼에도 불구하고, 자율주행 차량의 전면적 대중 채택(full-scale adoption)은 아직 멀었다는 전망이 지배적이다. 왜 기술의 완성과 대중의 수용 사이에 이토록 거대한 시차가 존재하는 것일까?

당연하게도, 신뢰는 시스템이 고성능이거나 안전하다고 해서 자동으로 따라오는 것이 아니다. 신뢰의 가장 강력한 변수는 사용자가 인식하는 위험과 편익의 균형, 제도적 신뢰, 이전 경험, 그리고 자율주행에 대한 개인의 "멘탈 모델"이다.

Three Layers of Trust

기술에 대한 대중의 신뢰를 이해하기 위한 핵심 프레임워크가 있다. 신뢰를 단일한 감정이 아닌, 세 가지 층위로 분해하는 것이다.

첫째는 기질적 신뢰(dispositional trust)다. 이것은 특정 기술과 무관하게, 한 개인이 기계나 자동화 시스템에 대해 선천적으로 갖는 신뢰 성향이다. 어떤 사람은 태생적으로 기술에 우호적이고, 어떤 사람은 본능적으로 기계를 경계한다. 이 층위는 성격, 문화, 세대에 의해 형성되며 쉽게 바뀌지 않는다.

둘째는 초기 신뢰(initial trust)다. 어떤 사람이 자율주행차를 처음 접했을 때 형성되는 첫인상이다. 차량의 외관, 브랜드, 미디어 보도, 주변인의 경험담 등이 이 단계에 영향을 미친다. 이 초기 신뢰야말로 자율주행 기술에 대한 긍정적 태도를 형성하는 가장 결정적인 요인이다. 첫인상이 한번 부정적으로 각인되면, 이후의 기술적 개선이 이를 뒤집기 극도로 어려워진다.

셋째이자 가장 결정적인 것이 학습된 신뢰(learned trust)다. 경험은 단순히 시간이나 주행 거리로만 측정될 수 없으며, 운전자가 경험한 상황의 다양성을 반영해야 한다. 제한된 시나리오에서만 자동화를 경험한 운전자는 아무리 반복 주행을 했더라도 여전히 미경험자로 간주된다. 더 다양하고 세밀한 주행 상황을 접할수록 경험은 풍부해지고, 멘탈 모델의 정확도가 높아진다.

신뢰란 "1억 마일 무사고"라는 통계 수치나, 유튜브에서 타인이 탑승하는 영상을 보는 것으로는 형성되지 않는다. 내가 직접, 비가 오는 날, 출퇴근 시간의 혼잡한 교차로에서, 학교 앞 좁은 골목에서, 이 시스템이 어떻게 반응하는지를 반복적으로 관찰하고 체험해야만 비로소 축적된다. 신뢰는 이벤트가 아니라 누적의 산물이다.

Waymo and Tesla

현재 자율주행의 선두주자인 Waymo와 Tesla는 이 신뢰를 쌓기 위함 싸움에서 근본적으로 다른 접근방식을 취한다.

Waymo는 경험의 품질에서 앞선다. Waymo는 2025년 한 해 동안 1,400만 건 이상 운행했고, 주당 탑승 건수는 1년 만에 17만 5천 건에서 45만 건으로 157% 성장했다. 결정적으로, 이 성장은 반복 사용자가 만들어낸 것이다. 아침 출근, 공항 이동, 심지어 출산까지 Waymo를 일상의 교통수단으로 삼는 사용자층이 형성되었다. Waymo의 탑승자는 뒷좌석에 앉아 완전히 통제권을 내려놓는다. 핸들도 없고, 페달도 없다. 이 경험은 "감시"가 아니라 온전한 "위임"이다. 앞서 살펴본 신뢰의 관점에서, 이것은 질적으로 다른 종류의 경험이다.

하지만 Waymo는 다음과 같은 질문에서 아직은 한계점을 보이는 것 같다. 이 우수한 경험이, 사업적 승리로 이어질 수 있는 구조인가? 즉, 현재의 사업 방식에 근본적으로 내재한 Scalability의 문제다.

Waymo가 사업을 확장하려면 도시마다 운영 센터를 짓고, 수천 대의 고가 차량을 직접 구매하거나 리스해야 한다. HD 맵을 제작하고, Geofencing을 설정하며, 운영 인력을 배치해야 한다. 2026년에 20개 추가 도시 진출을 예고했지만, 이는 엄청난 자본 지출(CapEx)을 동반하며 확장의 속도를 물리적으로 제한할 수밖에 없다. 현재 Waymo의 서비스 경험이 아무리 훌륭하더라도, 전 세계 대부분의 사람들에게 Waymo는 여전히 "남의 나라 이야기" 혹은 "특수 지역의 실험"에 가깝다.

반면 Tesla는 경험의 규모에서 앞선다. 전 세계 도로 위에 이미 800만 대에 육박하는 Tesla 차량이 달리고 있다. 이 차량의 주인들은 매일 아침 차에 올라타는 순간 FSD에 노출된다. 설령 지금 당장 완벽한 무인 주행이 아니더라도, 운전자가 개입할 준비를 한 채 시스템의 보조를 받는 과정 자체가 거대한 신뢰 형성의 기간이 된다. Tesla 오너들은 FSD가 버전업될 때마다 자기 차의 능력이 개선되는 것을 직접 목격하고 그 경험을 X에 공유하고 있다.

다만, 아직까지 대부분의 사용자들에게 FSD는 "위임"이 아닌 "감시"의 경험에 가깝다.(개인적으로도 그렇다!) Frontiers in Future Transportation에 게재된 한 운전 시뮬레이터 연구는 레벨 2 시스템의 사용자들이 설문에서는 높은 신뢰를 보고하면서도 실제 위험 순간에는 본능적으로 핸들을 움켜잡는 현상을 보여줬다. 이것만 보면 FSD의 경험이 "절반만 맡기는" 불완전한 신뢰에 그치는 것처럼 보인다.

Tesla의 FSD 노출은 그 자체가 완결된 경험이 아니라, 완전 자율주행으로 넘어가기 위한 의도된 파이프라인이다. 2025년 6월 오스틴 로보택시 런칭에서 Tesla가 보여준 전략이 이를 명확히 드러낸다. Tesla는 사이버캡이 아닌 모델 Y로 서비스를 시작했다. 양산 지연이나 법적 문제 때문이 아니라, 처음부터 의도된 선택이었다. 로고부터 일러스트, 사진, 영상까지 모든 프로모션이 모델 Y 주니퍼에 집중되었다. 사이버캡은 흥미와 기대치를 높이는 장치이고, 본 서비스의 시작은 이미 수백만 대가 도로 위에 존재하는 모델 Y부터 하겠다는 장기 브랜딩 전략이다.

이 전략의 핵심은 당장 로보택시 서비스 매출을 내는 것이 우선순위가 아니라는 점에 있다. Tesla가 만들어낸 플라이휠은 이렇게 작동한다. 로보택시 런칭이 화제가 되면, 사람들은 자연스럽게 궁금해한다. "로보택시 보러 왜 텍사스까지 오냐. 네 차로 해라. 하루에 3달러면 된다." 로보택시의 존재 자체가 FSD 구독의 가장 강력한 광고가 되는 구조다. 하루 3달러라는 가격이 "로보택시를 소유하는 비용"으로 재프레이밍되는 순간, FSD 구독은 비용이 아니라 투자가 된다. 이 구독자들이 매일 FSD를 사용하면서 쌓는 경험과 데이터는 다시 시스템을 개선하고, 개선된 시스템은 더 많은 구독자를 끌어들인다.

더 나아가, "내 차가 곧 돈을 벌어다 줄 수 있다"는 기대감은 차량 판매 자체를 가속시킨다. 실제로 모델 Y 주니퍼의 주문 대기가 1년을 넘어서고 있다. 이것은 단순한 차량 판매가 아니라, 미래의 로보택시 네트워크 노드를 고객의 돈으로 전 세계에 배치하는 것이다.

사업의 확장을 결정짓는 임계점은 종종 기술 그 자체가 아니라, 기술이 시장과 만나는 방식에서 결정된다. Tesla의 로보택시 하드웨어는 이미 전 세계 고객의 주차장에 주차되어 있다. 규제가 풀리고 기술적 검증이 끝나는 날, Tesla는 새로운 차를 단 한 대도 찍어내지 않고도 OTA 소프트웨어 업데이트만으로 수백만 대의 로보택시 군단을 즉각 가동할 수 있다. 연간 200만 대 이상의 차량을 찍어내는 기가팩토리 시스템까지 감안하면, 하드웨어 보급 속도에서 이미 타의 추종을 불허한다.

현 시점에서 Tesla의 FSD 경험이 "감시"에 가깝다는 지적은 옳다고 생각한다. 다만 그 "감시"의 경험이 수백만 명에게 매일 누적되고 있다는 사실, 그리고 그 누적이 FSD 구독 - 차량 판매 - 네트워크 확장이라는 자기 강화 루프를 만들어내고 있다는 사실을 함께 읽어야 한다.

In the End, Whoever Permeates Daily Life Wins

엘리베이터 역사가 Lee Gray는 당시를 이렇게 회고했다. 자동 엘리베이터는 기술적으로 완벽했지만, 사람들은 여전히 "어디에 오퍼레이터가 있냐"고 물었다고. 80년이 지난 오늘, 우리는 엘리베이터에 탈 때 한 번도 "이 기계를 신뢰할 수 있는가"를 묻지 않는다. 신뢰가 의식의 표면에서 사라진 것이다. 이것이 진정한 의미의 기술 채택이다.

자율주행이 이 지점에 도달하려면, 기술이 완벽해지는 것만으로는 부족하다. 기술이 일상의 배경으로 스며들어야 한다. 그리고 그 스며듦의 속도는, 기술적 완성도보다는 얼마나 많은 사람이 얼마나 자주 이 기술에 노출되느냐에 의해 결정된다.

누가 더 화려한 데모를 보여주느냐, 누가 더 많은 센서를 달았느냐는 부차적인 질문이다. 진짜 질문은 하나다. 누가 더 많은 사람의 일상에, 더 자연스럽게, 더 깊이 스며들어 있는가. 앞으로 다가올 로보택시 시장은 누가 더 뛰어난 기술을 가졌느냐가 아니라, 누가 이미 우리 집 차고에 들어와 있느냐에 의해 결정될 것이다.