'공차(tolerance)'를 줄이기 위한 천재들의 집념

[CAPA BOOKS] <완벽주의자들(The Perfectionist)>

반도체의 세계에서는 지금도 더 작아지기 위한 경쟁이 치열하게 진행되고 있다. 바꿔 말하면 더욱 정밀하게 만들기 위한 경쟁이다. 인텔의 공동 설립자인 고든 무어가 "주요 전자부품의 크기는 해마다 절반으로 줄고 연산 속도와 능력은 2배가 될 것"이라고 예측한 '무어의 법칙'은 자명한 현실이 됐고, 최신 기술은 반도체칩 내 1㎟의 공간에 트랜지스터 1억개를 넣을 수 있는 수준에 이르렀다. 정밀성이 원자 단위 수준으로 좁혀지면서 조만간 더이상 정밀하게 만들 수 없는 한계에 다다를 것이란 전망도 나온다. 

더 정밀한 물건을 만들고자 하는 인간의 노력이 종점에 다다르고 있다면, 인간이 정밀성을 추구하게 된 시작점은 어디일까? 역사적으로 어느 시점에 정밀성이 탄생했다고 '정밀하게' 말하는 것이 가능한 것일까?  

<완벽주의자>의 저자 사이먼 윈체스터(Simon Winchester)는 “정밀성(precision)은 현대를 가능하게 하는 현대성의 필수 요소였다”며 정밀성의 역사에는 명확한 시작이 있다고 단언한다. 그 시작은 바로 1776년 5월의 어느 날, 영국 웨일스에서 비롯됐다는 것이다. 윈체스터에 따르면 현대적인 의미의 정밀성의 탄생은 필연적으로 결국 기계의 탄생, 산업혁명을 촉발한 ‘증기기관의 탄생’과 맞물려 있다.   

산업혁명 이끈 증기기관, '아이언 매드' 없이는 불가능

역사는 인류의 삶을 획기적으로 바꿔놓은 산업혁명이 제임스 와트(James Watt)가 발명한 증기기관에서 촉발되었다고 거의 예외 없이 말한다. 다만, 대부분의 천재들처럼 제임스 와트는 증기기관의 원리를 처음 발견한 사람은 아니다. 그보다 반세기 이상 앞서 토머스 뉴커먼 등이 증기를 이용해 물을 퍼내도록 고안한 양수기가 영국의 탄광 등지에서 널리 사용되고 있었다.  

뉴커먼의 양수기는 증기기관과 마찬가지로 물이 증기로 변할 때 부피가 1700배나 늘어나는 현상을 이용했다. 하지만 증기기관이라 하기엔 지나치게 비효율적이었다. 제임스 와트는 이 기관을 보다 효율적으로 만들 수 있다고 확신하고, 실제로 증기를 이용한 엔진을 훨씬 효율적으로 만들 수 있는 설계를 완성, 시제품까지 만든 뒤 특허를 취득했다. 특허명은 ‘화력 엔진의 증기와 연료 소비를 감소하는, 새로 발명한 방법’이었다.  

당시엔 생소했던 특허까지 확보했건만 현실에서 실제로 사용할 만한 크기의 증기기관을 만드는 것은 또다른, 아니 전혀 다른 차원의 도전이었다. 와트는 자신의 구상대로 증기기관을 제작했지만 ‘단조’ 방식으로 만든 실린더와 피스톤 사이 틈새를 통해 뿌옇게 새어나오는 증기를 막을 도리가 없었다. '옥에티'라기엔 너무도 막중한 이 틈을 막아보고자 코르크나 고무 조각을 넣고, 말똥까지 발라봤지만 소용이 없었다. 당시의 기술 수준으로 와트의 이상을 구현할 만큼 정밀한 기계를 만들어내기란 요원한 일이었다.

해결의 실마리는 웨일스 출신의 발명가 존 윌킨슨(John Wilkinson)에게서 나왔다. 웨일스에서 규모가 큰 주조소를 운영하며 각종 굴대, 파이프, 총 등을 제조했던 그의 별명은 ‘아이언 매드’(Iron-Mad, 철에 미친)였다. 특히 그는 ‘철제 총기나 대포의 주조와 타공 신기술’이라는 특허를 통해 당시 영국의 대포 제조방식을 획기적으로 개선했다.

핵심은 그 당시 대포의 포신을 속을 비운 상태로 주조했던 것과 달리, 속을 채운 채로 포신을 주조했다는 점이다. 이후 현대의 CNC 선반 가공을 할 때처럼 포신을 회전시키면서 날카로운 타공(打孔) 기계를 이용해 내부를 파내는 방식을 사용했다. 이 과정이 몹시 정밀했기 때문에 윌킨슨이 제조한 대포에서 발사한 탄환은 당시의 여타 대포처럼 툭하면 폭발하거나 궤도를 이탈하는 일 없이 정확하게 군(軍)이 겨냥하는 대로 날아갈 수 있었다.

우연히 제임스 와트가 개발 중인 엔진을 접한 윌킨슨은 즉각 과도한 증기 배출의 문제점을 알아챘고, 단숨에 해결책까지 마련했다. 대포를 만드는 것과 같은 방식으로 철 덩어리를 주조한 뒤 지름이 90㎝에 달하는 대형 철제 절삭 도구를 이용해 피스톤과 꼭맞는, 증기가 새어나갈 '틈'이 없는 실린더를 만들어낸 것이다.

윌킨슨은 대포와 달리 증기기관에 적용한 기술에 대해선 특허를 신청하지 않았다고 한다. 오늘날 거의 모든 역사 교과서에 실려 익숙해진 제임스 와트와 달리, 존 윌킨슨이란 이름이 일부 공학자들 사이에서만 '정밀성의 아버지'로 알려졌을 뿐 대부분의 사람들에겐 생소한 이유다.

와트는 윌킨슨에 대해 이렇게 기록했다고 한다.

"윌킨슨씨가 지름 50인치(1.27미터) 짜리 실린더 몇 개를 거의 오차 없이 천공해 주었다...
모든 부분의 오차가 옛날 1실링 동전 두께 미만이었다."

여기서 말하는 옛날 1실링 동전의 두께는 0.1인치(2.54mm)였다. 존 윌킨슨이 산업혁명의 씨앗이 된 제임스 와트의 증기기관에 사용된 실린더를 가공할 때 적용한 허용 오차이자 인류가 정밀성을 향해 내디딘 첫 걸음이다.

포드 VS 롤스로이스, 어느 쪽이 더 정밀할까

자동차 산업이 태동하던 20세기 초, 공교롭게도 미국과 영국에서 각각 헨리라는 이름을 가진 이들이 두각을 나타냈다. 헨리 포드(Henry Ford)와 헨리 로이스(Henry Royce)다.

미국의 헨리는 모델 T라는 자동차 역사상 최초의 베스트셀러를 탄생시키며 자동차의 대중화에 기여했다. 영국의 헨리는 자동차에 관심이 많았던 귀족이자 훌륭한 세일즈맨이었던 찰스 롤스와 손을 잡고 최고급 수제 자동차이자, 품질의 대명사가 된 롤스-로이스(Rolls-Royce)를 탄생시켰다.

그렇다면 포드와 롤스-로이스 가운데 어느 쪽이 더 정밀성을 추구했다고 봐야 할까? 아래 내용은 누구를 묘사하는 것일까.

처음부터 그는 자신의 자동차 제조 공장에서는 줄로 다듬는 작업을 아무것도 하지 않겠다고 주장했는데, 차에 사용하는 모든 부분, 부품, 조각이 이미 정밀하게 마감되어 도착했기 때문이다. 각 부품은 정확한 규격의 허용 오차에 맞추어져서 더 이상 섬세하게 조절하지 않아도 서로 정확히 맞았다. <완벽주의자들> 211P

여기서 그는 헨리 포드를 말한다. 저자는 "사실, 정밀성은 전 세계의 포드 공장들에서 쏟아내는 더 저렴하고 덜 복잡하고 기억에 덜 남는 차를 만드는 데 훨씬 더 중요했다. 이유는 간단하다. 생산 라인들에 호환 가능한 부품들이 무한히 공급되어야 했기 때문"이라고 말했다.

포디즘이라고 불리는, 컨베이어 벨트를 이용한 생산방식이 가능했던 것은 누구든지 쉽게 부품을 조립할 수 있는 환경이 조성되었기 때문이다. 이 때 부품이 하나라도 정확하지 않게 생산돼 제때 조립되지 않으면 조립 라인은 멈춰서게 된다.

달리 말해, 정밀성은 인정 없는 독재자 같은 생산 라인이 계속되기 위한 필수 요소다. 하지만 수제 자동차의 경우 전면적인 정밀성은 선택 사항이다. 제작 과정이 처음부터 모든 부품이 정밀하게 제작되는 것에 의존하지 않기 때문이다. 아이러니한 점이 남는다. 롤스로이스는 비싸고 배타적으로 맞수가 없는 무결점 차량으로 오랫동안 명성을 누려 왔지만 제작의 모든 단계에서 절대적인 정밀성을 요구하지는 않았다.
반면 모델 T에게 정밀성은 완전히 필수 요소다. 정밀성이 없으면 그 차는 제조되지 않는다.

<완벽주의자들> 217p

이처럼 현대적인 의미의 정밀성은 호환성을 의미한다. 즉, 어떤 부품을 갖다 쓰더라도 서로 호환될 수 있는 상태, 이것이 정밀성이 추구하는 중요한 목적이라 할 수 있다. 저자는 “정밀성이 현재부터 미래까지 인간 사회를 완전히 바꾸는 현상이 되려면 복제 가능한 형태로 만들어져야 한다”며 “정확히 똑같은 물건을 상당히 쉽고 합리적인 빈도와 비용으로 반복해서 제작할 수 있어야 한다”고 말한다.

정밀공학을 논할 때 스웨덴의 카를 에드바르 요한손은 빼놓을 수 없는 인물로 꼽힌다. '계측의 거장'으로 불리는 그는 완전히 평평한 경화강으로 만든 정밀한 측정 도구 세트인 게이지 블록(혹은 슬립 게이지)을 발명했다. 게이지 블록은 그의 이름을 따 요한손 게이지, 줄여서 요 블록이라고도 부른다. 게이지 블록을 이용하면 1000분의 1밀리미터의 정밀성으로 2만 가지를 측정할 수 있다고 한다.

동시대를 살았던 헨리 포드는 요한손을 설득해 처음엔 미국 내 그의 공장을 포드 본사가 있는 곳으로 옮기도록 했고, 나중엔 아예 요한손의 회사를 인수해 버렸다. 호환되는 정밀한 제품을 만들기 위한 포드의 집념을 보여주는 일화다.

BSW, Jet Engine, GPS, etc

<완벽주의자들>의 원제는 ‘완벽주의자들: 어떻게 정밀성 엔지니어들이 현대 사회를 창조했는가(The Perfectionist: How precision engineers created the modern world)’이다.

위에서 소개한 제임스 와트와 헨리 포드의 사례 외에도 나사산을 계량하는 표준인 BSW(British Standard Whitworth)를 만든 조지프 휘트워스(Joseph Whitworth), 제트 엔진을 발명한 프랭크 휘틀(Frank Whittle), GPS의 선구자 로저 이스턴(Roger Easton) 등의 사례가 소개된다.

흥미롭게도 이 책의 목차는 허용 오차의 크기 순서대로 구성되어 있다. 증기기관을 다룬 첫 장(‘별, 초, 실린더, 수증기’)에서 허용 오차 0.1 수준을 다루는 것을 시작으로 최신 반도체 기술을 소개하는 9장(‘한계를 넘어서)’에 이르러서는 소수점 아래에 0이 무려 34개나 붙는다.

허용 오차를 정해두는 것은 결국 이 제품(부품)이 다른 제품과 잘 어울릴 수 있도록 하기 위해서다. 저자는 “기계로 만든 물체가 사막 가운데에 혼자 있을 거라면 허용 오차는 별 의미가 없다”며 “똑같이 정교하게 가공된 다른 금속 조각에 맞추려면, 해당 조각에 수치나 기하 구조에 있어 차이가 허용되는 범위(허용 오차)가 합의되거나 명시되어야 한다”고 말한다. 제품이 정밀해질수록 허용 오차는 엄격해진다.

제조업계에서 허용 오차는 흔히 공차(公差, tolerance)라고 부른다. 이 책은 결국 공차를 줄이기 위한 천재 엔지니어들의 집념을 역사적으로 추적한 '공차 연대기'라 할 수 있다. 지금도 제조업 현장에서 공차를 줄이기 위해 노력하는 제조업 종사자들의 노력이 인류의 삶을 전과는 다른 차원으로 업그레이드시킨 현대사회의 밑거름이 된 것이다.