민주주의는 다수결 원칙에 의해 지탱된다. 그러나 다수결이 만능인지는 18세기 말 프랑스혁명기에도 논란거리였다. 선택지가 셋 이상이면 다수결 투표가 유권자 선호를 제대로 반영하지 못하기 때문이다. 당시 물리학자 장 샤를 보르다(1733~1799)는 ‘보르다 투표’를 제안했다. 단순 다수결이 아니라 1등에 3점, 2등에 2점 식으로 선호 순위에 점수를 매겨 합산하는 것이다. 지금도 프로야구 MVP는 이런 식으로 가린다.

그러나 보르다 투표도 ‘전략적 투표’에 의해 왜곡될 가능성이 있다. 1위 표를 많이 받은 후보도 반대파들이 낮은 순위 몰표를 던지면 떨어진다. 이에 수학자 피에르 시몽 라플라스(1749~1827)는 과반수 투표를 제시했다. 하지만 후보가 다수일 때는 웬만해선 과반 득표자가 나오기 어렵다.

정치가 겸 수학자 콩도르세(1743~1794)는 후보가 셋 이상일 때 개인의 선호와 전체의 선호가 반드시 일치하진 않는다는 점을 발견했다. 이른바 ‘콩도르세의 역설’ 또는 ‘투표의 역설’이다. 후보 A, B, C에 대한 유권자의 선호가 A＞B, B＞C여도 C＞A가 될 가능성이 있다. 수학적 이행성이 사회에선 안 통할 때도 많다. 콩도르세는 양자 대결 반복을 해법으로 내놨지만 현실적으로 불가능하다.

240년 전에 이미 다수결의 맹점을 고민하던 프랑스의 선거는 1차 과반수 투표와 2차 1, 2위 결선투표를 한다. 라플라스와 콩도르세 방식을 혼합한 것이다. 호주는 독특한 선호투표제다. 후보자 전원에 순위를 매겨 투표한 뒤 1순위가 절반을 넘는 후보가 없으면 최저 득표자의 2순위 표를 나머지 후보에게 더해 과반 득표자가 나올 때까지 반복한다. 재투표가 필요없지만 일일이 순위를 매겨 투표해야 하는 게 단점이다.

결국 어떤 투표도 완벽하진 못하다. 이 때문에 경제학에선 다수결에 의한 합리적 의사결정이 불가능하다고 본다. 투표가 사회적 합리성을 가지려면 만장일치, 선호의 이행성, 대안의 독립성, 비강제성의 원칙에 부합해야 하는데 그런 방법은 없다. 케네스 애로의 ‘불가능성 정리’다. 즉 효율적 의사결정 방식은 민주적이지 못하고, 민주적 의사결정 방식은 효율적이지 못하다는 얘기다.

애로가 엊그제 향년 95세로 별세했다. 1972년 최연소(당시 51세)로 노벨 경제학상을 받은 애로는 서머스 전 미국 재무장관의 삼촌이자 노벨상 수상자인 폴 새뮤얼슨의 처남이다. 그의 제자 중에 노벨상 수상자만도 다섯 명이다. 애로는 민주주의라는 환상에 찬물을 끼얹었지만 아직 더 나은 대안은 안 보인다. 고인의 명복을 빈다.

오형규 논설위원 ohk@hankyung.com