BASEBALLPARK

경제학 이론이 세간에 얼마나 알려졌는지 가늠하는 한 방법은 캠퍼스 게시판에서다. 언젠가 거기서 본 고시용 경제학 강의 광고에는 ‘첨단 게임이론’이란 문구가 들어 있었다. 이제 게임이론도 꽤나 알려진 주제가 되었다. 여기 소개할 책은 고시용 경제학의 최신 분야인 게임이론 중에서도 첨단을 다루는 ‘이타적 인간의 출현: 게임이론으로 푸는 인간 본성 진화의 수수께끼’다.

처음에는 엉성한 교양서가 아닐까 지레 짐작했다. 하지만 우선 저자 이력이 믿음을 주었다. 주류 경제학자들이 인정하는 날카로운 주류 비판을 제기해온 학자들과 공부했고, 이 분야 학제적 연구의 중심지인 산타페연구소에서 책을 저술하였다. 혹 지나치게 가벼운 마음으로 책을 드는 독자에게는 약간의 경고가 필요할 듯하다.

게임이론은 사실 경제학과 독립된 학문이고, 뿌리는 수학이다. 추상적 개념들을 탐구하는 순수수학이나, 자연과학, 공학과 연관된 응용수학에 비해 사회과학을 염두에 둔 수학이란 점이 특이하다. 게임이론은 이름대로 체스 같은 보드게임이나 카지노의 도박게임을 분석하는 데서 시작되었으나, 독자적 학문으로 수립된 시점은 60년 전인 1944년, 폰 노이만과 모겐슈테른의 ‘Theory of Games and Economic Behavior’의 출간에서다. 제목에서 보듯, 경제 현상을 대상으로 삼았고, 궁극적으로 사회과학 전반에 대한 도구가 되고자 했다. 게임이론은 사회('게임') 속에서 영향을 주고받으며 상호작용하는 개인들을 상상한다. 당연히 방법론적 개인주의와 합리성에 기초한 주류 신고전파 경제학이 가장 자연스러운 친구였다.

하지만 요즘 경제학이 가르치는 게임은 대개 폰 노이만의 것이 아니다. ‘뷰티풀 마인드’라는 영화와 책을 통해 유명해진 수학자이자 노벨경제학상 수상자 내쉬, 그의 게임이 주류 경제학을 지배하고 있다. 폰 노이만과 내쉬를 무리하지만 거칠게 비교하자면 분석 단위가 집단이냐 개인이냐이다. 폰 노이만의 협조적(cooperative) 소집단(coalitional) 게임에 비해, 내쉬의 비협조적(noncooperative)이며 전략적(strategic) 게임은 개인들의 사적 이익 극대화를 상정한다. 주류 경제학의 분위기를 아는 이라면 내쉬가 왜 경제학자들의 마음에 들었는지 짐작할 수 있을 것이다.
그런데 본서의 게임은 폰 노이만의 것도 내쉬의 것도 아니다. 물론 책의 부록에는 내쉬의 접근을 중심으로, 평자가 지금까지 본 것 중 가장 간결하면서도 친절한 게임이론 요약이 실려 있다. 그럼에도 본문의 게임은 경제학보다는 진화생물학이 발전시킨 진화게임에 가깝다. 게임이 의식적으로 목적을 추구하는 능동적 개체들 간의 상호작용이라면, 여기서 진화생물학이 등장하는 이유는?

한번 더 무리한 구분을 시도하면, 개인 수준에서 분석하는 내쉬에 비해 진화게임이론은 더 내려가 개인들이 선택하는 ‘전략’의 수준에서 분석한다. 전략은 (유전자처럼) 생존 가능성의 극대화를 목표한다는 데서 생물학과 접목한다. 즉 진화게임이론은 어떤 전략이 장기적으로 살아남는지 궁금해한다. 고도로 합리적인 개인들 간의 경쟁을 탐구한 내쉬 이론이 간혹 어이없는 예측을 내놓는 것에 반해, 진화 게임은 참여자들의 합리성보다는, 장기간에 걸친 사회의 선택을 지켜본다. 본서는 특히 이타성(남에게 이롭되 나에게 해로운 행동을 택하는 성향)이 어떻게 살아남을 수 있는지를 진화게임 관점에서 살펴보고 있다.

본서 머리말에 남들이 쉬운 게임으로 알고 있는 ‘죄수의 딜레마’(이하 ‘딜레마’)를 평생 공부해도 모자랄 것 같다는 저자의 고백이 있다. 책은 딜레마를 기본 도구로 이타성의 출현에 대한 여러 가설들을 검토한다. 사실 딜레마는 웬만한 학부생도 들어는 봤음직한 유명한 게임이다. 본서와 비슷한 시기에 국내에 번역 출간된 폰 노이만의 전기 ‘죄수의 딜레마’(파운드스톤 지음, 박우석 옮김, 양문 刊)에는 이 게임이 처음 고안되었을 때 실험대상이 되었던 연구자들의 일화가 나온다. 딜레마는 개인의 이익을 위해 상대방을 희생시킴으로써 결국 공멸을 택하는 난처한 상황을 묘사한 것인데, 게임의 역사적 시작부터 경제학자는 당연히(!) 이기적 행동으로 상대를 난처하게 만든다(본서에도 소개되듯 경제학을 배운 이들은 더 이기적으로 행동한다고 한다). 딜레마는 사적 이익 추구를 당연시하는 주류 경제학에서는 순진한 비경제학자들을 조롱하는 도구이다. 하지만 본서가 반복해서 지적하듯 세상에는 협동이 존재하고, 이타적 인간들이 존재한다. 이 사실을 경제학자들은 대개 무시하거나, 숨기거나 혹은 모른다. 경제학적 게임이론은 딜레마의 유일한 결과는 모두 배신하는 것이라 말한다. 그러나 현실에 존재하는 협조자들을 어떻게 설명할 것인가.

죄수의 딜레마란? 두 명의 죄수가 따로 심문을 받고 있는데, 둘 다 범죄를 끝까지 부인하면, (다른 사소한 범죄 대가로) 1년씩의 형을 받는다. 반면 한쪽이 자백을 하고 다른 한쪽이 부인하면, 자백한 쪽은 바로 석방되고, 다른 쪽은 7년형의 가중처벌을 받는다. 만약 둘 다 자백하면, 5년씩의 형을 받는다. 이 경우, 두 죄수가 합리적으로 행위하는 사람이라면, 둘 다 자백을 택하게 되고, 그 결과로 최악의 상황(두 사람의 형량을 합쳐 10년)에 처하게 된다. 자기 처지에서 합리적인 행위가 전체로 보면 가장 불합리한 행위가 되는 것이다.

바로 본서에 이에 대한 다양한 탐구가 설명되어 있다. 책 중심부를 차지하는 7장~16장까지 7가지 가설(혈연선택 가설, 반복-호혜성 가설, 유유상종가설, 값비싼 신호보내기 가설, 의사소통 가설, 집단선택 가설, 공간구조효과 가설)이 소개되고 경험적인 증거와 논리적인 타당성이 검토된다.

본서는 주류 경제학의 틀에서 벗어나기를 거부하는 독자에게는 미스테리일 것이다. 한편 진화심리학, 사회생물학을 아는 독자라면(매트 리들리의 저서를 읽어본 정도라면) 평이할 수도 있다. 책은 전문 연구서와 대중 교양서의 중간 쯤 위치한다. 저자는 경제학자이지만 한 학문에 국한할 수 없는 영역을 넓게 담고 있다. 평자의 개인적인 생각에 책을 가장 즐겁게 읽고 많은 것을 얻을 독자는 똑똑한 학부생 내지는 학문에 눈뜨기 시작하는 관련 분야 대학원생일 것이다.

우리 학자가 쓴 책이라 번역서들에 비해 글이 한결 편안하지만, 내용은 대부분 서양 학자들이 서양 문맥에서 진행한 연구라서 번역체 흔적이 있다. 이를 극복하려면 우리 학자들이 우리 사회에 걸맞은 연구 성과들을 내는 것이 유일한 해결책이다. 어쩌면 안일한 방법론적 함정에 빠져 있는 주류경제학의 마을에 새로운 변이가 출현한 셈이다. 이 변이가 유력 대안으로 부상할지 혹은 기존 이론의 ‘진화적 안정성’을 증명하는 데 그치고 말지 흥미진진하게 지켜볼 일이다(※진화적 안정성은 진화게임의 기초 개념으로 쉽게 말해 돌연변이가 출현했을 때 기존 질서를 위협하지 않고 사라지는 상태를 말한다. 자세한 것은 본서를 참고하시길).

필자는 존스홉킨스대에서 ‘대형 게임과 독점적 경쟁: 균형의 존재, 연속성 및 다양성’으로 박사학위를 받았다. ‘지나친 제품 다양성의 문제: 독점과 복점의 비교’, ‘벤처 재도약을 위한 시장과 정부의 역할’ 등의 논문이 있다.