게임 이론

• 이 문서의 초판은 한 국제정치학 전공서를 주요 참고자료로 사용했다.

게임 이론(Game Theory)은 아쉽게도 여러분이 좋아하는 그 게임은 아니고 수학적 도구를 사용해 이해당사자들의 전략을 분석하여 상호작용을 예측하는 것을 목표로 하는 이론이다. 대충 말하자면 '필승전략' 같은 거 연구하는 분야라고 보면 된다. 물론 '내가 이기기 위해' 연구하는 게임 필승 전략이랑은 좀 다르고, 이 '게임'이 어떻게 돌아가나, 참가자들이 어떤 상황에서 어떤 전략을 사용해 어떤 결과가 나오나, 이런 것들을 연구한다. 대표적인 예로는 '죄수의 딜레마' 모델이 있다. 주로 경제학이나 국제정치학 같은 사회과학 분야에서 사용된다.

개요

현재 게임 이론은 국제/국내 정치에서 이해당사자들이 어떤 전략을 사용해 상호작용할 것인지를 이해하는 데 있어 가장 좋은 수단이라는 평가가 있다. 게임 이론은 기본적으로 수학적 모델이며, 그 목적은 전략적 상호작용(strategic interaction)을 분류, 분석하는 데 있다. 그리고 바로 그 전략적 상호작용은 수많은 사회 현상의 중심에 있다. 경제적 관계라든지, 정치적 관계라든지, 아니면 이름값 진짜 게임 플레이라든지.

게임 이론의 갈래는 여러가지 방법으로 나눌 수 있지만, 그 중 하나는 '협조적'(cooperative) 게임 이론과 '비협조적'(noncooperative) 게임 이론으로 나누는 것이다.

• 협조적 게임 이론

여기서는 참여자들 사이에 약속이 성립될 수 있고, 이 약속에 구속력이 있다고 가정한다. 이 모델은 당연하게도 약속을 어기는 것이 영 좋지 않은 결과로 이어지는 경우나, 게임의 규칙이나 하여간 모종의 이유로 '약속이 지켜지는' 상황에 유용하다. 국내 정치, 경제적인 경우라면 철컹철컹 법률의 철퇴라는 것이 있어서 상당히 유용하지만, 애석하게도 국제 정치에는 그런 경우가 없다시피하다.

• 비협조적 게임 이론

이 경우는 참여자들이 자기에게 이익이 되는 경우에만 협력하는 더러운 놈들인 상황을 가정한다. 아무리 진실된 약속을 맺었어도 '선택의 때'가 왔을 때 그 약속이 하등 도움이 되지 않는다면 다들 가차없이 약속을 어기는 것이다. 따라서 여기서는 행위자들이 어떤 선택을 함으로써 얻게되는 이익이 무엇인지를 중시한다. 물론 그 선택에는 뒤통수 때리기도 들어 있다(...). 자연히 비협조적 게임에서는 밑장빼기나 감시 문제에 초점이 맞춰지게 된다.

추가로 여러분이 좋아하는 그런 게임들을 다루는 조합론적 게임 이론도 있다.

일반형 게임

일반형(normal form) 게임은 행렬을 통해 나타낼 수 있는 게임으로, 선택에 따른 보상과 비용이 나타나 있지만 게임의 진행 과정은 나타내지 않는 형태를 취한다. 일번형 게임에서 게임 진행 순서는 그냥 알려져 있지 않다고 간주하거나, 동시에 움직인다고 가정한다.

죄수의 딜레마

흔한 죄수의 딜레마 행렬

죄수의 딜레마는 아마 게임 이론의 다양한 경우 중에서도 가장 유명한 축에 들 것이다. 죄수의 딜레마는 두 명의 참가자가 각각 두 개의 선택지를 갖고 있는 상황이다. 표로 나타내보자면 이렇다.

	B 협력	B 배신
A 협력	상, 상	통, 유
A 배신	유, 통	벌, 벌

예를 들어 A가 협력을 택하고, B가 배신을 택한다면 A는 뒤통수를 맞고(통), B는 배신을 때리게 된 유인(유)을 얻게 된다. 또 A와 B가 모두 협력을 택했을 경우는 둘 다 상을 받으며, 둘 다 배신했을 경우는 벌을 받는다. 여기서 보상의 크기가 유>상>벌>통인 상황일 때 죄수의 딜레마 게임이 성립한다.

적용

대표적인 죄수의 딜레마 상황을 인용하면 다음과 같다.

어떤 범죄가 물적 증거는 없고 오직 범인의 자백에 의해서만 죄를 입증해야 하는 상황에서 범죄를 함께 저지른 것으로 의심되는 두 명의 용의자(A, B)가 검거되어 심문을 받게 되었다고 하자. 두 사람은 친구이기에 서로 의사를 교환할 수 없도록 따로 떨어진 곳에서 각자 심문을 받는다. 심문을 맡은 검사는 두 용의자에게 다음과 같은 동일한 제의를 한다. 
 “만약 당신이 범죄에 대해 부인을 하고 당신 친구가 자백한다면 당신은 10년형에 처해질 것이고 당신 친구는 협조를 하였기에 방면할 것이오. 그리고 당신과 당신 친구 모두가 자백한다면 5년형에 처해질 것이오. 반면 두 사람 모두 범죄를 부인하고 버틸 경우 두 사람은 과거 당신들이 저지른 범죄를 재수사하여 2년형에 처해지도록 만들겠소." (출처)

이 때 우리의 '합리적인' 용의자들은 어떻게 행동할 것인가? 일본을 공격한다. 설명을 위한 가정일 뿐이니까 자백만으로는 유죄 선고를 때릴 수 없다는 점은 쿨하게 넘어가자.

둘 다 2년만 살아도 되도록 둘 다 범행을 부인하면 좋겠지만, 답은 '둘 다 자백을 하고 사이좋게 망한다'이다.

이유는 이렇다. 당신이 A라고 가정해보자. 먼저 자백을 한다면 어떻게 될까. B가 당신 마음도 모르고 자백해버린다면 당신은 5년형에 처해진다. 하지만 고맙게도 혐의를 부인해준다면 당신은 풀려난다. 사람 마음은 알 수 없으므로 쿨하게 자백한다/안 한다 각각 확률이 50%라고 보자. 그렇다면 당신이 자백했을 때의 기대 형량은 2.5년이다.

반대로 혐의를 부인한다면 어떨까? 망할 B가 자백한다면 당신은 10년형에 처해진다. 반대로 부인한다면 2년형이 전부다. 위와 같은 방법으로 계산하면 기대 형량은 무려 6년이다!

따라서 당신은 당연히 기대 형량이 낮은 쪽, 즉 자백하는 쪽을 선택할 것이다. 그리고 이는 B 또한 마찬가지라서 괘씸한 B도 자백을 하고, 당신(A)과 B 둘 다 5년형을 선고받아 사이좋게 망하는 것이다! 분명 당신도 B도 합리적인 선택을 했는데(기대형량이 낮은 쪽을 선택했으니까), 전체적으로 보았을 때는 전혀 합리적이지 않은 결과가 나와버린 것이다. 가장 합리적인 결과는 둘 다 범행을 부인하고 둘 다 2년형만 받는 것이니까 말이다.

지배전략과 파레토 효율

지배전략(dominant strategy)은 'B가 뭘 하든지 뒤통수 때리는 것이 이득'인 현 상황에서 '뒤통수 전략'을 말한다. 즉 B의 선택에 관계 없이 무조건 가장 좋은 선택지를 뜻한다(물론 그것이 존재할 경우다). 둘이 협력했으면 더 좋은 결과가 나왔을 텐데, 그러지 못해 시망해버린 이런 상황을 '파레토 열등'(Pareto inferior)라고 한다. 누구도 손해를 보지 않으면서 합리적인 행동의 변화를 가져올 수 없는 상황이다.

반대의 경우는 '파레토 최적'(Pareto optimality), 혹은 '파레토 효율'(Pareto efficient)이라고 부르는 상황이다. 이 경우는 '누구도 손해를 보지 않으면서 최소한 한 명은 수혜를 보는' 상황이 된다. 예를 들면 이런 경우가 있다.

어느 여름, 편의점에서 캔콜라 1+1 행사가 진행중이다. 식사 후 친구와 주변을 걷다가 목이 말라진 나는 편의점에서 캔콜라를 사 마시기로 했다. 하지만 나는 콜라 한 캔만 겨우 마실 수 있을 정도로 배가 부른 상태이다. 마침 친구도 목이 마른 상황이다. 그래서 나는 이벤트로 받은 콜라 한 캔을 친구에게 넘겨준다. 나는 콜라 한 캔 가격으로 콜라 한 캔(=내게 충분한 양)을 마셔서 기분이 좋고, 친구는 공짜로 콜라 한 캔을 마셔서 기분이 더 좋다! 해피엔딩! 아 물론 더치페이로 둘 다 반 캔 값에 한 캔을 마실 수도 있다. 그래도 개이득! 

그런데 많은 국제정치학적 관점에서는 국제정치는 애석하게도 파레토 열등이라고 본다. 즉, 국제정치는 무정부 상태(anarchy)라는 것이다. '뒤통수 전략'이 더이상 지배전략이지 않게 해줄, 즉 비협력적 게임을 협력적 게임으로 전환시켜줄 초국가적 권위(supranational authority)가 부재한다고 보기 때문이다.

한편 게임 이론에서 다루는 많고 많은 종류의 게임들 중에는 지배전략이 존재하지 않는 것도 많다.

이 지옥같은 상황을 빠져나가는 법, 내쉬 균형

그래도 탈출구는 있다. 뭐 엄밀히 말하면 게임의 규칙을 바꿔버리는 것이지만. 서두에서 말한 게임 이론의 두 갈래는 '(협력) 약속을 지키게 하는 구속력이 있는가'를 기준으로 갈린다. 즉 소통(약속)이 전제된 상황이다. 그렇다. 두 용의자가 상호 소통을 할 수 있도록 하면 되는 것이다. 이 상황을 협력적 게임으로 가정한다면, 혹은 두 용의자가 좋은 친구들이라면, 둘은 범행을 서로 부인하고 우리는 해피 엔딩을 만끽할 수 있을 것이다. 비협력적 게임이라면 꿈도 희망도 없는 경우가 펼쳐질지도...

그런데 그것이 실제로 일어나서 비협력적인 게임이라고 본다면 어떨까? 답은 존내 쉬운 수학의 저자인 존 내쉬가 고안한 '내쉬 균형'(Nash equilibrium) 상태를 만드는 것이다. 내쉬 균형은 '자기 혼자만 전략을 바꾸는(즉 뒤통수를 때리는) 것을 통해서는 어떤 참여자도 일방적인 이익을 얻을 수 없는 상황'을 말한다.

내쉬 균형을 위해서는 먼저 자신의 전략을 수립하는 것이 중요하다. 즉, B의 행동에 따라 자신이 행동할 방침, 즉 전략을 정하는 것이다. B가 자백하면 나도 자백하고(우린 이런걸 물귀신 작전이라고 부른다), B가 부인하면 나도 부인한다든지. 물론 B의 입장에서 역지사지로 생각해볼 수도 있다. 하여간 이를 위해서는 나와 B가 합리적으로 이기적인 존재로 가정되어 있어야 한다는 부가조건이 붙는다. 또 추가로 이 상황이 여러번 반복되어야 한다. 그저 1회로 끝나버리는 상황이라면 내쉬 균형은 성립할 수 없게 된다.

전개형 게임

흔한 전개형 게임의 예

전개형(extensive form) 게임은 나무 모양의 수형도 모형으로 표현되며, 보상과 비용뿐만이 아니라 게임의 진행 과정도 나타낸다.

전개형 게임의 '나무'는 의사결정마디(decision node)들로 구성되어 있다. 각각의 의사결정마디에서 참여자들은 한 행동을 취해야 한다. 간단히 말해 턴제 게임에서 각 턴을 의미하는 거라고 보면 된다. 아 이제 좀 익숙한 얘기가 나왔군. 한 의사결정마디와 그 다음 단계를 이어주는 것은 가지(branch)라고 부른다. 의사결정마디에 연결되는 것은 또다른 의사결정마디나 종결마디(terminal node)뿐이다. 종결마디는 물론 게임 오버하는 지점. 참여자의 선택에 따라 그 게임 오버는 해피엔딩일 수도, 배드엔딩일 수도 있고, 어쩌면 근육 엔딩일지도 모른다.