아크로매쓰

1. 몬티 홀 문제란?

몬티 홀 문제는 '몬티 홀'이라는 미국/캐나다 TV 프로그램 사회자가 진행하던 미국 오락 프로그램 《Let's Make a Deal》에서 유래한 확률 문제이다.

‘당신이 한 게임 쇼에 참여하여 세 문들 중 하나를 고를 기회를 가졌다고 생각해 봐라. 한 문 뒤에는 자동차(당첨)가 있으며, 다른 두 문 뒤에는 염소(꽝)가 있다. 만약 당신은 1번 문을 골랐다고 하면, 문 뒤에 무엇이 있는지 아는 사회자는 염소가 있는 3번 문을 열어 당신에게 보여 준다. 그리고 그는 당신에게 "2번 문으로 선택을 바꾸겠습니까?"라고 묻는다. 이때, 당신의 선택을 바꾸는 것이 더 유리한가?’

이것이 몬티홀 문제인데, 몬티 홀 문제는 일반적으로 다음의 룰을 통해 진행된다. 

1. 문 3개가 있는데 한 문 뒤에는 자동차가 있고 나머지 두 문 뒤에는 염소가 있다. 참가자는 이 상황에서 문을 하나 선택하여 그 뒤에 있는 상품을 얻는다.

2. 참가자가 어떤 문을 선택하면 사회자는 나머지 두 문 중에 염소가 있는 문 한 개를 열어 참가자에게 그 문에 염소가 있다고 확인시켜 준다.(자동차가 있는 문은 열지 않는다.)

3. 그 후 사회자는 참가자에게 선택한 문을 닫혀 있는 다른 문으로 선택을 바꿀 기회를 준다.

대부분의 사람들의 직관적인 생각에서는 선택을 바꾸든 바꾸지 않든 확률은 똑같이 1/2일 것이다. 덧붙여 대부분의 사람들은 비슷한 상황에서 그냥 원래 선택을 유지하는 경우가 많다. 심리학적으로 따지면 사람은 이득보다 손해에 민감하게 반응하므로, 괜히 바꿨다가 원래 선택한 문에 승용차가 있었으면 억울하기 때문이다. 하지만 이 상황에서는 선택을 바꾸는 것이 확률적으로 유리하다.

2. 바꾸는 것이 더 유리한 이유

그 이유는 조건부 확률이 적용되기 때문이다. 즉, "사회자는 자동차와 염소가 어떤 문에 있는지 알고 있다"는 조건과, 이에 따라 "사회자가 자동차가 있는 문을 여는 일은 발생하지 않는다"는 조건이 실제 확률에 영향을 미치기 때문이다.

이 문제의 트릭은 사회자가 염소 문을 하나 열고 당신이 선택한 문을 바꾸는 행위가 사실은 염소 확률과 자동차 확률을 뒤바꾸는 행위라는 점이다.

당신이 선택을 바꾼다고 가정할 때, 첫 번째 선택에서 염소를 고르고 선택을 바꾸면 차를 고르게 되고, 첫 번째에 차를 고르고 선택을 바꾸면 염소를 고르게 된다. 하지만 선택을 바꾸지 않는다고 가정하면, 첫 번째 선택에서 염소를 고르면 그대로 염소를 고르게 되고 첫 번째에 차를 고르면 그대로 차를 고르게 된다.

첫 번째 선택에서 당신이 염소가 있는 문을 고를 확률은 2/3이고, 차가 있는 문을 고를 확률은 1/3이다. 따라서 선택을 바꾸게 되면 염소가 있는 문을 고를 확률인 2/3가 차를 고를 확률로 바뀐다. 선택을 바꾸지 않으면 우리는 차가 있는 문을 고를 확률인 1/3을 그대로 가져가게 되는 것이다. 따라서 선택을 바꾸는 것이 더 유리하다.

3. 확률을 구하는 증명

당신이 문1을 선택했을 때, 진행자는 문3을 열어 염소를 보여 주었다고 하자. 그러면 자동차는 출연자가 선택한 문1에 있든지 아니면 문2에 있든지 둘 중에 하나이다.

먼저, 자동차가 문1에 있을 확률을 P(A), 진행자가 문3을 열 확률을 P(B)라고 하자. 이 상황에서, 선택한 문1에 자동차가 있을 확률은 얼마일까? 진행자가 문3을 열었을 때 자동차가 문1에 있을 조건부확률 P(A│B)은 다음과 같다.

여기에서 P(B│A), 즉 자동차가 문1에 있을 때 사회자가 문3을 열 확률은 진행자가 문2를 열 수도 있고 3을 열 수도 있으므로 값이 1/2이다. 또한 P(A)는 진행자가 문을 여는 행위와 상관없이 문1에 자동차가 있을 확률이므로 1/3이다. 진행자가 문3를 열 확률 P(B)는 당신이 문1을 선택했으므로 1/2이다. 따라서 아래와 같이 된다.

다시 말해서 문1에 자동차가 있을 확률은 1/3이다.

그러면 이 상황에서, 선택하지 않은 문2에 자동차가 있을 확률은 어떨까? 문2에 자동차가 있을 확률을 P(C)라고 하고 위와 마찬가지로 아래 식을 계산하면 된다.

여기서 P(C)는 1/3이고, P(B)는 1/2이다. 자동차가 문2에 있다면 출연자가 문1을 이미 선택했으므로 진행자는 문3을 선택할 수밖에 없다. 따라서 경우의 수가 1이므로 P(B│C), 즉 문2에 자동차가 있을 때 진행자가 문3을 열 확률은 1이다.

따라서 아래와 같이 된다.

따라서 문2에 자동차가 있을 확률은 2/3이므로 선택을 바꾸는 것이 더 유리하다.

4. 몬티 홀 문제와 행동 경제학

몬티 홀 문제는 인간이 합리적 선택을 한다는 전통 경제학의 가정의 허를 찌르는 사례로 유명하다. 전통경제학(주류 경제학)에 따르면, 인간은 합리적이고 이성적인 존재이므로 언제나 자신의 이익을 위해 행동하므로 이러한 인간이 몬티 홀 문제를 풀면 사람들은 모두 선택을 바꾸어야 한다. 그러나 대부분 사람들은 전통경제학의 논리와는 달리 선택을 바꾸지 않는다. 이러한 현상을 설명하는 것이 바로 행동경제학이다. 행동경제학은 인간의 실제 행동을 심리학, 사회학, 생리학적 견지에서 바라보고 그로 인한 결과를 규명하려는 경제학의 한 분야다. 몬티 홀 문제는 이 행동경제학의 순기능을 수학적으로 접근한 예시이다.

행동경제학은 주류 경제학의 ‘합리적인 인간’을 부정하는 데서 시작하지만, 그렇다고 인간을 비합리적 존재로 단정 짓는 것은 아니다. 다만 온전히 합리적이라는 주장을 부정하고, 이를 증명하려는 것이 행동경제학의 입장이다. 경제주체들이 제한적으로 합리적이며 때론 감정적으로 선택하는 경향이 있다고 주장한다. 몬티 홀 문제에서는 사람들이 이익보다 손해에 민감하게 반응하는 심리적인 요인이 사람들이 비합리적인 선택을 하도록 만든 것이다.

이렇게 행동경제학은 이성적인 결정도 감정적 영향을 받는다는 것을 주장하며 기존 전통경제학이 설명하지 못했던 다양한 인간과 행동의 심리를 설명해 냈으며, 이를 이용해 주식 시장이나 판촉 마케팅을 비롯한 다양한 분야에서 보다 더 합리적인 전략을 세울 수 있게 되었다.

5. 느낀 점 및 알게 된 점

처음에 이 문제를 봤을 때는 당연히 바꾸든 말든 상관없을 테니 선택을 바꾸지 않는 편이 더 나을 거라고 생각했다. 하지만 보편적인 사람의 직관과는 아예 다른 결과가 나오며, 또 그 직관과는 다른 결과가 수학적으로 증명이 가능하다는 점이 신기하게 느껴졌다. 또한 몬티 홀 문제를 통해 행동경제학이라는 것에 대해서 새롭게 알게 되었고, ‘경제주체들이 제한적으로 합리적이며 때론 감정적으로 선택하는 경향이 있다’는 이 심리학적인 주장이 수학과 관련이 있다는 점이 흥미로웠다.