선택을 바꾸는 것이 왜 유리한가? 수학적 증명과 직관의 함정
몬티 홀 문제는 단순한 퍼즐이 아닙니다. 이는 인간의 직관이 확률 계산에서 얼마나 쉽게 오류를 범하는지를 보여주는 결정적 사례입니다. 대부분의 사람들은 “선택을 바꾸나, 유지하나 확률은 1/2로 같다”고 생각합니다. 이것이 바로 함정입니다. 승부의 세계에서 직관에만 의존하는 것은, 상대의 패턴을 분석하지 않고 감으로만 베팅하는 것과 같습니다. 핵심은 진행자(몬티 홀)가 ‘반드시’ 꽝 문을 열어 정보를 제공한다는 ‘룰 메타’를 이해하는 데 있습니다. 그는 무작위로 열지 않습니다. 당신이 처음 고른 문을 제외한 나머지 꽝 문 중 하나를 ‘선택적으로’ 공개합니다. 이 단 하나의 규칙이 전체 확률의 지형을 뒤바꿉니다.
데이터로 증명하는 확률의 재분배: 시뮬레이션의 결론
직관이 아닌 데이터를 믿어야 합니다. 수천, 수만 번의 시뮬레이션은 명백한 결과를 보여줍니다. 선택을 바꾸는 전략의 승률은 약 66.7%(2/3)에 수렴하고, 선택을 유지하는 전략의 승률은 약 33.3%(1/3)에 머뭅니다. 이는 수학적 기대치(Expected Value) 그 자체입니다. 왜 이런 일이 발생하는지 다음의 표를 통해 구조를 분해해보겠습니다.
| 당신의 초기 선택 | 진행자가 열 문 (꽝) | 바꾸지 않을 때 결과 | 바꿀 때 결과 | 해당 시나리오 확률 |
|---|---|---|---|---|
| 자동차 (1/3) | 나머지 꽝 중 하나 | 승리 | 패배 | 33.3% |
| 염소 A (1/3) | 염소 B | 패배 | 승리 | 33.3% |
| 염소 B (1/3) | 염소 A | 패배 | 승리 | 33.3% |
표가 명확히 보여주듯, ‘바꾸지 않아서 승리’하는 경우는 초기에 자동차를 골랐을 때(33.3%) 뿐입니다. 반면 ‘바꿔서 승리’하는 경우는 초기에 염소를 골랐을 때(66.7%)입니다. 진행자의 행동은 단순히 꽝을 보여주는 것이 아니라, 당신이 초기에 염소를 골랐다는 ‘강력한 힌트’를 포함하고 있는 셈입니다. 이는 포커에서 상대의 베팅 패턴으로 그가 가진 핸드의 강도를 역추적하는 것과 논리가 유사합니다.
메타 게임으로서의 몬티 홀: 진행자의 ‘룰’을 해석하라
진정한 승리는 게임의 명시적 규칙을 넘어, 숨겨진 메타(상위 전략)를 읽는 데 있습니다. 몬티 홀 문제에서 가장 큰 오해는 진행자를 ‘무작위적 요소’로 보는 시각입니다. 그는 절대 무작위가 아닙니다. 그의 행동에는 필연성이 깔려 있습니다.
- 진행자는 절대 당신이 고른 문을 열지 않는다: 이는 당신의 초기 선택을 ‘고정 샘플’로 만들어, 확률 재계산의 기준점을 제공합니다.
- 진행자는 절대 자동차가 있는 문을 열지 않는다: 이는 게임을 지속 가능하게 만드는 핵심 룰입니다. 그의 개입 없이 문을 무작위로 열었다면, 확률은 1/2로 수렴했을 것입니다.
즉, 진행자는 ‘당신이 틀렸을 가능성이 더 높다’는 정보를 적극적으로 유출하고 있는 셈입니다. 프로 스포츠에서 상대팀의 수비 진형이 특정 공격수에게 쏠릴 때, 그건 그 공격수가 위협적이어서이기도 하지만, 동시에 반대쪽이 빈 공간(스페이스)이 생겼다는 신호이기도 합니다. 몬티 홀의 행동은 바로 그 ‘빈 공간'(남은 하나의 문)에 주목하라는 신호입니다.
사람들이 빠지기 쉬운 심리적 오류: ‘착각된 독립성’
많은 이들이 “문이 두 개 남았으니 확률은 50대 50″이라고 주장합니다. 이는 각 선택 사건이 ‘독립적’이라고 잘못 가정한 오류입니다, 하지만 두 번째 선택은 첫 번째 선택과 진행자의 개입에 ‘종속된’ 사건입니다. 처음 선택한 문의 확률(1/3)은 진행자가 다른 문을 열었다고 해도 ‘업데이트되지 않습니다’. 대신, 진행자의 행위를 조건으로 남은 문의 확률이 ‘재분배’되는 것입니다. 이는 야구에서 특정 타자의 대 투수 성적이 시즌 평균과 다를 수 있는 것과 같습니다. 전체 평균(초기 1/3)은 존재하지만, 특정 투수(진행자의 정보)를 만났을 때의 기대치는 별도로 계산되어야 합니다.
실전 베팅 및 의사결정에의 적용: 확률 업데이트의 기술
몬티 홀 문제의 교훈은 단순한 퀴즈를 넘어, 정보가 들어왔을 때 어떻게 기존 예측을 ‘업데이트’할 것인지에 대한 프레임워크를 제공합니다. 이는 베이즈 정리의 정신과도 통합니다.
- 새로운 정보는 가치가 있다: 진행자가 문을 열었다는 행위 자체가 ‘무료 정보’입니다. 승률을 높이는 플레이어는 공짜 정보를 절대 외면하지 않습니다.
- 초기 확률을 겸손하게 받아들여라: 당신의 첫 선택이 맞을 확률(1/3)은 생각보다 낮습니다. 모든 게임과 스포츠에서 첫 감(퍼스트 임프레션)에 집착하는 것은 승률을 떨어뜨리는 지름길입니다. 상대의 추가 패턴(진행자의 정보 공개)이 나타났다면, 과감하게 전략을 수정할 용기가 필요합니다.
- 룰의 메타를 파고들어라: 게임의 승리는 규칙 설명서 표면에 쓰여 있지 않습니다. “진행자는 꽝을 연다”는 규칙을 “진행자는 내가 틀렸을 경우, 남은 올바른 선택지를 유일하게 남겨둔다”는 전략적 명제로 해석할 수 있어야 합니다.
결론: 직관은 체크하고, 데이터는 믿어라
몬티 홀 문제는 승률 게임의 본질을 적나라하게 보여줍니다. 감과 직관은 빠른 판단을 돕지만, 종종 시스템적 오류를 일으킵니다. 반면, 수학과 데이터는 차갑지만 정확한 길을 안내합니다. 선택을 바꿔서 66.7%의 승률을 얻는 전략은, 포커에서 기대값이 양수인 핸드에만 베팅하는 원칙과 다르지 않습니다. 단기적으로는 바꿨다가 틀리는 경우도 있겠지만, 이 전략을 수천 번 반복한다면 결과는 데이터가 시사하는 대로 수렴할 것입니다. 승부의 세계에서 운은 일시적인 변수일 뿐입니다. 꾸준한 승리를 보장하는 것은 직관을 의심하고, 규칙을 깊이 해석하며, 새로운 정보에 유연하게 대응하는 데이터 기반의 냉철한 전략입니다. 결국, 확률은 거짓말을 하지 않습니다. 하지만 우리의 직관이 확률을 오해할 뿐입니다.
