몬티 홀 문제

세 개의 문 뒤에 숨겨진 보물찾기에서, 꽝인 문 하나가 열린 뒤 선택을 바꾸는 것이 항상 이득이 되는 신기한 확률 게임이에요.

정의 몬티 홀 문제는 세 개의 문 중 하나에 상품이 있고 둘에는 꽝이 있을 때, 사회자가 꽝인 문 하나를 열어준 뒤 선택을 바꾸면 당첨 확률이 3분의 1에서 3분의 2로 두 배 높아진다는 확률론의 유명한 역설이에요. 우리의 일상적인 직관과 실제 수학적 확률이 얼마나 크게 다를 수 있는지를 극적으로 보여주는 대표적인 사례예요.

퀴즈 쇼의 문과 아리송한 선택

화려한 조명이 쏟아지는 퀴즈 쇼 무대에 굳게 닫힌 문 세 개가 나란히 놓여 있어요. 한 문 뒤에는 멋진 스포츠카가 번쩍이고 있고, 나머지 두 문 뒤에는 시시한 염소가 숨어 있죠. 참가자가 떨리는 마음으로 1번 문을 고르면, 어디에 무엇이 있는지 이미 훤히 알고 있는 진행자가 남은 2번과 3번 문 중에서 염소가 들어 있는 문 하나를 덜컥 열어 보여줘요.

그러고는 참가자에게 미소를 지으며 제안합니다. "마지막 기회입니다. 원래 고른 문을 유지하시겠어요, 아니면 남아 있는 다른 문으로 바꾸시겠어요?" 이때 방청객도 시청자도 모두 깊은 고민에 빠져들어요.

대부분의 사람은 어차피 문이 2개만 남았으니 바꾸든 안 바꾸든 확률은 반반(50%)일 것이라 믿어요. 하지만 실제로는 원래 선택을 고수하면 3분의 1에 불과한 확률이, 문을 바꾸는 순간 당첨 확률이 3분의 2로 두 배나 껑충 뛰어요.

몬티 홀 문제: 선택을 바꾸면 당첨 확률이 1/3에서 2/3로 증가 내 처음 선택 1 확률 1/3 염소 공개 2 꽝 (제외) 바꾸면 당첨! 3 ? 확률 2/3

왜 바꾸는 쪽이 두 배나 유리할까요?

이 기묘한 현상의 비밀은 참가자가 처음에 내린 선택의 확률에 숨어 있어요. 세 개의 문 중에서 처음에 스포츠카를 고를 확률은 3분의 1에 불과하지만, 염소를 고를 확률은 3분의 2나 돼요. 다시 말해 참가자는 세 번 중 두 번꼴로 처음에 염소를 뽑는 셈이에요.

여기서 가장 중요한 열쇠는 바로 진행자가 정답의 위치를 미리 알고 있다는 사실이에요. 진행자는 아무 문이나 마구잡이로 여는 것이 아니라, 참가자가 고르지 않은 문들 중에서 반드시 염소가 들어 있는 문만 골라서 열어줘요.

만약 참가자가 처음에 염소를 골랐다면(3분의 2 확률), 진행자는 남은 다른 염소 문을 열어줄 수밖에 없어요. 그러면 손대지 않고 남아 있는 마지막 문 뒤에는 무조건 스포츠카가 기다리고 있죠. 따라서 문을 바꾸기만 하면 처음에 염소를 골랐던 모든 순간이 전부 당첨으로 뒤바뀌게 돼요.

몬티 홀 문제의 선택 변경 확률 다이어그램 처음 선택: 🚗 자동차 확률 1/3 문 바꾸기 남은 문은 염소 ❌ 꽝 (염소) 처음 선택: 🐐 염소 확률 2/3 (3번 중 2번 발생) 진행자가 다른 염소 문 제거! → 문 바꾸기 남은 문은 무조건 🎉 100% 당첨! 🚗 자동차 획득

조금 더 정확히 말하면 (100개의 문)

여전히 머릿속으로 와닿지 않는다면 문이 100개나 늘어선 거대한 복도를 떠올려 보세요. 1개의 문 뒤에만 최고급 자동차가 있고 나머지 99개의 문 뒤에는 꽝이 들어 있어요. 여러분이 수많은 문 중 1번 문을 콕 집었을 때, 그 문이 당첨일 확률은 겨우 100분의 1이에요.

이때 진행자가 여러분이 고르지 않은 99개의 문 사이를 걸어가며, 꽝이 들어 있는 문 98개를 모조리 열어젖히고 딱 77번 문 하나만 남겨둬요. 진행자는 어디에 정답이 있는지 알기 때문에 꽝만 쏙쏙 골라내어 치워준 거예요.

이제 1번 문과 77번 문만 남았을 때, 77번 문 뒤에 차가 있을 확률은 무려 100분의 99나 돼요. 사회자가 개입해 새로운 정보를 주면서 확률의 판도가 완전히 바뀌는 현상을 수학에서는 조건부 확률이라고 불러요.

🤔 흔한 오해

✕ 오해

문이 2개 남았으니 선택을 바꾸든 안 바꾸든 당첨 확률은 50대 50이다.

✓ 사실

진행자가 무작위로 문을 연 게 아니라 '정답을 알고 꽝만 골라서' 열어주었기 때문에, 참가자가 처음에 틀렸을 확률(3분의 2)이 고스란히 남은 문 하나에 집중돼요.

🧺 일상에서 만나요

1 미국의 유명 TV 퀴즈 쇼 'Let's Make a Deal'의 진행자 몬티 홀의 이름에서 유래했어요.
2 세계에서 가장 아이큐가 높은 사람으로 기네스북에 오른 마릴린 사반트가 잡지에서 이 해법을 소개했을 때 수많은 수학 박사들이 틀렸다며 항의 편지를 보냈지만, 결국 사반트의 설명이 맞았음이 증명되었어요.
💡 그러니까 한마디로

사회자가 꽝을 미리 치워주기 때문에, 선택을 바꾸면 처음에 꽝을 골랐던 3분의 2의 확률이 그대로 당첨 확률로 바뀌어요.