게임 이론과 가위바위보
내시 균형, 혼합 전략, 베이즈 추론. 가장 단순한 게임이 사실은 대단히 복잡하다는 것을 증명하는 수학.
게임 이론의 용어로 말하면 가위바위보는 순수 전략 해가 존재하지 않는 대칭적 제로섬 게임입니다. 어떤 손 모양을 늘 내든 상대는 언제나 그것을 이길 수 있기 때문입니다. 유일한 내시 균형은 세 손 모양을 각각 1/3의 확률로 무작위하게 내는 혼합 전략인데, 이 전략은 이용당하지도 않지만 누구도 이용하지 못하며 장기적으로 정확히 본전이라는 결과를 보장합니다. 따라서 이 게임에서 실질적인 우위는 모두 상대가 그 균형에서 벗어나는 데서 나옵니다.

RPS: 말 그대로 교과서적 사례
가위바위보는 유한, 2인, 제로섬, 동시 게임입니다. 게임 이론 입문 수업을 들어 봤다면 가장 먼저 배우는 것 중 하나죠. 동시에 가장 마지막에야 완전히 이해하게 되는 것이기도 합니다. 게임은 단순해 보입니다. 그 뒤의 수학은 할 말이 좀 있고요.
보수 행렬 (당황하지 마세요)
모든 RPS 대결은 3×3 표로 적을 수 있습니다. 승리는 +1, 패배는 -1, 무승부는 0입니다.
| 바위 | 보 | 가위 | |
|---|---|---|---|
| 바위 | 0 | -1 | +1 |
| 보 | +1 | 0 | -1 |
| 가위 | -1 | +1 | 0 |
이것은 대칭 게임입니다. 두 선수의 선택지도 보수도 똑같습니다. 순수 전략 내시 균형은 존재하지 않는데, 쉽게 말하면 이렇습니다. 당신에게 패턴이 있다면 누군가 그것을 이용할 수 있습니다.
내시 균형: 수학적으로 완벽하지만 하나도 재미없는 전략
존 내시(맞습니다, 《뷰티풀 마인드》의 그 사람)는 모든 유한 게임에 혼합 전략 균형이 적어도 하나 존재한다는 것을 증명했습니다. RPS의 내시 균형은 아름다울 만큼 지루합니다. 세 손동작을 정확히 1/3 확률로 내는 것입니다. 바위 33.3%, 보 33.3%, 가위 33.3%.
이것을 완벽하게 해내면 어떤 상대도 당신에게서 우위를 얻을 수 없습니다. 영원히요. 기대 이득은 언제나 0입니다. 결코 지지 않지만 결코 이기지도 못합니다. 매 끼니 맹물 오트밀을 먹는 것의 게임 이론판이랄까요. 최적이고, 무미건조합니다.
사람은 왜 그렇게 하지 못할까
여기서부터가 재미있습니다. 연구는 한결같이 사람이 무작위가 되는 데 정말 형편없다는 것을 보여 줍니다. 저장대학교의 2014년 연구는 학생 360명이 각각 300판을 하는 과정을 추적해 다음을 발견했습니다.
- 이겼을 때는 같은 수를 반복합니다(이기면 유지 편향)
- 졌을 때는 방금 자신을 이긴 수를 이기는 수로 바꿉니다(지면 변경)
- 사람들은 바위를 약 36% 냅니다. 기댓값 33%를 훌쩍 넘습니다
이것은 무작위가 아닙니다. 패턴입니다. 그리고 경쟁 RPS 선수들은 바로 그 패턴을 먹고삽니다. 자세한 내용은 심리학 가이드를 참고하세요.
베이즈 추론: 관찰하고 학습하기
상급자는 베이즈 추론을 씁니다. 상대가 이미 낸 수를 근거로 다음 수에 대한 예측을 계속 갱신한다는 뜻이죠. 이것은 내시의 접근과 근본적으로 다릅니다.
- 내시의 관점: 상대가 완벽하게 합리적인 로봇이라고 가정하라. 무작위로 내라.
- 베이즈의 관점: 상대는 감정과 습관을 가진 사람이다. 관찰하고, 이용하라.
단 한 판이라면 베이즈 추론은 큰 도움이 되지 않습니다. 하지만 3판 2선승제 이상(WRPSA 대회의 기본)에서는 한 수 한 수가 새로운 자료가 됩니다. 포커와 비슷한데, 여기서는 텔이 곧 손가락입니다.
사고의 단계 (생각보다 깊습니다)
게임 이론가들은 경쟁 RPS 전략을 단계로 나눠 설명합니다.
- 0단계: 무작위로 냅니다. 엄지가 달린 동전 던지기죠.
- 1단계: 상대가 방금 낸 수에 반응합니다.
- 2단계: 상대가 예상하는 당신의 수를 짐작하고 그것을 잡습니다.
- 3단계: 당신의 예상에 대한 상대의 예상을 다시 예상합니다. 이쯤 되면 다들 머리가 아픕니다.
최상위 선수들은 3단계 이상에서 플레이하면서, 동시에 상대가 몇 단계에서 놀고 있는지를 파악합니다. 체스와 비슷한데 훨씬 빠르고 손짓이 더 많습니다.
진화 게임 이론 속의 RPS
옆줄무늬도마뱀(Uta stansburiana)의 수컷은 세 유형으로 나뉘는데, 짝짓기 전략이 RPS 순환을 그대로 따릅니다. 공격적인 주황목은 파랑목을 이기고, 파랑목은 노랑목을 이기며, 노랑목은 주황목을 이깁니다. 비유가 아닙니다. 생물학자들이 실제로 관찰해 기록한 도마뱀의 행동입니다.
비슷한 역학은 세균, 산호초 물고기, 정치 경쟁에서도 나타납니다. RPS는 단순한 놀이가 아닙니다. 살아 있는 것들이 경쟁하는 방식에 짜여 들어간 근본적인 패턴입니다. 자연이 우리보다 먼저 발명한 셈이죠.
이것이 당신에게 뜻하는 것
게임 이론을 안다고 RPS에서 무적이 되지는 않습니다. 다만 특정 전략이 왜 통하는지, 언제 꺼내야 하는지를 이해하는 데 도움이 됩니다. 핵심은 이렇습니다. 상대를 읽을 수 없을 때 내시 균형은 안전한 기본값입니다. 그리고 상대가 예측 가능한 사람이라는 사실을 이용하는 것, 그게 대회에서 이기는 방법입니다.
