죄수의 딜레마(Prisoner's Dilemma)와 파레토 우위(Pareto Dominance)는 게임 이론과 경제학에서 개인의 합리적 선택이 반드시 사회 전체의 최선으로 이어지지 않는다는 한계를 보여주는 대표적인 개념이다.
● 죄수의 딜레마 (Prisoner's Dilemma)
□ 개념 및 구조
두 명의 범죄 혐의자가 체포되어 서로 격리된 상태에서 심문을 받는 상황을 가정한 게임 이론 모델이다. 각 죄수는 자백(배신)하거나 침묵(협력)할 수 있으며, 상대방의 선택을 모르는 상태에서 의사결정을 내린다.
□ 보상 구조 (형량 기준)
- 둘 다 침묵 (협력 - 협력): 둘 다 1년형
- 한 명만 자백 (배신 - 협력): 자백한 사람은 석방(0년), 침묵한 사람은 10년형
- 둘 다 자백 (배신 - 배신): 둘 다 5년형
□ 우월전략 균형 (Dominant Strategy Equilibrium)
상대방이 어떤 선택을 하든 나에게는 '자백(배신)'하는 것이 유리하다. 상대가 침묵할 때 자백하면 석방(0년 > 1년), 상대가 자백할 때 나도 자백하면 5년형(5년 < 10년)을 받기 때문이다. 결국 두 죄수 모두 자백을 선택하게 되며, 이 상태((자백, 자백) = 둘 다 5년형)가 내쉬 균형(Nash Equilibrium)을 이룬다.
● 파레토 우위 (Pareto Dominance)
□ 개념 및 정의
하나의 결과(상태 A)가 다른 결과(상태 B)와 비교했을 때, 어느 누구의 후생(유용성)도 줄이지 않으면서 적어도 한 명 이상의 후생을 더 높일 수 있는 상태를 의미한다. 이때 '상태 A는 상태 B에 대해 파레토 우위에 있다'고 표현한다.
□ 파레토 효율 (Pareto Efficiency)
다른 사람의 상태를 악화시키지 않고서는 어느 누구의 상태도 개선할 수 없는 최선의 상태를 의미한다. 즉, 더 이상 파레토 우위가 존재하는 대안이 없는 상태다.
● 죄수의 딜레마와 파레토 우위의 관계
□ 시장 실패와 개인 대 사회의 갈등
죄수의 딜레마 상황에서 개인이 각자의 우월전략(자백)을 따라 선택한 내쉬 균형 결과는 (자백, 자백)으로 둘 다 5년형을 받는 것이다.
그러나 둘 다 침묵을 선택한 결과인 (침묵, 침묵)은 둘 다 1년형만 살면 된다. 따라서 (침묵, 침묵)의 상태는 (자백, 자백)의 상태에 대해 '파레토 우위'에 있다.
□ 핵심 결론
- 각 개인이 자신의 이익만을 위해 합리적으로 최선의 선택(우월전략)을 내렸음에도 불구하고, 그 결과 나타난 균형은 파레토 효율적이지 못하고 파레토 비효율(Pareto Inefficient) 상태에 빠진다.
- 이는 '개인의 합리성'과 '집단의 합리성'이 상충하는 대표적인 현상으로, 자율적인 상태에서는 비효율이 발생하므로 법, 계약, 제도, 신뢰 등의 외적 메커니즘이 필요함을 시사한다.
● 현실 세계에서의 적용 사례
□ 군비 경쟁
두 국가가 군비를 축소하는 것이 사회 전체적으로 유리(파레토 우위)하지만, 상대국의 배신을 우려하여 결국 양국 모두 막대한 국방비를 지출하는 군비 증강(내쉬 균형) 상태에 도달한다.
□ 환경 오염 및 공공재 문제
모든 기업이 탄소 배출을 줄이는 것이 지구 전체에 유리하지만, 단독으로 감축 비용을 부담하지 않으려다 결국 모두 환경을 오염시키는 비효율적 결과를 초래한다.
□ 과당 광고 및 가격 경쟁
경쟁하는 두 기업이 광고비를 줄이거나 가격을 유지하는 것이 이윤을 극대화(파레토 우위)할 수 있음에도, 상대에게 손실을 입지 않기 위해 불필요한 광고비 경쟁이나 치킨 게임(가격 인하)을 벌이게 된다.