진화 게임 이론

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요
2. 역사
3. 진화 게임 이론의 기본 개념
4. 주요 게임 모델
5. 사회적 행동의 진화
6. 불안정 게임과 순환 패턴
- 6.1. 가위바위보 게임 (Rock-Paper-Scissors)
- 6.2. 신호, 성 선택, 핸디캡 원리
7. 공진화 (Coevolution)
8. 모델 확장
9. 한국 사회와 진화 게임 이론 (추가)
참조

1. 개요

진화 게임 이론은 생물학적 진화, 사회적 행동, 경제적 현상 등을 설명하기 위해 사용되는 수학적 모델이다. 1970년대 존 메이너드 스미스와 조지 프라이스의 연구를 통해 진화적으로 안정한 전략(ESS) 개념이 제시되었으며, 이후 경제학, 정치학 등 사회과학 분야에도 영향을 미쳤다. 진화 게임 이론은 경쟁, 자연 선택, 유전을 포함하는 다윈식 진화를 포괄하며, 매-비둘기 게임, 소모전, 죄수의 딜레마 등 다양한 게임 모델을 통해 사회적 행동과 협력, 이타주의의 진화를 설명한다. 또한, 공간 게임, 정보 효과, 유한 개체군 등 다양한 모델 확장을 통해 복잡한 현실을 분석하며, 공진화, 가위바위보 게임, 핸디캡 원리와 같은 개념을 포함한다.

더 읽어볼만한 페이지

진화 게임 이론 - 치킨 게임
치킨 게임은 두 참여자가 서로 양보 없이 강경하게 대치하다 파국으로 가는 상황을 묘사하는 게임 이론 모델로, 전략적 선택, 사전 약속 등의 요소를 포함하며 현실 세계의 다양한 상황을 설명하는 데 활용된다.
진화 게임 이론 - 진화적으로 안정한 전략
진화적으로 안정한 전략(ESS)은 존 메이너드 스미스와 조지 R. 프라이스가 정의한 개념으로, 게임 이론을 행동 진화에 적용하여 경쟁 환경에서 안정적으로 유지될 수 있는 전략을 설명하며, 생물학적 진화 및 사회 과학 분야에서 활용된다.
동물행동학 - 보호색
보호색은 생물이 주변 환경과 유사한 색, 무늬, 형태 등으로 자신을 숨기는 위장 전략으로, 시각적 위장뿐 아니라 후각, 청각적 위장도 포함하며 포식자-피식자 간 공진화에 중요한 역할을 한다.
동물행동학 - 여름잠
여름잠은 동물이 덥고 건조한 환경에 적응하기 위해 신진대사율을 감소시키고 에너지와 수분을 보존하는 휴면 상태로, 달팽이, 곤충, 양서류, 파충류, 포유류 등 다양한 동물에게서 나타난다.
생태학 - 생물 다양성
생물 다양성은 특정 지역 내 유전자, 종, 생태계의 총체로서, 종 내, 종 간, 생태계의 다양성을 포함하는 개념이며, 식량, 의약품, 산업 원료 등 다양한 자원을 제공하고 생태계 서비스 및 문화적 가치를 지니지만, 최근 인간 활동으로 인해 급격히 감소하고 있어 보전 노력이 필요하다.
생태학 - 먹이 그물
먹이 그물은 생태계 내 생물 간의 복잡한 먹이 관계를 나타내는 연결망으로, 생태학자들은 이를 통해 생산자와 소비자 간의 에너지와 영양소 흐름을 추적하며, 먹이사슬과 영양 단계, 생태 피라미드 개념과 관련되어 생태계의 구조와 기능을 이해하는 데 중요한 역할을 한다.

진화 게임 이론

2. 역사

비협력 게임 이론의 선구자 중 한 명인 존 내시는 1950년 박사 논문에서 내시 균형을 대중 행동(mass-action) 관점에서 해석하며 진화 게임 이론의 초기 아이디어를 제시했다. 그는 플레이어들이 복잡한 추론 없이 경험적으로 균형에 도달할 수 있다고 보았다. 약 20년 후인 1973년, 수리 생물학자 존 메이너드 스미스와 집단 유전학자 조지 프라이스는 돌연변이에 안정적인 진화적으로 안정적인 전략(ESS) 개념을 공식화했다. 이후 1978년 피터 테일러와 레오 존커는 자연 선택 과정을 모델링하는 복제자 역학을 도입하여 전략의 동적인 안정성을 분석했다. 1980년대 후반에는 이러한 진화 게임 이론의 성과가 경제학 및 정치학 등 사회 과학 분야로 역수입되었다. 1990년대 이후 연구는 더욱 다양화되어, 학습을 통한 전략 변화를 분석하는 학습 역학, 돌연변이의 역할을 강조하는 확률 진화, 비무작위적 상호작용을 다루는 선택적 상호 작용 등이 주요 연구 주제로 다루어지고 있다.

2. 1. 고전 게임 이론

고전 비협력적 게임 이론은 적대자 간의 경쟁에서 최적의 전략을 결정하기 위해 존 폰 노이만에 의해 고안되었다. 경쟁에는 플레이어들이 참여하며, 각 플레이어는 자신의 움직임을 선택할 수 있다. 게임은 한 번만 진행될 수도 있고, 여러 번 반복될 수도 있다. 플레이어가 움직임을 결정하는 방식이 전략이 되며, 게임의 규칙은 플레이어의 움직임에 따른 결과를 결정하고, 이 결과는 플레이어에게 보상으로 주어진다. 규칙과 그에 따른 보상은 의사 결정 트리나 보상 행렬 형태로 나타낼 수 있다. 고전 게임 이론에서는 플레이어들이 합리적인 선택을 한다고 가정한다. 즉, 각 플레이어는 자신의 선택을 하기 전에 상대방이 어떤 전략적 분석을 하고 있는지를 고려해야 한다.^[5]^[6]

비협력 게임 이론의 발전에 기여한 존 내시는 1950년 박사 논문에서 혼합 전략을 포함하는 내시 균형 개념을 제시하며, 이를 '대중 행동(mass-action)' 관점에서 해석했다. 그는 플레이어들이 게임의 전체 구조를 완벽히 알거나 복잡한 논리적 사고를 할 필요 없이, 단지 가능한 전략들 사이의 상대적 이익에 대한 경험적 정보를 바탕으로 균형점에 도달할 수 있다고 설명했다.

2. 2. 진화 게임 이론의 등장

진화 게임 이론은 동물들이 자원을 두고 경쟁할 때 보이는 의례적인 행동, 즉 "왜 동물들은 싸움에서 '신사적'으로 행동하는가?"라는 질문에서 시작되었다. 니코 틴버겐과 콘라트 로렌츠와 같은 주요 동물행동학자들은 이러한 행동이 종의 이익을 위해 집단 선택을 통해 진화했다고 주장했다. 그러나 수학 생물학자 존 메이너드 스미스는 이러한 설명이 개체 수준에서 선택이 이루어진다고 보는 다윈주의 사상과 맞지 않다고 생각했다.^[7] 다윈주의 관점에서는 자신의 이익을 추구하는 행동이 보상받지만, 집단의 이익을 우선하는 행동은 그렇지 않기 때문이다. 메이너드 스미스는 조지 프라이스의 제안과 리처드 르원틴의 실패한 시도를 참고하여 게임 이론에 주목했다.^[8]

메이너드 스미스는 진화 게임 이론에서 플레이어(개체)가 반드시 합리적으로 행동할 필요는 없으며, 단지 특정 전략을 가지고 행동하면 된다는 점을 깨달았다. 게임의 결과는 각 전략이 얼마나 성공적이었는지를 보여주며, 이는 마치 진화가 다양한 전략들의 생존 및 번식 능력을 시험하는 과정과 같다. 생물학에서 전략은 유전적으로 결정되어 개체의 행동을 통제하는 형질로 볼 수 있으며, 이는 컴퓨터 프로그램과 유사하다. 어떤 전략의 성공 여부는 경쟁하는 다른 전략들(자신의 복제본 포함)과 그 전략이 집단 내에서 얼마나 흔한지에 따라 결정된다.^[9] 메이너드 스미스는 이러한 연구 내용을 자신의 저서 ''진화와 게임 이론''에서 상세히 설명했다.^[10]

참가자(개체)의 목표는 가능한 한 많은 자신의 복제본을 남기는 것이며, 보상은 번식 성공률을 나타내는 적합도로 측정된다. 게임은 항상 다수의 경쟁자가 참여하는 형태로 진행된다. 게임의 핵심 규칙 중 하나는 복제자 역학인데, 이는 더 높은 적합도를 가진 전략이 집단 내에서 더 많이 복제되고, 낮은 적합도를 가진 전략은 도태되는 과정을 설명한다. 이는 복제자 방정식으로 표현된다. 복제자 역학은 유전 과정을 모델링하지만, 돌연변이는 고려하지 않으며 단순화를 위해 무성 생식을 가정한다. 게임은 정해진 종료 시점 없이 반복적으로 진행되며, 그 결과로 집단 구성의 변화, 각 전략의 성공 여부, 그리고 도달 가능한 평형 상태 등을 분석한다. 고전 게임 이론과 달리, 진화 게임 이론의 플레이어는 자신의 전략을 의식적으로 선택하거나 바꿀 수 없다. 개체는 특정 전략을 가지고 태어나며, 그 자손 역시 동일한 전략을 물려받는다.^[11]

비협력 게임 이론의 창시자인 존 내시는 1950년 박사 논문에서 이미 혼합 전략을 포함한 내시 균형점의 대중 행동 (mass-action)으로서의 해석에 대해, 게임의 전체 구조에 대한 완전한 지식이나 복잡한 논리적 사고 능력 및 성향을 가정하지 않고, 가능한 순수 전략의 상대적 이익에 대한 경험적 정보 축적을 가정하여 논했다. 그로부터 20여 년이 지난 1973년, 수리 생물학자인 존 메이너드 스미스와 집단 유전학자인 조지 프라이스는 전략의 돌연변이에 대해 견고한 전략으로서 진화적으로 안정적인 전략 (ESS)의 개념을 제창했고, 이후 피터 테일러와 레오 존커가 1978년에 자연 선택에 기반한 복제자 역학을 사용하여 전략의 동역학적 안정성을 검토했다. 1980년대 후반에는 경제학 및 정치학 등의 사회 과학 분야에 진화 게임 이론의 성과가 역수입되었으며, 1990년대 이후에는 시행착오나 모방과 같은 단순한 학습 및 현재의 집단 상태에 대한 최적 반응을 보이는 것, 더 나아가 상대방의 과거 행동으로부터 미래 행동을 예측하여 최적 반응을 보이는 (가상 플레이를 수행하는) 복잡한 학습 등에 의한 전략 분포의 변동을 분석하는 학습 역학, 선택이 중시되어 온 기존의 역학에 대해 돌연변이가 선택압을 뒤엎을 수 있는 강력한 작용으로 간주하는 확률 진화, 게임을 플레이하는 상대방이 완전한 무작위 추출이 아닌 선택적 상호 작용 등이 연구되고 있다.

2. 3. 현대 진화 게임 이론

1980년대 후반에는 경제학 및 정치학 등 사회 과학 분야에도 진화 게임 이론의 성과가 영향을 미치기 시작했다. 1990년대 이후 연구는 더욱 다양해졌는데, 주요 흐름은 다음과 같다.

첫째, 학습 역학(Learning dynamics^eng)이 활발히 연구되고 있다. 이는 시행착오나 다른 성공적인 전략을 따라 하는 모방과 같은 단순한 학습 방식뿐만 아니라, 현재 집단의 상태를 파악하고 가장 유리한 행동을 선택하는 최적 반응, 더 나아가 상대방의 과거 행동을 분석하여 미래 행동을 예측하고 이에 맞춰 최적의 전략을 구사하는 복잡한 학습(가상 플레이, fictitious play^eng)까지 고려하여 전략 분포가 어떻게 변화하는지를 분석한다.

둘째, 확률 진화(Stochastic evolution^eng)에 대한 연구가 이루어지고 있다. 기존의 진화 게임 이론 연구가 주로 자연 선택의 역할을 강조했다면, 확률 진화 연구는 돌연변이가 기존의 선택 압력을 뒤엎을 만큼 강력한 영향을 미칠 수 있다는 점에 주목한다. 즉, 무작위적인 변화가 진화 과정에서 중요한 역할을 할 수 있음을 강조하는 것이다.

셋째, 선택적 상호 작용(Selective interaction^eng)에 대한 관심도 높아지고 있다. 이는 게임 참여자들이 상호 작용할 상대를 완전히 무작위로 만나는 것이 아니라, 특정 기준에 따라 선택적으로 만나는 상황을 분석한다. 현실 세계에서는 상호 작용 상대가 무작위적이지 않은 경우가 많기 때문에 중요한 연구 분야이다.

3. 진화 게임 이론의 기본 개념

진화 게임 이론은 게임 이론의 원리를 진화 생물학에 적용하여, 개체군 내에서 자연 선택에 의해 특정 행동 전략이 어떻게 변화하고 안정화되는지를 연구하는 분야이다. 존 폰 노이만 등이 발전시킨 고전 비협력적 게임 이론이 참여자의 '합리적 선택'을 가정하는 것과 달리, 진화 게임 이론은 존 메이너드 스미스에 의해 발전되었으며, 개체들이 합리적 판단 없이 유전적으로 물려받은 전략에 따라 행동한다고 가정한다.^[5]^[6]^[9] 마치 진화가 다양한 전략들의 생존 및 번식 성공률을 시험하는 것처럼, 게임의 결과는 각 전략의 효과성을 나타낸다.

진화 게임 이론 모델은 주로 세 가지 핵심 요소, 즉 경쟁하는 개체들의 개체군, 개체들의 상호작용 방식을 규정하는 게임, 그리고 성공적인 전략이 다음 세대로 퍼져나가는 복제자 역학으로 구성된다. 게임 참가자(개체)의 목표는 자신의 복제본을 최대한 많이 남기는 것이며, 보상은 번식 성공률을 의미하는 적합도 단위로 측정된다.

이 이론은 복제자 역학이라는 수학적 모델을 통해 더 높은 적합도를 가진 전략이 개체군 내에서 어떻게 확산되고, 낮은 적합도를 가진 전략은 도태되는지를 설명한다. 이 과정에서 특정 조건 하에서는 어떤 돌연변이 전략도 침입할 수 없는 안정적인 상태인 진화적으로 안정한 전략(ESS)이 나타날 수 있다. 진화 게임 이론은 매-비둘기 게임, 소모전, 죄수의 딜레마 등 다양한 게임 모델을 사용하여 공격성, 협력, 이타주의, 성 선택과 같은 복잡한 생물학적, 사회적 현상을 분석하고 이해하는 강력한 도구를 제공한다.^[12]

3. 1. 통화

적합도를 단위로 하는 '통화'가 사용된다. 이러한 통화는 비용과 이익이라는 개념에 쉽게 접근할 수 있게 해주며, 선택 가능한 경우들 중에서 더 많은 통화를 기대할 수 있는 쪽으로 전략(strategy)이 형성된다. 이때 보수행렬(payoff matrix)은 진화안정전략을 보여주는 데 활용된다. 게임 참가자는 가능한 한 많은 자신의 복제본을 생산하는 것을 목표로 하며, 보상은 적합도(번식 능력에 대한 상대적 가치) 단위로 주어진다.

3. 2. 모델

]]

1) 모델(진화 자체와 마찬가지로)은 ''개체군''(Pn)을 다룬다. 개체군은 경쟁하는 개체들 사이에서 변이를 나타낸다. 모델에서 이 경쟁은 게임으로 표현된다.

2) 게임은 게임 규칙에 따라 개체의 전략을 테스트한다. 이러한 규칙은 적합도 단위(자손 생산률)로 서로 다른 보상을 생성한다. 경쟁 개체는 일반적으로 개체군이 고도로 혼합된 상태에서 다른 개체와 짝을 이룬 경쟁을 한다. 개체군 내 전략의 혼합은 개인이 다양한 전략과 경쟁에서 만날 수 있는 확률을 변경하여 보상 결과에 영향을 미친다. 개체는 "보상 행렬"로 표현되는 경쟁 결과에 의해 결정된 결과 적합도를 가지고 짝을 이룬 게임 경쟁을 종료한다.

3) 이 결과로 얻은 적합도를 기반으로 개체군의 각 구성원은 ''복제자 역학 프로세스''의 정확한 수학에 의해 결정된 복제 또는 도태를 겪는다. 이 전체 프로세스는 ''새로운 세대'' P(n+1)을 생성한다. 이제 각 생존 개체는 게임 결과에 의해 결정된 새로운 적합도 수준을 갖는다.

4) 새로운 세대가 이전 세대를 대체하고 주기가 반복된다. 개체군 혼합은 어떠한 돌연변이 전략에도 침입당할 수 없는 ''진화적으로 안정적인 상태''로 수렴될 수 있다.]]

진화 게임 이론은 존 폰 노이만이 고안한 고전 비협력적 게임 이론과 차이가 있다. 고전 이론은 플레이어가 합리적인 선택을 하고 상대방의 전략적 분석을 고려해야 한다고 가정하는 반면,^[5]^[6] 존 메이너드 스미스가 발전시킨 진화 게임 이론에서는 플레이어가 합리적으로 행동할 필요 없이, 단지 유전적으로 물려받은 전략을 가지고 있으면 된다. 게임의 결과는 해당 전략의 효과성을 보여주며, 이는 마치 진화가 생존과 번식 능력을 기준으로 다양한 전략을 시험하는 과정과 유사하다. 생물학에서 전략은 개체의 행동을 제어하는 유전적 형질이며, 그 성공 여부는 경쟁하는 다른 전략들과 그 빈도에 따라 결정된다.^[9] 메이너드 스미스는 이러한 내용을 그의 저서 ''진화와 게임 이론''에서 상세히 설명했다.^[10]

진화 게임 이론 모델의 참가자(개체)는 가능한 한 많은 자신의 복제본을 생산하는 것을 목표로 하며, 보상은 적합도(번식 성공률) 단위로 주어진다. 이는 다수의 경쟁자가 참여하는 다자간 게임 형태를 띤다. 핵심 규칙은 복제자 역학으로, 더 높은 적합도를 가진 개체가 더 많은 자손을 남기고, 낮은 적합도를 가진 개체는 도태되는 과정을 수학적으로 모델링한다. 이는 복제자 방정식으로 표현된다. 복제자 역학은 유전을 모델링하지만 돌연변이는 고려하지 않으며, 단순화를 위해 무성 생식을 가정한다. 게임은 정해진 종료 조건 없이 반복되며, 결과적으로 개체군 내 전략의 비율 변화, 각 전략의 성공도, 그리고 평형 상태 도달 여부 등을 분석한다. 고전 게임 이론과 달리, 진화 게임 이론의 플레이어는 전략을 선택하거나 변경할 수 없으며, 태어날 때 부여된 전략을 자손에게 그대로 물려준다.^[11]

진화 게임 이론은 경쟁(게임), 자연 선택(복제자 역학), 유전이라는 다윈 진화의 핵심 요소를 통합한다. 이를 통해 집단 선택, 성 선택, 이타주의, 부모의 보살핌, 공진화, 생태적 역학 등 다양한 생물학적 현상을 이해하는 데 기여했다. 직관적으로 이해하기 어려웠던 여러 상황들이 진화 게임 이론 모델을 통해 수학적 기반을 갖추게 되었다.^[12]

게임의 진화 동역학을 연구하는 일반적인 방법은 복제자 방정식을 사용하는 것이다. 이 방정식은 특정 전략을 사용하는 개체 비율의 증가율이 해당 전략의 평균 보상과 전체 개체군의 평균 보상 간의 차이와 같다는 것을 보여준다.^[13] 연속 복제자 방정식은 무한한 개체군, 연속 시간, 완전 혼합, 그리고 전략이 변형 없이 유전된다는 가정을 기반으로 한다. 이 방정식의 특정 끌개(안정적인 고정점)는 진화적으로 안정적인 상태(ESS, Evolutionarily Stable Strategy)에 해당한다.^[14] ESS는 소수의 다른 전략(돌연변이)이 침입해도 원래의 전략 비율로 돌아가는 안정적인 상태를 의미한다. 동물 행동의 맥락에서 이는 전략이 유전적으로 결정되어 플레이어가 의식적으로 선택하는 것이 아님을 시사한다.^[15]^[16]

진화 게임은 각기 다른 규칙, 보상, 수학적 모델을 가진다. 각각의 게임은 유기체가 생존과 번식을 위해 직면하는 문제 상황과 그에 대응하는 가능한 전략들을 나타낸다. 이해를 돕기 위해 종종 비유적인 이름과 배경 이야기가 붙여진다. 대표적인 게임으로는 매-비둘기,^[1] 소모전,^[17] 사슴 사냥, 생산자-가짜],

3. 3. 진화적으로 안정한 전략 (ESS)

진화적으로 안정한 전략(Evolutionarily stable strategy, '''ESS''')은 고전 게임 이론의 내쉬 균형과 유사하지만 수학적으로 확장된 기준을 갖는다. 내쉬 균형은 다른 플레이어가 자신의 전략을 유지한다는 전제 하에, 어떤 플레이어도 현재 전략에서 벗어나는 것이 합리적이지 않은 게임 균형 상태를 의미한다. 반면 ESS는 경쟁자가 매우 많은 개체군에서, 다른 돌연변이 전략이 기존의 역학(개체군 구성 비율에 따라 달라짐)을 성공적으로 방해하며 개체군에 들어올 수 없는 게임 역학 상태를 말한다.^[38]^[39]^[40]

ESS는 "집단 내 모든 개체가 특정 전략을 채택하고 있을 때, 다른 어떤 전략도 일정 비율(이 상한값을 '''침입 장벽'''이라고 한다)까지 소규모로 침입해서는 기존 전략보다 낮은 기대 이득만을 얻는" 전략이다. 즉, 적합도를 이득에 적용하면, 어떤 돌연변이나 외부 침입이 단일 변이이고 소규모일 경우 집단 내에 확산되지 못하고 도태된다는 의미이다. 따라서 성공적인 전략(ESS 포함)은 다음과 같은 특징을 가져야 한다.

1. 희귀할 때 효과적이어야 한다: 이전의 경쟁 개체군에 성공적으로 진입할 수 있어야 한다.

2. 흔할 때 성공적이어야 한다: 나중에 개체군에서 높은 비율을 차지했을 때 자신을 방어할 수 있어야 한다. 이는 결국, 해당 전략이 자신과 정확히 동일한 전략을 가진 다른 개체들과 경쟁할 때도 성공적이어야 함을 의미한다.^[38]^[39]^[40]

평가자 전략이 추가된 매-비둘기 게임의 보수 행렬. 평가자는 상대를 평가하여 약한 상대를 만나면 매처럼, 강한 상대를 만나면 비둘기처럼 행동한다. 평가자는 매와 비둘기 개체군 모두에 침투할 수 있고, 매 또는 비둘기 돌연변이의 침투를 견딜 수 있어 ESS가 된다.

ESS는 다음과 같은 개념들과는 구별된다.

최적의 전략이 아니다: ESS는 적합성을 극대화하는 전략이 아닐 수 있다. 많은 ESS 상태는 해당 환경에서 달성 가능한 최대 적합성보다 훨씬 낮은 적합성을 가질 수 있다. (매-비둘기 게임이 예시가 될 수 있다.)
단일 해법이 아니다: 경쟁 상황에서 여러 ESS 조건이 존재할 수 있다. 특정 경쟁은 이 중 하나의 가능성으로 안정화될 수 있지만, 환경 조건의 큰 변화는 다른 ESS 상태로 이동시킬 수 있다.
항상 존재하는 것이 아니다: ESS가 존재하지 않는 게임도 가능하다. 예를 들어, 얼룩 도마뱀(''Uta stansburiana'')의 상호작용은 ESS가 없는 "가위바위보" 게임과 유사한 순환적 우세를 보인다.
무적의 전략이 아니다: ESS는 단지 다른 전략의 침입을 막을 수 있는 안정적인 전략일 뿐, 모든 상황에서 절대적으로 우월한 전략은 아니다.

ESS 상태는 개체군 변화의 동역학을 분석하거나, ESS를 정의하는 안정적인 고정점 조건을 만족하는 방정식을 풀어 결정할 수 있다.^[42] 예를 들어, 매-비둘기 게임에서는 매와 비둘기의 적합성이 같아지는 지점을 찾아 ESS 비율을 계산할 수 있다. 매를 만날 확률을 p, 비둘기를 만날 확률을 (1-p)라고 할 때, 각 전략의 기대 보수(적합성)를 계산하여 같다고 놓으면, 매 전략의 비율 p가 자원의 가치(V)를 싸움의 비용(C)으로 나눈 값, 즉 ''p = V/C''일 때 안정 상태에 도달한다는 것을 알 수 있다. 이 비율에서는 새로운 매나 비둘기 돌연변이가 침입해도 결국에는 적합성이 낮아져 도태되므로, 이 비율이 ESS가 된다. 이 예시는 싸움의 위험(''C'')이 잠재적 보상(''V'')보다 훨씬 클 때, 안정된 개체군은 공격적인 매와 온순한 비둘기가 혼합된 상태가 되며, 비둘기의 비율이 매의 비율보다 높아진다는 것을 보여준다. 이는 자연에서 관찰되는 동물의 행동 양상을 설명하는 데 도움을 준다.

수학적으로 ESS는 혼합 전략 집합 상의 어떤 근방(neighborhood)에 대해, 자신 이외의 어떤 전략에 대해서도 상대 전략 자신보다 높은 이득을 얻는다는 '''국소적 우월성'''(local superiority)을 가진다. 또한, ESS의 침입 장벽에는 하한값이 존재하며 이를 '''균일 침입 장벽'''(uniform invasion barrier)이라고 한다.

ESS의 조건을 완화한 관련 개념으로는 다음 두 가지가 있다.

'''중립 안정 전략''' (Neutrally stable strategy, '''NSS'''): ESS는 침입 전략보다 엄밀하게 높은 기대 이득을 요구하지만, NSS는 침입하는 변이 전략에 대해 적어도 동등한 이득을 얻으면 되는, 더 약한 안정성 조건을 가진다. NSS는 '''국소적 약 우월성'''(local weak superiority)을 가진다.
'''균형 침입에 대해 견고한 전략''' (Robust against equilibrium entrant, '''REE'''): 어떤 침입 장벽 이하의 침입에 대해, 다른 어떤 전략도 침입 후 상태에 대한 최적 반응이 될 수 없는 전략이다. 즉, 침입 전략 중에서도 침입 후에 최적 반응이 되는 것만을 고려하는 개념이다. REE 전략을 서로 취하는 전략 조합은 적절한 균형(proper equilibrium)이라는 의미에서 합리적인 작은 변화에 대해 견고하다.

3. 4. 복제자 동역학

'''복제자 동역학'''(replicator dynamics) 또는 '''(자기)복제자 동역학'''은 개체군의 특정 전략을 가진 개체들의 비율(점유율)이 선택 압력에 따라 어떻게 변화하는지를 역학계를 이용하여 동적으로 표현하는 방법이다. 이는 전략의 안정성이라는 정적인 측면을 다루는 진화적으로 안정한 전략(ESS)과는 대조적인 개념이다. 또한, 복제자 동역학은 자연 선택에 의한 집단의 변화에 주목하는 반면, ESS는 주로 돌연변이의 침입 가능성에 초점을 맞춘다는 점에서도 차이가 있다. ESS와 복제자 동역학은 진화 게임 이론을 이루는 중요한 두 축으로 여겨진다. 복제자 동역학은 일반화된 로트카-볼테라 방정식의 한 형태로 간주될 수도 있다.

집단의 상태, 즉 전략 분포를 동일한 확률 분포의 혼합 전략 `x`로 표현하고, 그 상태에서 순수 전략 `i`의 점유율을 `x`_`i`라고 하자. 혼합 전략 `x`를 사용하는 개체의 평균 적응도(보상)를 나타내는 함수를 `u`라고 할 때, 연속 시간에서의 복제자 동역학은 다음과 같은 시간에 대한 미분 방정식으로 표현되는 자율계이다.

: `dx`_`i``/dt` = [`u`(`e`^`i`, `x`) - `u`(`x`, `x`)]`x`_`i`

여기서 `dx`_`i``/dt`는 시간 `t`에 대한 `x`_`i`의 미분 (뉴턴의 표기법에서 점 표기와 유사한 의미)을 나타내며, `e`^`i`는 순수 전략 `i`를 확률 1로 사용하는 혼합 전략을 의미한다. `u`(`e`^`i`, `x`)는 순수 전략 `i`를 사용하는 개체가 혼합 전략 `x`를 사용하는 집단에서 얻는 평균 적응도이고, `u`(`x`, `x`)는 집단 전체의 평균 적응도이다. 이 동역학 시스템에서는 반복적으로 열등한 전략(strictly dominated strategy)의 점유율은 0으로 수렴하며, 대칭적인 내쉬 균형점은 정상 상태(steady state)가 된다. 또한, 중립적으로 안정한 전략(NSS, Neutrally Stable Strategy)은 랴푸노프 안정하며, 진화적으로 안정한 전략(ESS)은 점근적으로 안정(asymptotically stable)하다는 것이 알려져 있다.

차분 방정식으로 표현되는 이산 시간에서의 복제자 동역학도 존재한다. 여기에는 세대가 명확히 구분되는 경우(세대 구분 동역학)와 세대가 중첩되는 경우(세대 중복 동역학)가 있다.

세대 구분 동역학은 모든 개체가 동시에 다음 세대로 교체되는 상황을 모델링한다. 배경 적응도(기본 생존율 등)를 `α`라고 하면, 시간 `t`에서 `t`+1로 변할 때 전략 `i`의 점유율은 다음과 같이 표현된다.

: `x`_`i`(`t`+1) = [`α` + `u`(`e`^`i`, `x`(`t`))] / [`α` + `u`(`x`(`t`), `x`(`t`))] * `x`_`i`(`t`)

이 식은 전략 `i`의 적응도(`α` + `u`(`e`^`i`, `x`(`t`)))가 집단 평균 적응도(`α` + `u`(`x`(`t`), `x`(`t`)))보다 높을수록 다음 세대에서 점유율 `x`_`i`가 증가함을 보여준다.

반면, 세대 중복 동역학은 단위 시간 동안 집단의 일부만 새로운 개체로 교체되는 상황을 모델링한다. 단위 시간당 `r`회에 걸쳐 집단의 1/`r`씩 갱신된다고 가정하자. 갱신 시간 간격을 `τ` = 1/`r`로 두고, 배경 적응도를 `β`라고 하면, 동역학은 다음과 같이 표현된다.

: `x`_`i`(`t`+`τ`) = {1 - `τ` + `τ`[`β` + `u`(`e`^`i`, `x`(`t`))]} / {1 - `τ` + `τ`[`β` + `u`(`x`(`t`), `x`(`t`))]} * `x`_`i`(`t`)

여기서 1 - `τ`는 이전 세대에서 생존한 개체의 비율을, `τ`[`β` + `u`(...)]는 새로 태어난 개체의 적응도를 반영한 비율을 나타낸다. 만약 갱신 횟수 `r`을 무한히 크게 하면 (즉, 시간 간격 `τ`가 0에 가까워지면), 이 이산 시간 동역학은 앞서 설명한 연속 시간 복제자 동역학으로 수렴한다.

4. 주요 게임 모델

진화 게임 이론은 동물의 행동 전략이 어떻게 진화하는지를 설명하기 위해 다양한 수학적 모델을 사용한다. 이러한 모델들은 특정 환경 조건 하에서 개체들이 상호작용할 때 어떤 전략이 자연 선택을 통해 선호되는지를 분석하는 데 도움을 준다. 대표적인 주요 게임 모델로는 다음과 같은 것들이 있다.

'''매-비둘기 게임''': 공유 가능한 자원을 두고 벌이는 경쟁에서 나타나는 공격적인 전략(매)과 온건한 전략(비둘기) 사이의 진화적 균형점을 탐구하는 모델이다. 이를 통해 왜 많은 동물 경쟁이 극단적인 싸움보다는 의례적인 형태로 나타나는지를 설명할 수 있다.^[1]
'''소모전''': 공유할 수 없는 자원을 두고 경쟁자들이 누가 더 오랫동안 비용(시간, 에너지 등)을 감수하며 버티는지를 겨루는 상황을 모델링한다. 이 모델은 경쟁자들이 예측 불가능한 방식으로 행동하는 혼합 전략이 왜 진화적으로 안정적일 수 있는지를 보여준다.^[17]^[18]
'''비대칭 게임''': 경쟁자들 사이에 존재하는 명확한 차이(예: 자원의 소유 여부, 크기, 힘 등)가 전략 선택에 어떻게 영향을 미치는지를 분석한다. 부르주아 전략과 같이 상황에 따라 다른 행동을 보이는 조건부 전략이 어떻게 진화적으로 안정적인 전략(ESS)이 될 수 있는지를 설명한다.

이러한 모델들은 각기 다른 경쟁 상황과 조건을 가정하며, 실제 자연에서 관찰되는 다양한 동물 행동의 진화적 배경을 이해하는 이론적 틀을 제공한다. 각 모델은 특정 조건 하에서 어떤 전략이 진화적으로 안정적인 전략(ESS)으로 자리 잡게 되는지를 예측하는 데 사용된다.

4. 1. 매-비둘기 게임 (Hawk-Dove Game)

메이너드 스미스가 분석한 첫 번째 게임은 고전적인 치킨 게임의 변형인 매-비둘기 게임이다. 이 게임은 콘라트 로렌츠와 니콜라스 틴베르헌이 제기한 문제, 즉 공유 가능한 자원을 두고 벌이는 경쟁을 분석하기 위해 고안되었다. 게임 참가자는 '매' 또는 '비둘기' 전략을 사용하는 동일 종 내의 다른 유형으로 간주된다. 매는 먼저 공격적인 모습을 보이고, 이기거나 부상을 입을 때까지 싸움을 계속한다. 반면 비둘기는 먼저 공격적인 모습을 보이지만, 상대가 싸움을 심각하게 확대하면 안전을 위해 도망간다. 만약 상대가 싸움을 확대하지 않으면, 비둘기는 자원을 공유하려고 시도한다.^[1]

자원의 가치를 V, 싸움으로 인해 발생하는 부상(손실)의 비용을 C라고 가정할 때, 각 전략의 보상은 다음과 같이 결정된다.^[1]

style="white-space:nowrap"| 매-비둘기 게임의 보상 행렬
	매 만남	비둘기 만남
매인 경우	V/2 − C/2	V
비둘기인 경우	0	V/2

매가 비둘기를 만날 경우: 매는 전체 자원 V를 얻는다.
매가 매를 만날 경우: 절반의 확률로 이기고(V 획득) 절반의 확률로 진다(C 손실). 평균적인 결과는 V/2 - C/2이다.
비둘기가 매를 만날 경우: 비둘기는 즉시 물러나므로 아무것도 얻지 못한다 (보상 0).
비둘기가 비둘기를 만날 경우: 둘은 자원을 공유하여 각각 V/2를 얻는다.

실제 게임에서의 보상은 상대방이 매일 확률과 비둘기일 확률에 따라 달라진다. 이 확률은 개체군 내 매와 비둘기의 비율에 의해 결정되며, 이 비율은 과거 경쟁의 결과에 따라 계속 변동한다. 만약 싸움에서 패배했을 때의 비용(C)이 승리했을 때 얻는 자원의 가치(V)보다 크다면 (C > V), 이는 자연계에서 흔히 볼 수 있는 상황인데, 수학적으로 진화적으로 안정적인 전략(ESS)은 매와 비둘기가 혼합된 상태로 나타난다. 이 ESS 상태에서 매의 비율은 V/C가 된다. 만약 외부 요인으로 인해 개체군 내 매나 비둘기의 비율이 일시적으로 변하더라도, 개체군은 다시 이 평형점(매 비율 V/C)으로 돌아가려는 경향을 보인다.

매-비둘기 게임의 결과는 왜 대부분의 동물 경쟁이 극단적인 싸움보다는 의례적인 싸움 행동으로 나타나는지를 설명해준다. 이는 콘라트 로렌츠가 주장했던 것처럼 종 전체의 이익을 위한 행동(집단 선택) 때문이 아니라, 개별 유전자의 생존 가능성을 높이는 방향으로 행동이 진화했다는 소위 이기적인 유전자의 관점에서 설명될 수 있다.^[1]

진화적으로 안정적인 전략(ESS)은 고전 게임 이론의 내쉬 균형과 유사하지만, 진화적 맥락에 맞게 확장된 개념이다. ESS는 특정 전략을 사용하는 개체군에 다른 돌연변이 전략이 침입하여 성공적으로 퍼져나갈 수 없는 안정된 상태를 의미한다. 성공적인 전략(ESS 포함)은 개체군 내에서 드물 때(초기 침입 시)나 흔할 때(기존 전략 방어 시) 모두 효과적이어야 한다. 즉, 자신과 같은 전략을 가진 다른 개체들과 경쟁할 때도 성공적이어야 한다.^[38]^[39]^[40]

ESS는 다음과 같은 특징을 갖지 않는다.

최적의 전략: ESS는 적합도를 최대로 높이는 전략이 아닐 수 있다. 많은 ESS 상태는 이론적으로 달성 가능한 최대 적합도보다 낮은 수준이다. (위의 매-비둘기 그래프 참조)
단일 해법: 하나의 경쟁 상황에서 여러 개의 ESS가 존재할 수 있다. 특정 경쟁은 이 중 하나의 ESS로 안정화될 수 있지만, 환경 변화 등 큰 교란이 발생하면 다른 ESS 상태로 이동할 수 있다.
항상 존재: ESS가 존재하지 않는 게임도 가능하다. 예를 들어, 얼룩 도마뱀(''Uta stansburiana'')에서 발견되는 "가위바위보"와 같은 순환적 우위 관계가 있는 경우 ESS가 없을 수 있다.
무적의 전략: ESS는 다른 전략의 침입을 막을 수 있는 안정적인 전략일 뿐, 모든 상황에서 절대적으로 우월한 전략은 아니다.

ESS 상태는 개체군 변화의 동역학을 분석하거나, 안정적인 고정점 조건을 만족하는 방정식을 풀어 찾을 수 있다.^[42] 예를 들어, 매-비둘기 게임에서 비둘기의 적합도와 매의 적합도가 같아지는 개체군 비율(p, 매의 비율)을 찾으면 ESS를 구할 수 있다.

매를 만날 확률을 p라고 하면, 비둘기를 만날 확률은 (1-p)이다.

매의 평균 보수(적합도) W_hawk는 다음과 같다:

W_hawk = (비둘기를 만났을 때의 보수) × (비둘기를 만날 확률) + (매를 만났을 때의 보수) × (매를 만날 확률)

W_hawk = V × (1-p) + (V/2 - C/2) × p

비둘기의 평균 보수(적합도) W_dove는 다음과 같다:

W_dove = (비둘기를 만났을 때의 보수) × (비둘기를 만날 확률) + (매를 만났을 때의 보수) × (매를 만날 확률)

W_dove = V/2 × (1-p) + 0 × p

W_dove = V/2 × (1-p)

ESS 상태에서는 두 전략의 적합도가 같으므로, W_hawk = W_dove 이다.

V × (1-p) + (V/2 - C/2) × p = V/2 × (1-p)

이 방정식을 p에 대해 풀면 다음과 같다:

p = V/C

따라서 이 게임의 ESS에서 매의 비율은 V/C이다. 마찬가지로 부등식을 사용하여 분석하면, 이 ESS 상태에서 추가적인 매나 비둘기 돌연변이가 개체군에 유입될 경우, 결국 해당 돌연변이 전략의 평균 적합도가 감소하여 원래의 ESS 비율로 돌아가게 됨을 알 수 있다. 이는 이 상태가 진정한 내쉬 균형이자 ESS임을 보여준다. 이 예시는 경쟁으로 인한 부상이나 죽음의 위험(비용 C)이 잠재적 보상(가치 V)보다 훨씬 클 때, 안정된 개체군은 공격적인 매와 온건한 비둘기가 섞여 존재하며, 비둘기의 비율이 매의 비율보다 높다는 것을 보여준다. 이는 실제 자연에서 관찰되는 동물들의 다양한 경쟁 행동 양상을 설명하는 데 기여한다.

4. 2. 소모전 (War of Attrition)

매파-비둘기 게임에서는 자원을 공유할 수 있어, 만나는 두 비둘기 모두에게 보상이 돌아간다. 하지만 자원을 공유할 수 없고, 경쟁에서 물러나 다른 곳에서 자원을 찾아야 하는 상황이라면 순수한 매파나 비둘기 전략은 효과적이지 않다. 만약 공유할 수 없는 자원에 더해 경쟁에서 패배했을 때의 비용(부상 또는 사망 가능성)이 크다면, 매파와 비둘기 전략 모두 보상이 더욱 줄어든다. 이때는 낮은 비용으로 상대를 위협하는 과시나 허세, 또는 승리하기 위해 기다리는 것과 같은 더 안전한 전략이 중요해진다. 이것이 바로 허세 전략이다.^[17]

결국 이 게임은 과시 비용이나 해결되지 않은 채 길어지는 대치 상황의 비용 중 하나를 축적하는 방식으로 진행된다. 이는 사실상 경매와 유사하다. 승자는 더 큰 비용을 감수한 경쟁자가 되며, 패자는 승자와 거의 같은 비용을 지불하지만 자원은 얻지 못한다.^[17] 이러한 상황에서 진화 게임 이론의 수학적 분석은 시기적절한 허세 부리기의 최적 전략을 도출하게 된다.^[18]

소모전에서 예측 가능하게 행동하는 전략은 불안정하다. 왜냐하면 그런 전략은 결국 약간의 추가 비용을 투자하여 승리를 보장함으로써 기존 전략을 능가하는 돌연변이 전략에 의해 대체될 것이기 때문이다. 따라서 무작위적이고 예측 불가능한 전략만이 허세 부리는 개체군 내에서 유지될 수 있다. 경쟁자들은 자신이 얻으려는 자원의 가치에 맞춰 감당할 수 있는 비용을 정하고, 혼합 전략(경쟁자가 여러 가능한 행동 중 하나를 선택하는 전략)의 일부로 무작위적인 '입찰'을 한다. 이는 특정 가치 V를 가진 자원에 대한 입찰 분포를 형성하며, 각 경쟁에서의 입찰은 이 분포에서 무작위로 선택된다. 이 분포(ESS)는 모든 혼합 전략 ESS에 적용되는 비숍-캐닝스 정리를 사용하여 계산할 수 있다.^[19] 이러한 경쟁에서의 분포 함수는 파커와 톰슨에 의해 다음과 같이 결정되었다.

:

p(x)=\frac{e^{-x/V}}{V}.

그 결과, 이 "혼합 전략" 해법에서 특정 비용 m에 도달했을 때 포기하는 개체의 누적 비율은 다음과 같다.

:

p(m)=1- e^{-m/V},

이는 인접한 그래프에서도 확인할 수 있다. 이 결과는 얻으려는 자원의 가치가 클수록 경쟁자들이 더 오래 기다리는 경향이 있다는 직관적인 예측과 일치한다. 이러한 행동은 수컷 똥파리가 짝짓기 장소를 놓고 경쟁하는 것과 같이 자연에서도 관찰되며, 경쟁에서 물러나는 시점은 진화 이론의 수학적 예측과 잘 들어맞는다.^[20]

소모전에서는 상대방에게 자신이 얼마만큼의 비용을 감수할지(입찰 규모) 알리는 신호가 없어야 한다. 만약 신호가 있다면 상대방이 이를 이용해 효과적인 대응 전략을 사용할 수 있기 때문이다. 그러나 경쟁자 간에 뚜렷한 비대칭성이 존재한다면, 소모전에서 허세를 부리는 전략을 능가할 수 있는 돌연변이 전략, 즉 부르주아 전략이 등장할 수 있다. 부르주아 전략은 어떤 종류의 비대칭성을 이용하여 교착 상태를 깨뜨린다. 자연에서 흔히 볼 수 있는 비대칭성 중 하나는 자원의 소유 여부이다. 이 전략은 자신이 자원을 소유하고 있을 때는 매처럼 공격적으로 행동하고, 소유하고 있지 않을 때는 잠시 과시하다가 물러나는 방식으로 작동한다. 이는 단순한 매 전략보다 더 높은 인지 능력을 필요로 하지만, 부르주아 전략은 갯가재나 점박이 나무 나비 사이의 경쟁과 같이 많은 동물 경쟁에서 흔하게 관찰된다.

4. 3. 비대칭 게임 (Asymmetric Games)

소모전에서는 상대방에게 자신의 입찰 규모를 알리는 신호가 없어야 한다. 만약 신호가 있다면, 상대방은 이를 이용하여 효과적인 대응 전략을 구사할 수 있기 때문이다. 그러나 게임에 적절한 비대칭성이 존재한다면, 소모전 게임에서도 허풍선(bluffer) 전략을 능가하는 돌연변이 전략, 즉 부르주아 전략(bourgeois strategy)이 나타날 수 있다.

부르주아 전략은 특정 종류의 비대칭성을 이용하여 교착 상태를 깨는 방식이다. 자연에서 흔히 발견되는 비대칭성 중 하나는 자원의 소유 여부이다. 이 전략을 사용하는 개체는 자신이 자원을 소유하고 있을 때는 매(hawk) 전략처럼 공격적으로 싸우고, 자원을 소유하지 않았을 때는 잠시 과시하다가 후퇴한다. 이 전략은 단순한 매 전략보다 더 높은 인지 능력을 필요로 하지만, 갯가재나 점박이 나무 나비 사이의 경쟁과 같이 많은 동물 경쟁 상황에서 흔하게 관찰된다.

5. 사회적 행동의 진화

진화 게임 이론은 협력, 이타주의, 공격성 등 다양한 사회적 행동이 어떻게 자연 선택을 통해 진화하고 유지될 수 있는지를 설명하는 강력한 이론적 틀을 제공한다. 개체의 생존과 번식에 직접적인 이득이 없어 보이는 행동, 예를 들어 자신을 희생하여 다른 개체를 돕는 이타적 행동이나 복잡한 협력 관계가 어떻게 진화적으로 안정된 전략(ESS)으로 자리 잡을 수 있었는지는 오랫동안 진화 생물학의 중요한 질문이었다.

진화 게임 이론은 이러한 사회적 행동들을 개체 간의 전략적 상호작용으로 모델링하여 분석한다. 특히 죄수의 딜레마, 매와 비둘기 게임, 소모전 등의 게임 모델을 통해 경쟁과 협력의 다양한 양상을 수학적으로 탐구하며, 어떤 조건에서 특정 사회적 행동 전략이 다른 전략들보다 더 성공적으로 퍼져나갈 수 있는지를 예측한다. 이를 통해 친족 선택, 상호 이타주의(직접 상호성 및 간접 상호성 포함) 등 사회적 행동의 진화를 설명하는 핵심 메커니즘들을 이해하는 데 크게 기여하였다.

5. 1. 사회적 상호작용

매와 비둘기 게임이나 소모전과 같은 게임은 개인 간의 순수한 경쟁을 나타내며 관련된 사회적 요소가 없다. 사회적 영향이 적용되는 경우, 경쟁자는 전략적 상호 작용을 위해 네 가지 가능한 대안을 가진다. 이는 인접한 그림에 표시되어 있으며, 더하기 기호는 이점을 나타내고 빼기 기호는 비용을 나타낸다.

협력 또는 상호 이익 관계에서는 "기증자"와 "수혜자"가 거의 구별되지 않으며, 둘 다 협력함으로써 게임에서 이점을 얻는다. 즉, 쌍은 특정 전략을 실행함으로써 둘 다 이익을 얻을 수 있는 게임 상황에 있거나, 효과적으로 "같은 배"에 타게 만드는 포괄적인 제약으로 인해 둘 다 협력해야 한다.
이타주의 관계에서는 기증자가 자신에게 비용을 들여 수혜자에게 이점을 제공한다. 일반적인 경우, 수혜자는 기증자와 친족 관계를 가지며 기증은 일방적이다. 이점이 비용을 들여 번갈아 (양방향으로) 기증되는 행동은 종종 "이타적"이라고 불리지만, 분석 결과 이러한 "이타심"은 최적화된 "이기적인" 전략에서 발생한다는 것을 알 수 있다.
악의는 본질적으로 어느 쪽도 실질적인 이점을 받지 못하는 협력의 "반전된" 형태이다. 일반적인 경우, 동맹자는 친족 관계에 있으며 이점은 동맹자에게 더 쉬운 경쟁 환경이다. (참고: 이타심과 악의의 초기 수학적 모델러 중 한 명인 조지 프라이스는 이러한 등가성을 감정적으로 특히 불안하게 여겼다.)^[21]
이기주의는 게임 이론적 관점에서 모든 전략적 선택의 기본 기준이다. 자기 생존과 자기 복제를 목표로 하지 않는 전략은 어떤 게임에서도 오래가지 않는다. 그러나 결정적으로, 이 상황은 경쟁이 유전자, 개인 및 집단 수준 등 여러 수준에서 이루어지고 있다는 사실의 영향을 받는다.

이타주의는 한 개체가 자신에게 손실(C)을 감수하고 다른 개체에게 이익(B)을 제공하는 전략을 사용할 때 발생한다. 손실은 생존과 번식을 위한 경쟁에서 도움이 되는 능력이나 자원의 손실, 또는 자신의 생존에 대한 위험 증가로 구성될 수 있다. 이타주의 전략은 다음을 통해 발생할 수 있다.

유형	적용 대상	상황	수학적 효과
혈연 선택 – (관련된 경쟁자의 포괄 적합성)	혈연 - 유전적으로 관련된 개체	진화 게임 참가자는 전략의 유전자이다. 개체에게 가장 좋은 보상은 반드시 유전자에게 가장 좋은 보상이 아니다. 어떤 세대에서든 플레이어 유전자는 단 하나의 개체에만 있는 것이 아니라 혈연 집단에 있다. 혈연 집단의 가장 높은 적합성 보상은 자연 선택에 의해 선택된다. 따라서 개체의 자기 희생을 포함하는 전략이 종종 게임에서 승리한다. 즉, 진화적으로 안정적인 전략이다. 동물이 이 이타적 희생이 일어날 기회를 얻기 위해서는 게임의 일부 동안 혈연 집단에서 살아야 한다.	게임은 포괄 적합성을 고려해야 한다. 적합성 함수는 관련된 경쟁자 그룹의 결합된 적합성이다. 각자는 관련 정도에 따라 가중치가 부여되며, 이는 전체 유전자 집단과 관련된다. 이러한 유전자 중심의 게임 관점에 대한 수학적 분석은 해밀턴의 규칙으로 이어지며, 이타적 기증자의 관련성은 이타적 행위 자체의 비용-편익 비율을 초과해야 한다.^[33]
직접 상호성	짝을 이룬 관계에서 호의를 주고받는 경쟁자	"네가 내 등을 긁어주면 나도 네 등을 긁어줄게"의 게임 이론적 구현이다. 두 개체는 여러 라운드 게임에서 호의를 주고받는다. 개체는 서로 파트너로 인식할 수 있다. "직접"이라는 용어는 반환된 호의가 파트너에게만 특별히 주어지기 때문에 적용된다.	여러 라운드 게임의 특성은 각 라운드에서 탈주 위험과 협력의 잠재적으로 더 낮은 보상을 초래하지만, 그러한 탈주는 다음 라운드에서 처벌로 이어질 수 있으며, 이로 인해 게임은 반복된 죄수의 딜레마로 설정된다. 따라서, 팃포탯 전략 계열이 중요해진다.^[34]
간접 상호성	관련되거나 관련되지 않은 경쟁자가 파트너십 없이 호의를 주고받는다. 반환 호의는 "암시"되지만 그것을 줄 특정 출처는 식별되지 않는다.	반환 호의는 특정 파트너로부터 파생되지 않는다. 간접 상호성의 가능성은 특정 유기체가 장기간 상호 작용할 수 있는 개체 클러스터에 살고 있는 경우 존재한다.	게임은 직접적인 보복이 불가능하므로 탈주에 매우 취약하다. 따라서 간접 상호성은 사회적 점수, 즉 과거 협력적 행동의 척도를 유지하지 않으면 작동하지 않는다. 수학은 해밀턴의 규칙의 수정된 버전으로 이어진다. 여기서:

5. 2. 이기적 유전자와 친족 선택

진화 게임 이론에서 경쟁의 주체는 개별 생명체가 아니라, 여러 세대에 걸쳐 지속되며 복제되는 전략, 즉 이기적 유전자로 볼 수 있다.^[7] 개체는 한 세대 동안만 존재하지만, 그 개체가 가진 유전자는 다음 세대로 전달되어 게임에 계속 참여하기 때문이다. 따라서 경쟁의 궁극적인 단위는 특정 전략을 담고 있는 유전자이며, 이 유전자는 해당 개체뿐만 아니라 유전적으로 가까운 친족들에게도 일정 비율 공유된다. 이러한 유전자 공유는 특히 협력이나 이타주의와 같은 사회적 행동의 진화를 이해하는 데 중요한 열쇠가 된다.

윌리엄 해밀턴은 이러한 관점에서 친족 선택(kin selection) 이론을 발전시켰다.^[23] 그는 게임 이론 모델을 활용하여 유전적 관련성이 높은 개체들 사이에서 나타나는 협력과 이타적 행동을 설명하고자 했다. 친족 선택 이론은 사회성 곤충의 복잡한 사회 구조, 부모와 자식 간의 상호작용에서 나타나는 이타성, 위험을 감수하는 상호 보호 행동, 협력적인 자손 돌봄 등 다양한 생물학적 현상을 설명하는 데 기여했다.^[24]

해밀턴은 친족 선택을 설명하기 위해 포괄 적합도(inclusive fitness)라는 개념을 도입했다. 이는 개체 자신의 번식 성공률(자신의 자손 수)뿐만 아니라, 자신과 유전자를 공유하는 친족들의 번식 성공에 기여하는 정도까지 포함하는 확장된 적합도 개념이다. 즉, 개체는 자신의 유전자를 직접 후손에게 물려주는 것 외에도, 친족이 후손을 남기도록 도움으로써 간접적으로 자신의 유전자 사본을 다음 세대에 남길 수 있다.

'''친족 선택의 수학적 설명'''
내용	설명
개체의 포괄 적합도(w_i)는 자신의 직접적인 적합도 기여분(a_i)과 모든 친족(j)의 적합도 기여분(b_j)을 각 친족과의 유전적 근연도(r_j)로 가중치를 두어 합산한 값이다.
어떤 개체가 이타적인 행동(예: 경고음 내기, 먹이 양보)을 함으로써 자신에게 드는 비용(Cost, C)이 발생하고, 그 행동으로 인해 수혜자인 친족이 얻는 이익(Benefit, B)이 있다면, 이 이타적 행동이 진화적으로 선택되기 위한 조건은 다음과 같다. 이때 R은 이타적 행위자와 수혜자 사이의 평균 유전적 근연도(Relatedness)를 나타낸다.

진사회성 곤충(예: 개미, 벌, 흰개미) 사회에서 나타나는 극단적인 형태의 이타주의, 즉 일개미나 일벌이 자신의 번식 능력을 포기하고 여왕의 번식을 돕는 행동은 친족 선택 이론으로 설명되기도 한다. 특히 개미목(개미, 벌 등) 곤충 다수는 반수배수성이라는 독특한 성 결정 방식을 가지는데, 이로 인해 자매 간의 유전적 근연도가 부모-자식 간의 근연도보다 더 높아지는 경우가 생긴다. 이러한 높은 근연도는 일개미가 자신의 번식 대신 자매(미래의 여왕 또는 일개미)를 돌보는 이타적 행동을 진화시키는 강력한 요인이 될 수 있다.^[26]^[27]

그러나 모든 학자가 곤충의 진사회성을 전적으로 친족 선택만으로 설명하는 데 동의하는 것은 아니다. 일부 연구자들은^[28] 순차적 발달 과정이나 집단 선택과 같은 다른 요인들이 복합적으로 작용했을 가능성을 제기하며 대안적인 설명을 제시하기도 한다.^[29]

해밀턴은 친족 관계를 넘어서, 유전적으로 관련 없는 개체들 사이에서도 협력이나 이타주의가 어떻게 진화할 수 있는지 탐구하기 위해 로버트 액설로드와 협력하여 상호 이타주의(reciprocal altruism)에 대한 게임 이론적 분석을 수행하기도 했다.^[25]

5. 3. 진사회성과 친족 선택

진화 게임 이론에서 경쟁의 주체는 개별 생명체가 아니라, 여러 세대에 걸쳐 지속되며 경쟁하는 전략(strategy) 그 자체이다. 이러한 전략은 유전자에 의해 결정되므로, 궁극적인 경쟁은 개체 내에 존재하며 그 개체의 친족들과도 공유되는 '이기적인 유전자' 사이에서 벌어진다고 할 수 있다. 이는 특히 협력이나 이타적 행동이 어떻게 진화할 수 있는지 설명하는 데 중요한 열쇠가 된다.

윌리엄 해밀턴은 이러한 현상을 설명하기 위해 친족 선택(kin selection) 이론을 발전시켰다.^[23] 그는 게임 이론 모델을 사용하여, 유전자를 공유하는 친족 사이의 관계가 개체의 행동 전략에 어떤 영향을 미치는지 분석했다. 친족 선택 이론은^[24] 사회성 곤충의 독특한 행동 방식, 부모가 자식을 돌보는 이타적인 행동, 위험을 감수하고 서로를 보호하는 행동, 협력하여 새끼를 키우는 행동 등 다양한 사회적 상호작용을 설명하는 데 도움을 준다.

해밀턴은 개체의 번식 성공률을 평가하는 전통적인 '적합도' 개념을 확장하여 포괄 적합도(inclusive fitness)라는 개념을 제시했다. 포괄 적합도는 개체 자신의 번식 성공(자신의 자손 수)뿐만 아니라, 그 개체의 행동이 친족들의 번식 성공에 미치는 영향까지 고려한다. 이때 친족의 번식 성공 기여분은 유전적 관련도(relatedness, r)에 따라 가중치가 부여된다.

친족 선택의 수학적 설명^[24]

예를 들어, 벨딩 땅다람쥐 암컷은 포식자가 나타나면 경고음을 내어 주변의 다른 암컷 친족들(자매, 딸 등)에게 위험을 알리는데, 이 과정에서 자신이 포식자에게 발각될 위험(C)이 높아짐에도 불구하고 이러한 행동을 보인다. 이는 경고음을 통해 얻는 친족들의 생존 이득(B)과 높은 유전적 관련도(R)의 곱이 자신이 감수하는 위험(C)보다 크기 때문(R × B > C)으로 해석될 수 있다.^[22]

해밀턴은 친족 관계가 없는 개체들 사이에서도 협력이 나타나는 현상을 설명하기 위해 로버트 액설로드와 협력하여 상호 이타주의(reciprocal altruism)에 대한 게임 이론적 분석을 수행하기도 했다.^[25]

진사회성(eusociality)을 보이는 곤충 사회, 예를 들어 개미나 벌 사회에서 일개미(또는 일벌)들은 스스로 번식하지 않고 여왕의 번식을 돕는 극단적인 이타적 행동을 보인다. 이러한 행동 역시 친족 선택 이론으로 설명될 수 있다.^[26] 특히, 벌목(Hymenoptera)에 속하는 많은 진사회성 곤충들은 반수배수성(haplodiploidy)이라는 독특한 성 결정 방식을 가지고 있다. 이 방식 때문에 암컷(일개미)들은 자신의 자매들과 평균적으로 0.75라는 매우 높은 유전적 관련도를 가지게 된다. 이는 어머니(여왕)나 자신의 자식과의 관련도(0.5)보다도 높은 수치이다. 따라서 일개미 입장에서는 직접 자신의 자식을 낳는 것(C/B 값이 0.5에 해당)보다, 여왕을 도와 더 많은 자매(새로운 일개미 또는 차세대 여왕)를 생산하는 것(R 값이 0.75)이 자신의 유전자를 다음 세대에 더 효과적으로 퍼뜨리는 전략(R > C/B 충족)이 될 수 있다.^[27]

하지만 모든 학자가 곤충의 진사회성을 친족 선택만으로 설명하는 데 동의하는 것은 아니다. 마틴 노вак이나 에드워드 O. 윌슨과 같은 일부 진화생물학자들은^[28] 반수배수성 가설에 이의를 제기하며, 진사회성의 진화에는 개체의 순차적 발달 과정이나 집단 전체에 작용하는 집단 선택(group selection) 효과가 더 중요하다고 주장하는 대안적인 설명을 제시하기도 했다.^[29]

5. 4. 죄수의 딜레마 (Prisoner's Dilemma)

찰스 다윈이 진화 이론에서 설명하기 어려워했던 문제 중 하나는 이타주의였다. 선택의 기반이 개체 수준에 있다면 이타주의는 설명하기 어렵다. 집단 수준에서의 보편적 선택(개인이 아닌 종의 이익을 위한) 역시 게임 이론의 수학적 검증을 통과하지 못하며, 자연계에서 일반적인 경우도 아니다.^[30]

이 문제에 대한 해결책은 진화 게임 이론을 죄수의 딜레마 게임에 적용하여 찾을 수 있다. 죄수의 딜레마는 협력하거나 협력에서 이탈(배신)할 때의 보상을 시험하는 게임으로, 모든 게임 이론 중에서 가장 많이 연구되는 게임 중 하나이다.^[31]

죄수의 딜레마는 주로 반복되는 게임으로 분석된다. 이는 경쟁자들에게 게임의 이전 라운드에서 상대방의 배신에 대해 보복할 가능성을 제공한다. 많은 전략들이 시험되었으며, 가장 경쟁력 있는 전략은 기본적으로 협력하되 필요할 경우 보복적인 반응을 포함하는 것들이다.^[32] 이 중 가장 유명하고 성공적인 전략 중 하나는 간단한 알고리즘을 가진 눈에는 눈(Tit for Tat) 전략이다. 이 전략은 첫 행동은 협력으로 시작하고, 이후에는 상대방이 바로 전에 했던 행동을 그대로 따라하는 방식이다. 즉, 상대가 협력하면 다음에도 협력하고, 상대가 배신하면 다음에는 배신으로 응수한다.

죄수의 딜레마 게임의 두 가지 변형에서의 보상
죄수의 딜레마: 협력 또는 배신
보상 _{(배신 vs. 협력의 유혹)} > 보상 _{(상호 협력)} > 보상_{(공동 배신)} > 보상_{(어리석은 자는 협력하지만 상대방은 배신)}

게임의 단일 라운드에 대한 보상은 보상 행렬에 의해 정의된다. 다중 라운드 게임에서는 협력 또는 배신과 같은 다양한 선택이 특정 라운드에서 이루어질 수 있으며, 이는 해당 라운드의 보상으로 이어진다. 그러나 '눈에는 눈'과 같은 다중 라운드 전략의 전체적인 성공 여부를 결정하는 것은 여러 라운드에 걸쳐 축적될 수 있는 총 보상이다.

예시 1: 간단한 단일 라운드 죄수의 딜레마 게임. 고전적인 죄수의 딜레마 게임 보상은 플레이어가 배신하고 파트너가 협력할 경우 최대 보상을 제공한다(이 선택은 '유혹'으로 알려져 있다). 반대로 플레이어가 협력하고 파트너가 배신하면 최악의 결과('어리석은 자의 보상')를 얻는다. 이러한 보상 조건 하에서는 상대방이 어떤 선택을 하든 배신하는 것이 최선의 선택(내쉬 균형)이다.

예시 2: 반복적으로 진행되는 죄수의 딜레마. 사용된 전략이 이전 라운드에서 파트너가 취한 행동에 따라 행동을 변경하는 '눈에는 눈'이라면 상황이 달라진다. 이 전략은 협력에 대한 보상과 배신에 대한 처벌을 내포한다. 여러 라운드에 걸쳐 이 전략이 축적된 보상에 미치는 영향은 두 플레이어 모두에게 더 높은 협력 보상과 더 낮은 배신 보상을 가져오는 경향이 있다. 이는 단기적인 배신의 유혹을 줄이는 효과를 낳는다. '어리석은 자의 보상' 역시 줄어들지만, 순수한 배신 전략에 의한 "침략"이 완전히 제거되지는 않는다.

5. 5. 이타주의의 경로

이타주의는 한 개체가 자신에게 손실(C)을 감수하고 다른 개체에게 이익(B)을 제공하는 전략을 사용할 때 발생한다. 여기서 손실이란 생존과 번식 경쟁에 도움이 되는 능력이나 자원의 손실, 또는 자신의 생존에 대한 위험 증가를 의미할 수 있다. 찰스 다윈 스스로도 인정했듯이, 개체 수준의 자연 선택을 기반으로 하는 진화론에서 이타주의의 존재는 설명하기 어려운 문제였다. 과거에는 집단 선택 가설, 즉 개체가 속한 종 전체의 이익을 위해 행동한다는 설명이 제시되기도 했으나, 이는 게임 이론의 수학적 검증을 통과하지 못하며 자연계에서 일반적인 현상으로 받아들여지지 않는다.^[30]

진화 게임 이론은 이러한 이타주의가 어떻게 진화적으로 유지될 수 있는지를 설명하는 여러 경로를 제시한다. 특히 죄수의 딜레마 게임 모델은 협력과 배신(이탈) 사이의 보상을 분석하여 이타주의의 등장을 설명하는 데 중요한 역할을 한다.^[31] 죄수의 딜레마가 반복될 경우, 이전 라운드의 배신에 대해 보복할 가능성이 생기면서 협력적인 전략이 더 유리해질 수 있다. 대표적인 예가 '눈에는 눈' 전략으로, 상대방이 협력하면 협력하고 배신하면 배신하는 간단한 알고리즘을 따른다.^[32]

이타주의 전략이 진화적으로 안정하게 유지될 수 있는 주요 경로는 다음과 같다.

유형	적용 대상	상황	수학적 효과
혈연 선택 (관련된 경쟁자의 포괄 적합도)	혈연 - 유전적으로 관련된 개체	진화 게임의 참여자는 전략을 담고 있는 유전자이다. 개체에게 최선인 보상이 반드시 유전자에게 최선인 것은 아니다. 특정 세대의 플레이어 유전자는 단일 개체뿐 아니라 혈연 집단 전체에 존재한다. 혈연 집단의 가장 높은 적합도 보상을 주는 전략이 자연 선택된다. 따라서 개체의 자기희생을 포함하는 전략(이타주의)이 진화적으로 안정한 전략이 될 수 있다. 이를 위해서는 동물이 게임의 일부 기간 동안 혈연 집단 내에서 생활해야 한다.	게임은 포괄 적합도를 고려해야 한다. 적합도 함수는 관련된 경쟁자 그룹의 결합된 적합성이며, 각자는 전체 유전자 풀에 대한 관련도에 따라 가중치가 부여된다. 이러한 유전자 중심 관점의 수학적 분석은 윌리엄 해밀턴이 제시한 해밀턴의 규칙으로 이어진다. 이 규칙에 따르면, 이타적 행동을 하는 개체(기증자)와 수혜자 사이의 유전적 관련도(R)가 그 행동에 드는 비용(c) 대 이익(b)의 비율보다 커야 한다.^[33]^[24]
직접 상호성	짝을 이룬 관계에서 호의를 주고받는 경쟁자	"네 등을 긁어주면 나도 네 등을 긁어준다"는 식의 게임 이론적 구현이다. 두 개체는 여러 라운드에 걸쳐 호의를 주고받으며, 서로를 파트너로 인식할 수 있다. 직접이라는 용어는 반환되는 호의가 특정 파트너에게만 주어지기 때문에 사용된다.	여러 라운드로 진행되는 게임의 특성은 매 라운드마다 배신(이탈)의 위험과 협력 시 잠재적으로 낮은 보상을 동반한다. 그러나 이러한 배신은 다음 라운드에서 처벌로 이어질 수 있으므로, 게임은 반복되는 죄수의 딜레마 상황이 된다. 이 경우 눈에는 눈과 같은 조건부 협력 전략이 효과적이다.^[34] 로버트 액설로드는 해밀턴과 협력하여 혈연관계가 없는 조건에서의 상호 이타주의 게임을 분석했다.^[25]
간접 상호성	관련되거나 관련되지 않은 경쟁자가 파트너십 없이 호의를 주고받음. 반환되는 호의는 암시되지만 특정 출처는 명시되지 않음.	반환되는 호의가 특정 파트너로부터 오는 것이 아니다. 간접 상호성은 특정 개체가 장기간 상호작용할 수 있는 집단 내에 살 때 가능하다. 인간 사회에서 개인의 평판을 추적하기 위해 도덕 시스템을 구축하고 상당한 에너지를 소비하는 행동은 간접 상호성 전략에 대한 사회의 의존성을 보여주는 예로 해석되기도 한다.^[35]	직접적인 보복이 불가능하므로 배신에 매우 취약하다. 따라서 간접 상호성은 과거의 협력적 행동을 측정하는 사회적 점수(평판)를 유지해야만 작동할 수 있다. 수학적으로는 해밀턴 규칙의 변형된 형태로 설명될 수 있다.

6. 불안정 게임과 순환 패턴

진화 게임 이론에서 모든 상호작용이 단일한 ESS(Evolutionarily Stable Strategy)로 귀결되는 것은 아니다. 어떤 경우에는 특정 전략의 빈도가 고정되지 않고 주기적으로 변동하는 순환 패턴이 나타나는데, 이는 게임 구조 자체의 불안정성 때문에 발생한다. 이러한 불안정 게임의 대표적인 예시가 바로 가위 바위 보(RPS)와 같이 순환적인 우위 관계를 갖는 전략들이 경쟁하는 상황이다.^[46]

자연에서 이러한 순환 패턴이 관찰되는 유명한 사례는 북아메리카 서부에 서식하는 얼룩 옆 도마뱀(''Uta stansburiana'')의 짝짓기 행동이다. 이 도마뱀 수컷들은 목 색깔에 따라 주황색, 노란색, 파란색의 세 가지 유형으로 나뉘며, 각각 다른 짝짓기 전략을 사용한다. 이 세 전략은 마치 가위, 바위, 보처럼 서로에게 강하고 약한 순환적인 관계를 형성한다 (예: 주황색은 파란색에 강하지만 노란색에 약함). 이 때문에 어느 한 전략도 영구적인 우위를 점하지 못하고, 세 전략의 상대적 비율이 개체군 내에서 계속해서 변동하는 순환 현상이 나타난다.^[47]^[48] 이 게임은 수학적으로 ESS를 가지지 않지만, 내시 균형(NE) 끌개 주변을 무한히 순환하는 동적 평형 상태를 보인다. 이러한 수컷들의 경쟁은 약 4년 주기의 개체군 순환을 만들어낸다.

더욱 흥미로운 점은 이 도마뱀 개체군 내에 또 다른 게임이 중첩되어 있다는 것이다. 암컷들 역시 목 색깔에 따라 다른 번식 전략, 즉 ''r-K'' 전략을 사용한다.^[49] ''r'' 전략은 맬서스 매개변수 ''r''과 관련되어 많은 수의 작은 자손을 낳는 전략으로, 개체군 밀도가 낮을 때 유리하다(주황색 암컷). 반면 ''K'' 전략은 환경 수용력 ''K''와 관련되어 적은 수의 큰 자손을 낳는 전략으로, 개체군 밀도가 높을 때 유리하다(노란색 및 파란색 암컷). 암컷들의 이러한 밀도 의존적인 번식 전략은 개체군 밀도의 주기적인 변동을 유발하며, 이는 수컷들의 RPS 게임과 상호작용하여 복잡한 순환 패턴을 만들어낸다. 이러한 밀도 조절로 인한 순환은 설치류 연구자 데니스 치티의 연구에서 유래하여 "치티 순환"이라고도 불린다.^[52] 이처럼 얼룩 옆 도마뱀의 사례는 자연계에서 어떻게 불안정한 게임 규칙이 개체군 내 전략과 밀도의 지속적인 순환 패턴을 만들어낼 수 있는지를 잘 보여준다.

6. 1. 가위바위보 게임 (Rock-Paper-Scissors)

가위 바위 보 게임의 컴퓨터 시뮬레이션. 관련된 RPS 게임 지불 행렬이 표시되어 있다. 임의의 개체 집단에서 시작하여 세 가지 형태의 비율이 지속적으로 순환하는 패턴으로 형성된다.

진화 게임 이론에 통합된 가위 바위 보(RPS)는 생태학 연구에서 자연 과정을 모델링하는 데 사용되어 왔다.^[43] 실험 경제학 방법을 사용하여 과학자들은 RPS 게임을 통해 실험실 환경에서 인간의 사회 진화 역학적 행동을 시험했다. 진화 게임 이론이 예측한 사회적 순환 행동은 다양한 실험실 실험에서 관찰되었다.^[44]^[45]

자연에서 RPS의 대표적인 사례는 북미 서부에 서식하는 작은 도마뱀인 얼룩 옆 도마뱀(학명: ''Uta stansburiana'')의 행동과 목 색깔에서 발견되었다. 이 도마뱀은 세 가지 목 색깔 형태를 가진 다형성을 보이며,^[46] 각 형태는 서로 다른 짝짓기 전략을 따른다.

얼룩 옆 도마뱀 수컷의 짝짓기 전략 비교
목 색깔	주요 특징	다른 전략과의 관계 (강함 → 약함)
주황색	매우 공격적, 넓은 영역 차지, 다수의 암컷과 짝짓기 시도	파란색 목 → 노란색 목
노란색	비공격적, 암컷 모방, 주황색 목 영역 침투 ("잠입")	주황색 목 → 파란색 목
파란색	일부일처제적, 한 암컷 보호, 동족(파란색)에게 이타적 (그린 비어드 효과)	노란색 목 → 주황색 목

주황색 목 수컷은 매우 공격적이며 넓은 영역을 차지하고 여러 암컷과 짝짓기를 시도한다. 이들은 파란색 목 수컷을 이길 수 있지만, 암컷을 모방하여 몰래 접근하는 노란색 목 수컷에게 취약하다.
노란색 목 수컷은 비공격적이며 암컷 도마뱀의 모습과 행동을 따라 하여 주황색 목 수컷의 영역에 몰래 들어가 암컷과 짝짓기를 한다. 이들은 주황색 목 수컷을 속일 수 있지만, 한 암컷을 철저히 지키는 파란색 목 수컷에게는 성공하기 어렵다.
파란색 목 수컷은 한 암컷과 짝을 이루고 그 암컷을 주의 깊게 보호한다. 이 전략은 잠입하는 노란색 목 수컷의 접근을 막는 데 효과적이다. 그러나 이들은 영역 다툼에서 더 공격적인 주황색 목 수컷에게 밀린다.

이후 연구에서는 파란색 목 수컷이 다른 (혈연관계가 없는) 파란색 목 수컷에게 이타적인 행동을 보인다는 사실이 밝혀졌다. 이들은 파란색 신호를 보내고, 다른 파란색 수컷을 인식하며 그 근처에 자리를 잡고, 심지어 주황색 목 수컷으로부터 자신의 짝뿐만 아니라 다른 파란색 수컷의 짝까지 방어하다가 죽기도 한다. 이는 그린 비어드 효과와 관련된 협력 게임의 특징이다.^[47]^[48]

같은 개체군의 암컷들도 목 색깔에 따라 다른 번식 전략을 보인다. 이는 자손의 수와 크기에 영향을 미쳐 개체군 밀도의 순환, 즉 또 다른 게임인 ''r-K'' 게임을 만들어낸다.^[49] 여기서 ''r''은 맬서스 매개변수로 지수적 성장을 나타내고, ''K''는 환경의 수용력을 의미한다.

주황색 암컷은 더 많은 수의 알을 낳지만 자손의 크기는 작다. 이들은 개체군 밀도가 낮을 때 번식에 유리하다 (''r'' 전략).
노란색 및 파란색 암컷은 더 적은 수의 알을 낳지만 자손의 크기는 크다. 이들은 개체군 밀도가 높을 때 번식에 유리하다 (''K'' 전략).

이러한 암컷의 두 전략은 개체군 밀도와 연관된 영구적인 순환을 만들어낸다. 밀도 조절로 인한 순환에 대한 아이디어는 설치류 연구자인 데니스 치티에게서 비롯되었으며, 이런 종류의 게임은 "치티 순환"으로 이어진다. 이처럼 얼룩 옆 도마뱀 개체군에는 여러 게임이 중첩되어 존재한다. 이 게임들은 수컷에서는 4년 주기의 RPS 순환을, 암컷에서는 2년 주기의 ''r-K'' 순환을 유발한다.

전체적인 상황은 가위, 바위, 보 게임에 해당하며, 4년 주기의 개체군 순환을 만들어낸다. 수컷 얼룩 옆 도마뱀의 RPS 게임은 ESS(Evolutionarily Stable Strategy)를 갖지 않지만, Nash 균형(NE) 끌개 주변을 무한히 순환하는 궤도를 갖는다. 이 연구 이후, 다른 도마뱀 종에서도 세 가지 전략 다형성이 다수 발견되었으며, 일부는 수컷 게임과 밀도 조절 게임이 한 성별(수컷) 내에서 결합된 RPS 역학을 보여준다.^[50] 최근에는 포유류에서도 수컷은 RPS 게임을, 암컷은 ''r-K'' 게임을 가지며 털 색깔 다형성과 행동 순환을 보이는 사례가 보고되었다.^[51] 이 게임은 설치류의 수컷 돌봄, 일부일처제 진화, 그리고 종 분화율과도 관련이 있는 것으로 여겨진다. 설치류 개체군 순환(및 도마뱀 순환)과 관련된 ''r-K'' 전략 게임도 존재한다.^[52]

이 도마뱀들이 본질적으로 가위 바위 보 구조의 게임에 참여하고 있다는 것을 알게 된 진화생물학자 존 메이너드 스미스는 "그들이 내 책을 읽었군!"이라고 외쳤다고 전해진다.^[53]

6. 2. 신호, 성 선택, 핸디캡 원리

찰스 다윈은 이타주의가 진화적으로 어떻게 유지될 수 있는지 설명하는 어려움 외에도 또 다른 난제에 직면했다. 그것은 많은 종들이 생존에 명백히 불리해 보이며 자연 선택 과정에서 제거되어야 할 표현형적 특징을 가지고 있다는 점이었다. 대표적인 예가 공작의 크고 거추장스러운 꼬리 깃털 구조이다. 다윈은 이 문제에 대해 동료에게 "공작 꼬리의 깃털을 볼 때마다 속이 메스꺼워진다"라고 편지를 쓰기도 했다.^[54] 이처럼 직관에 반하는 공작의 꼬리나 다른 생물학적 불리함의 존재를 설명하는 데 진화 게임 이론의 수학이 중요한 역할을 한다.

생물학적 삶의 문제는 자원 획득 및 관리(식사), 경쟁 전략(생존), 투자와 위험 및 수익(번식) 등 경제를 정의하는 문제와 유사한 측면이 많다. 게임 이론은 원래 경제 과정을 수학적으로 분석하기 위해 고안되었으며, 이러한 유사성 때문에 많은 생물학적 행동을 설명하는 데 유용하게 적용될 수 있다.

진화 게임 이론 모델은 비용 분석을 도입하여 설명을 더욱 정교하게 만들었다. 단순한 모델에서는 모든 경쟁자가 동일한 비용을 부담한다고 가정하지만, 실제로는 그렇지 않다. 더 성공적인 개체는 덜 성공적인 개체보다 더 많은 자원, 즉 '자원 보유 잠재력(Resource Holding Potential, RHP)'을 축적하게 된다. 진화 게임 이론은 RHP가 높은 경쟁자에게 특정 행동의 비용 부담이 RHP가 낮은 경쟁자보다 상대적으로 적다는 것을 보여준다.

RHP가 높은 개체는 성공적인 자손을 낳을 가능성이 높아 성 선택에서 더 선호되는 배우자이다. 따라서 RHP는 경쟁자들에게 어떤 방식으로든 신호될 필요가 있으며, 이 신호는 정직해야 한다. 아모츠 자하비는 이러한 논리를 바탕으로 '핸디캡 원리'를 제시했다.^[55] 이 원리에 따르면, 우월한 경쟁자(높은 RHP를 가진 개체)는 비용이 많이 드는 과시적 행동이나 특징(핸디캡)을 통해 자신의 우월성을 드러낸다. 높은 RHP를 가진 개체만이 이러한 비용을 감당할 수 있기 때문에, 이 신호는 본질적으로 정직하며 신호를 받는 개체도 이를 신뢰할 수 있다. 자연에서 공작의 화려하고 큰 꼬리는 이러한 핸디캡의 대표적인 예시로 설명된다. 핸디캡 원리에 대한 수학적 증명은 앨런 그래프가 진화 게임 이론 모델링을 사용하여 제시했다.^[56]

7. 공진화 (Coevolution)

진화 게임은 두 가지 주요한 역학적 결과를 보일 수 있다. 하나는 진화적으로 안정한 전략(ESS)으로 이어지는 안정적인 상태나 정체 지점에 도달하는 것이고, 다른 하나는 전체 개체군 내에서 경쟁 전략의 비율이 시간에 따라 지속적으로 순환하는 순환적 행동을 보이는 것이다(예: 가위바위보 게임).

공진화 역학은 종내 경쟁과 종간 경쟁을 결합한다. 대표적인 예로는 포식자와 피식자 간의 경쟁, 숙주와 기생충의 공진화, 그리고 상호 공생 관계가 있다. 진화 게임 모델은 이러한 쌍별 및 다종 공진화 시스템을 설명하기 위해 개발되었다.^[58] 공진화의 일반적인 역학은 경쟁적 시스템과 상호 공생 시스템 사이에서 다르게 나타난다.

경쟁적(비상호적) 종간 공진화 시스템에서는 종들이 서로 진화적 군비 경쟁에 참여하게 된다. 즉, 다른 종에 대항하여 경쟁하는 데 더 유리한 적응 형질이 보존되는 경향이 있다. 게임의 보상 구조와 복제자 동역학 모두 이러한 현상을 반영한다. 이는 마치 이상한 나라의 앨리스에 등장하는 붉은 여왕처럼, "제자리에 머물기 위해 할 수 있는 한 빨리 달려야" 하는 붉은 여왕 역학으로 이어진다.^[59]

수많은 진화 게임 이론 모델이 공진화 상황을 설명하기 위해 만들어졌다. 이러한 공진화 시스템의 핵심 요소는 군비 경쟁 속에서 전략이 지속적으로 적응해 나간다는 점이다. 따라서 공진화 모델링에는 종종 돌연변이의 효과를 반영하기 위해 유전자 알고리즘이 포함되며, 컴퓨터 시뮬레이션을 통해 전반적인 공진화 게임의 역학을 분석한다. 연구자들은 다양한 매개변수를 변경하면서 결과적인 역학의 변화를 연구한다. 여러 변수가 동시에 작용하기 때문에, 해답을 찾는 과정은 다변수 최적화 문제의 영역에 속한다. 안정적인 지점을 결정하는 수학적 기준으로는 파레토 효율성과 파레토 지배 개념이 사용되는데, 이는 다변수 시스템에서 해의 최적성을 측정하는 척도이다.^[60]

칼 베르그스트롬(Carl Bergstrom)과 마이클 라흐만(Michael Lachmann)은 진화 게임 이론을 유기체 간의 상호적 상호 작용에서 이익 분배 문제에 적용했다. 그들은 적합성에 대한 다윈주의적 가정을 바탕으로 복제자 동역학을 사용하여, 상호적 관계에서 느린 속도로 진화하는 유기체가 이익이나 보상을 불균형적으로 더 많이 얻게 된다는 것을 모델을 통해 보였다.^[61]

8. 모델 확장

수학적 모델은 시스템의 행동을 분석할 때, 연구 대상의 기본 사항 또는 "1차 효과"에 대한 기본적인 이해를 돕기 위해 처음에는 최대한 단순하게 설정하는 것이 일반적이다. 이러한 기본적인 이해가 이루어진 후에는, 좀 더 미묘한 다른 요소들(2차 효과)이 기존 행동에 추가적인 영향을 미치는지, 혹은 시스템 내에서 새로운 행동 양식을 만들어내는지 살펴보는 것이 필요하다. 진화 게임 이론 분야에서는 메이너드 스미스(Maynard Smith)의 선구적인 연구 이후 중요한 발전이 이루어졌는데, 특히 진화의 동적인 측면과 이타적 행동의 발현 과정을 이해하는 데 큰 도움을 주는 여러 확장된 모델들이 개발되었다.

8. 1. 공간 게임 (Spatial Games)

진화 과정에서 유전자 흐름이나 수평적 유전자 전달과 같은 지리적 요인이 중요한 역할을 한다. 공간 게임 모델은 이러한 지리적 요소를 고려하여, 경쟁자들을 격자 형태의 셀(cell)에 배치함으로써 기하학적 구조를 나타낸다. 이 모델의 핵심 특징은 경쟁이 오직 인접한 이웃 사이에서만 발생한다는 점이다. 특정 전략이 승리하면, 그 전략은 인접한 이웃의 공간을 차지하게 되고, 다시 그 새로운 이웃과 상호작용하는 방식으로 확산된다.

이러한 공간 게임 모델은 죄수의 딜레마와 같은 상황에서 협력적인 전략을 사용하는 집단이 어떻게 배신자들 사이로 침투하여 이타주의를 확산시킬 수 있는지 설명하는 데 유용하다.^[62] 예를 들어, 공간 게임 환경에서는 팃포탯 전략이 내시 균형 상태를 이룰 수는 있지만, ESS은 되지 못하는 특성을 보인다.

때때로 이러한 공간 구조는 단순히 격자 형태를 넘어, 개체 간 상호작용의 일반적인 네트워크 형태로 추상화되기도 한다.^[63]^[64] 이는 진화적 그래프 이론 연구의 기초가 된다.

8. 2. 정보 효과 (Effects of Having Information)

진화 게임 이론에서도 기존의 게임 이론과 마찬가지로 신호, 즉 정보를 얻는 것의 효과는 매우 중요하다. 이는 죄수의 딜레마 상황에서 간접적 상호 호혜성(같은 상대와 반복해서 상호작용하지 않는 경우에도 협력이 유지되는 현상)을 설명하는 데 사용될 수 있다. 이러한 상황은 혈연 관계가 아닌 대부분의 사회적 상호작용과 유사하다. 만약 상대방의 평판에 대한 정보를 얻을 수 없다면, 직접적인 상호 호혜성(이전에 도움을 준 상대에게만 보답하는 방식)만 가능할 것이다.^[33] 하지만 평판과 같은 정보가 있다면 간접적인 상호 호혜성도 유지될 수 있다.

다른 경우로, 개체들이 처음에는 특정 전략과 관련 없어 보이는 임의의 신호에 접근할 수 있지만, 진화 과정에서 이 신호가 특정 전략과 연관될 수도 있다. 대표적인 예시로는 녹색 수염 효과(특정 표식을 가진 개체에게 선택적으로 협력하는 현상)나 인간 사회에서 나타나는 민족 중심주의의 진화를 들 수 있다.^[65] 어떤 게임이 진행되느냐에 따라 이러한 신호를 통해 협력적인 행동이 진화할 수도 있고, 반대로 비합리적인 적대감이 나타날 수도 있다.^[66]

분자 수준이나 다세포 수준에서도 정보의 효과를 살펴볼 수 있다. 정보를 보내는 쪽과 받는 쪽 사이에 정보의 양이나 질이 다른, 즉 정보 비대칭성이 존재하는 신호 게임 모델은 짝짓기에서의 매력 발산^[56]이나 RNA 가닥에서 단백질을 만드는 번역 메커니즘의 진화^[67]와 같은 현상을 설명하는 데 적합할 수 있다.

8. 3. 유한 개체군 (Finite Populations)

많은 진화 게임은 유한 개체군에서 혼합 전략의 성공과 같은 영향을 관찰하기 위해 모델링되었다.

9. 한국 사회와 진화 게임 이론 (추가)

주어진 원본 소스에 내용이 없어 해당 섹션의 내용을 작성할 수 없습니다.

참조

_[1] 논문 The Logic of Animal Conflict
_[2] 논문 Evolutionary Game Theory: A Renaissance https://www.econstor[...]
_[3] 서적 Networks, Crowds, and Markets: Reasoning About a Highly Connected World http://www.cs.cornel[...] Cambridge University Press
_[4] 서적 Advances in Economics and Econometrics : Theory and Applications Cambridge University Press
_[5] 간행물 Zur Theorie der Gesellschaftsspiele
_[6] 서적 Toward a History of Game Theory Duke University Press
_[7] 서적 A Reason for Everything Faber and Faber 2004
_[8] 웹사이트 Video Interview – John Maynard Smith – The creation of Evolutionary Game Theory http://www.webofstor[...]
_[9] 서적 Evolutionary Game Theory, Natural Selection, and Darwinian Dynamics https://archive.org/[...] Cambridge University Press 2005
_[10] 서적 Evolution and the Theory of Games Cambridge University Press 1982
_[11] 서적 Game Theory and Animal Behavior Oxford University Press 1998
_[12] 서적 Handbook of Game Theory with Economic Applications Elsevier 1994
_[13] 논문 Evolution and game theory
_[14] 간행물 Global theory of dynamical systems Springer Verlag 1980
_[15] 서적 Evolutionary game theory MIT Press 1995
_[16] 서적 Evolutionary games and population dynamics Cambridge University Press 1998
_[17] 문서 2006
_[18] 서적 Evolution and the Theory of Games Cambridge University Press 1982
_[19] 서적 Evolution and the Theory of Games Cambridge University Press 1982
_[20] 논문 Dung Fly Struggle: a test of the War of Attrition
_[21] 서적 The Price of Altruism Bodley Head 2010
_[22] 서적 Principles of Animal Behavior WW Norton 2004
_[23] 문서 William D. Hamilton’s Work in Evolutionary Game Theory Institute of Mathematics University of Vienna
_[24] 서적 Encyclopedia of Genetics https://epub.uni-reg[...] Academic Press
_[25] 논문 The evolution of cooperation 1981
_[26] 논문 Ancestral Monogamy Shows Kin Selection Is Key to the Evolution of Eusociality
_[27] 논문 Evolution of Eusociality in Termites
_[28] 논문 The evolution of eusociality
_[29] 논문 The validity and value of inclusive fitness theory
_[30] 서적 Evolution and the Levels of Selection Oxford University Press 2006
_[31] 논문 Evolutionary dynamics of collective action in N-person stag hunt dilemmas 2009
_[32] 서적 The Evolution of Cooperation Basic Books 1984
_[33] 논문 Evolution of indirect reciprocity http://pure.iiasa.ac[...]
_[34] 서적 The Evolution of Cooperation Penguin 1984
_[35] 서적 The Biology of Moral Systems https://archive.org/[...] Aldine Transaction 1987
_[36] 논문 Evolution of indirect reciprocity by image scoring
_[37] 논문 The Dynamics of Indirect Reciprocity
_[38] 문서 Evolutionarily Stable Strategies with Two Types of Players
_[39] 문서 Evolutionarily Stable Strategies and Game Dynamics
_[40] 서적 Introduction to Game Theory Oxford Press
_[41] 논문 Putting Game Theory to the Test
_[42] 논문 A Game-Theoretic Model of Interactions between Hibiscus Latent Singapore Virus and Tobacco Mosaic Virus
_[43] 문서 A competitive network theory of species diversity
_[44] 논문 An experimental investigation of evolutionary dynamics in the Rock-Paper-Scissors game
_[45] 논문 Cycles and Instability in a Rock–Paper–Scissors Population Game: A Continuous Time Experiment
_[46] 문서 The rock-scissors-paper game and the evolution of alternative male strategies
_[47] 문서 Morphs, dispersal, genetic similarity and the evolution of cooperation
_[48] 문서 Self-recognition, color signals and cycles of greenbeard mutualism and transient altruism
_[49] 문서 Density cycles and an offspring quantity and quality game driven by natural selection
_[50] 문서 Models of density-dependent genic selection and a new Rock-Paper-Scissors social system
_[51] 문서 Social Games and Genic Selection Drives Mammalian Mating System Evolution and Speciation
_[52] 서적 Do lemmings commit suicide?: beautiful hypotheses and ugly facts Oxford University Press
_[53] 문서 Interim Report IR-05-076 John Maynard Smith and Evolutionary Game Theory International Institute for Applied Systems Analysis 2005-12
_[54] 서적 The Rough Guide to Evolution Penguin
_[55] 논문 Mate selection – a selection for a handicap
_[56] 논문 Biological signals as handicaps
_[57] 서적 Rough Guide to Evolution Penguin Books
_[58] 문서 "Coevolutionary games – a mini review"
_[59] 문서 "Tracking the red queen: Measurements of adaptive progress in co-evolutionary simulations"
_[60] 문서 "Pareto optimality in coevolutionary learning"
_[61] 논문 The red king effect: when the slowest runner wins the coevolutionary race
_[62] 서적 Evolutionary Dynamics https://archive.org/[...] Harvard University Press 2006
_[63] 웹사이트 Statistical mechanics of complex networks http://egtheory.word[...]
_[64] 문서 Evolutionary Games in Wireless Networks
_[65] 웹사이트 The Evolution of Ethnocentrism http://egtheory.word[...]
_[66] 문서 Robustness of ethnocentrism to changes in inter-personal interactions http://www.cs.mcgill[...] 2010-03
_[67] 논문 What can information-asymmetric games tell us about the context of Crick's 'Frozen Accident'?
_[68] 서적 本当の声を求めて　野蛮な常識を疑え青山ライフ出版（SIBAA BOOKS）
_[69] 논문 The Logic of Animal Conflict https://www.semantic[...]
_[70] 논문 Evolutionary Game Theory: A Renaissance https://www.econstor[...]
_[71] 서적 Networks, Crowds, and Markets: Reasoning About a Highly Connected World http://www.cs.cornel[...] Cambridge University Press

본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com