심슨의 역설

3. 벡터 해석

4. 변수 간 상관관계

심슨의 역설은 두 변수 사이에 양의 상관관계가 있는 것처럼 보여도, 실제로는 음의 상관관계가 존재할 수 있음을 보여준다. 이는 숨겨진 교란 변수의 영향으로 발생한다. Berman 외의 연구^[23]에서는 경제학 분야의 예시를 제시한다. 일반적으로 수요와 가격은 반비례 관계를 가지지만, 특정 데이터 세트에서는 가격이 높을수록 수요도 증가하는 양의 상관관계가 나타났다. 그러나 분석 결과, '시간'이라는 교란 변수가 작용하고 있음이 밝혀졌다. 시간 경과에 따른 가격과 수요 변화를 함께 고려하면 예상대로 음의 상관관계가 나타났지만, 시간 요인을 무시하고 가격과 수요만 비교하면 양의 상관관계로 왜곡되는 현상이 발생했다.

A군과 B군이 두 번의 시험을 통해 총 110문제를 푸는 테스트를 치른 경우를 예시로 들어보자.

'''정답률과 우열 비교표'''

위 표를 보면, 1회와 2회 시험 모두 B군의 정답률이 높았다. 하지만 두 시험을 합산한 전체 정답률은 A군이 더 높게 나타나는 역설적인 결과가 나타났다.

이는 A군과 B군이 동일한 110문제를 풀었다는 가정 하에서만 유효하다. 예를 들어 고객 응대 후 재구매율이나 고객 만족도 조사와 같이 A군과 B군이 응대한 고객이 서로 다른 경우에는 위와 같은 단순 비교는 어렵다.

총점을 기준으로 A군이 더 우수하다고 판단할 수도 있지만, 다른 관점에서는 B군이 더 낫다고 볼 수도 있다. 예를 들어, A군과 B군이 의사로서 중등증 환자와 중증 환자를 치료하는 상황을 가정해 보자. B군은 중등증, 중증 환자 모두에게서 A군보다 치료 성적이 좋았지만, 전체 치료 성적은 낮게 나타났다. 이는 B군의 환자 대부분이 중증(100/110)이었던 반면, A군의 환자는 대부분 중등증(100/110)이었기 때문이다. 따라서 A군의 치료 성적이 더 좋았다는 결론은 논리적으로 오류일 수 있다.

심슨이 제시한 예시에서는 관련성의 역전이 나타나지 않는다.

트럼프 카드 52장을 예로 들어보자. 그림 카드(잭, 퀸, 킹) 여부와 색상(스페이드, 클럽은 검정, 하트, 다이아몬드는 빨강) 간의 관계를 살펴보자. 일부 카드가 더러워진 경우, 더러워진 카드와 더러워지지 않은 카드 각각에서는 그림 카드가 아닌 카드가 빨간색일 확률이 높게 나타난다. 하지만 카드 전체를 살펴보면, 그림 카드 여부와 색상 간에는 관련성이 없다는 "분별 있는 답"을 얻을 수 있다.

치료 유무와 생존 간의 관계를 남성과 여성으로 나누어 분석하는 경우에도 비슷한 현상이 나타난다. 남성과 여성 각각에서는 치료를 받은 쪽의 생존율이 높게 나타나지만, 전체를 합쳐서 보면 치료 유무와 생존 간의 관련성이 사라진다.

en은 이러한 예시들을 통해 심슨의 역설에 대한 해석을 제시한다.^[35]

• 트럼프 카드 예시에서, 오염 유무(C)는 그림 카드 여부(A)와 카드 색상(B)의 공통된 결과, 즉 합류점이다. ($A\; \backslash rightarrow\; C\; \backslash leftarrow\; B$)
• 치료 예시에서, 성별(C)은 치료 유무(A)와 생사(B)의 공통된 원인, 즉 교락 인자이다. ($A\; \backslash leftarrow\; C\; \backslash rightarrow\; B$)

5. 심슨의 두 번째 역설

심슨의 역설 논문(1951)에서는 덜 알려진 두 번째 역설도 다루고 있다. 이 역설은 신장 결석 예시처럼 "합리적인 해석"이 분리된 데이터에서는 보이지 않고, 결합된 데이터에서 나타나는 경우에 발생한다. 데이터를 어떻게 나누고 합치느냐에 따라 결과가 달라질 수 있다는 것이다. 어떤 데이터를 사용해야 하는지는 데이터를 생성하는 과정에 달려 있으며, 단순히 표를 보는 것만으로는 올바른 해석을 할 수 없음을 의미한다.^[26]

주디아 펄은 분할된 데이터가 두 변수 $X$와 $Y$ 사이의 올바른 인과 관계를 나타내려면, 분할 변수가 "백도어 기준"이라는 조건을 만족해야 한다고 설명했다.^[27][28] 이 기준은 다음 두 가지로 구성된다.

# 분할 변수는 $X$와 $Y$ 사이의 모든 가짜 경로를 차단해야 한다.

# 어떤 변수도 $X$의 영향을 받아서는 안 된다.

이 기준은 심슨의 두 번째 역설에 대한 해결책을 제시하며, 데이터만으로는 올바른 해석을 할 수 없는 이유를 설명한다. 데이터와 맞아떨어지지만 서로 다른 두 그래프가 서로 다른 백도어 기준을 정할 수 있기 때문이다.

공변량 집합 ''Z''가 백도어 기준을 만족하면 조정 공식(교란변수)을 통해 ''X''가 ''Y''에 미치는 올바른 인과적 효과를 얻을 수 있다. 만약 그런 집합이 없다면, 펄의 ''do''-미적분학을 사용하여 인과적 효과를 추정하는 다른 방법을 찾을 수 있다.^[4][29] ''do''-미적분학의 완전성^[30][29]은 심슨의 역설에 대한 완전한 해결책을 제공하는 것으로 여겨진다.

5. 1. 심슨의 예시 (트럼프 카드와 치료)

어떤 치료의 유무와 생존 간의 관련성을 남녀별로 검토해 보자. 나오는 숫자는 트럼프 카드의 예와 완전히 같다. 남녀별로 조사하면, 치료를 받은 쪽이 생존율이 높다는 것을 알 수 있다. 그러나 남녀를 합하면 치료 유무와 생존 간의 관련성이 없어진다. "분별 있는 해석"(sensible interpretation)은 어떻게 될까? 이 치료가 무효라고 여겨지는 일은 거의 없을 것이다.

미겔 에르난^영어은 이 예에 대해 심슨 본인의 기술에 모호성이 있음을 지적하면서도 다음과 같은 해석을 제시한다.^[35]

트럼프 카드의 예에서는 오염 유무 (C)가 그림 카드 여부 (A)와 카드 색상 (B)의 공통된 결과, 즉 합류점이다.

:$A\; \backslash rightarrow\; C\; \backslash leftarrow\; B$

치료의 예에서는 성별 (C)이 치료 유무 (A)와 생사 (B)의 공통된 원인, 즉 교락 인자이다.

:$A\; \backslash leftarrow\; C\; \backslash rightarrow\; B$

트럼프 카드의 예에서는 합류점에 의한 선택 편향을 피하기 위해 카드 전체를 살펴봐야 하고, 치료의 예에서는 교락을 피하기 위해 성별로 층화해서 생각해야 한다. 다만, C가 A와 관계없이 B의 원인이 될 때(예를 들어 무작위 할당이 이루어진 경우)에는 층화할 필요는 없다. 인과 관계의 방향성을 기반으로 분석 기법을 검토하지만, 인과 관계의 방향에 대해서는 그 주제에 관한 인과 구조에 대한 지식이 필요하다. 트럼프 카드가 더러워졌다고(C) 해서 그림 카드가 되거나(A) 빨간 카드가 되거나(B) 하는 것은 아니고, 치료를 했다고(A) 해서 또는 생존했다고(B) 해서 남성이 되는(C) 일은 없다.

그리고 다음과 같이 결론짓고 있다.^[36]

• 같은 데이터라도 다른 인과 구조에서 기인한 것이라면 다른 분석이 필요하다.
• 유익한 인과 추론을 하기 위해서는 통계학뿐만 아니라 주제에 관한 인과 관계에 대한 지식이 필요하다.

6. 비판

심슨의 역설에 대한 한 가지 비판은 이 역설이 실제로는 역설이 아니라, 혼동 변수를 제대로 고려하지 못하거나 변수 간의 인과 관계를 고려하지 못한 데서 비롯된 것이라는 점이다.^[31]

또 다른 비판은 데이터가 특정 방식으로 계층화되거나 그룹화된 결과일 수 있다는 것이다. 데이터가 다르게 계층화되거나 다른 혼동 변수가 고려될 경우 이 현상은 사라지거나 심지어 반전될 수도 있다. 심슨의 예는 실제로 비축약성^[32]이라고 하는 현상을 강조했는데, 이는 비율이 높은 하위 그룹이 결합될 때 단순한 평균을 만들지 못하는 경우에 발생한다. 이는 역설이 보편적인 현상이 아니라, 더 일반적인 통계적 문제의 특정 사례일 수 있음을 시사한다.

비판론자들은 또한, 이 역설에 대한 초점이 데이터를 해석할 때 혼동 변수와 인과 관계를 신중하게 고려해야 하는 등 더 중요한 통계적 문제에서 주의를 분산시킬 수 있다고 주장한다.^[33]

이러한 비판에도 불구하고, 심슨의 역설은 통계 및 데이터 분석에서 여전히 인기 있고 흥미로운 주제로 남아 있다. 다양한 분야의 연구자들과 실무자들에 의해 지속적으로 연구되고 논쟁되고 있으며, 신중한 통계 분석의 중요성과 데이터에 대한 단순한 해석의 잠재적인 함정을 상기시켜주는 가치 있는 역할을 한다.

7. 심리학적 관점

심슨의 역설에 대한 심리학적 관심은 사람들이 부호 반전을 처음에는 불가능하다고 여기는 이유를 설명하려는 데 있다. 문제는 사람들이 이러한 강력한 직관을 어디에서 얻는지, 그리고 그것이 마음 속에 어떻게 인코딩되는가이다.

심슨의 역설은 이러한 직관이 고전 논리나 확률 계산만으로는 도출될 수 없음을 보여주며, 따라서 철학자들은 그것이 사람들의 행동과 그 결과에 대한 추론을 안내하는 타고난 인과적 논리에 의해 뒷받침된다고 추측하게 했다.^[4] 새비지의 확실성 원리^[12]는 그러한 논리가 무엇을 수반할 수 있는지 보여주는 한 예시이다. 새비지의 확실성 원리의 수정된 버전은 실제로 펄의 ''do''-계산법^[4]으로부터 도출될 수 있으며 다음과 같이 읽힌다. "사건 ''B''의 확률을 전체 모집단에서 ''C''의 각 하위 모집단 ''C_i''에서 증가시키는 행동 ''A''는, 그 행동이 하위 모집단의 분포를 변경하지 않는다는 조건 하에, 전체 모집단에서도 ''B''의 확률을 증가시켜야 한다." 이는 행동과 결과에 대한 지식이 베이즈 네트워크와 유사한 형태로 저장됨을 시사한다.

참조

_[1] 간행물 Simpson's Paradox in Real Life 1982-02
_[2] 논문 Potential Simpson's paradox in multicenter study of intraperitoneal chemotherapy for ovarian cancer. http://jco.ascopubs.[...] 2016
_[3] 간행물 Post-transcriptional regulation across human tissues
_[4] 서적 Causality: Models, Reasoning, and Inference Cambridge University Press 2000
_[5] 논문 Simpson's paradox, moderation and the emergence of quadratic relationships in path models: An information systems illustration. http://cits.tamiu.ed[...] 2016
_[6] 문서 Simpson's paradox in psychological science: a practical guide https://doi.org/10.3[...]
_[7] 뉴스 Simpson's Paradox and the Hot Hand in Basketball The American Statistician 1995-02
_[8] 서적 Categorical Data Analysis John Wiley and Sons 2002
_[9] 간행물 The Interpretation of Interaction in Contingency Tables
_[10] 간행물 Genetic (reproductive) selection: Inheritance of fertility in man, and of fecundity in thoroughbred racehorses
_[11] 간행물 Notes on the Theory of Association of Attributes in Statistics https://zenodo.org/r[...]
_[12] 간행물 On Simpson's Paradox and the Sure-Thing Principle 1972-06
_[13] 간행물 The Amalgamation and Geometry of Two-by-Two Contingency Tables 1987-06
_[14] 서적 Shape: The Hidden Geometry of Information, Biology, Strategy, Democracy and Everything Else https://www.worldcat[...] Penguin Press 2021-05-25
_[15] 서적 Statistics W. W. Norton & Company 2007
_[16] 간행물 Sex Bias in Graduate Admissions: Data From Berkeley http://homepage.stat[...]
_[17] 간행물 Comparison of treatment of renal calculi by open surgery, percutaneous nephrolithotomy, and extracorporeal shockwave lithotripsy 1986-03-29
_[18] 간행물 Confounding and Simpson's paradox http://bmj.bmjjourna[...] 1994-12-03
_[19] 서적 Probability theory: the logic of science Cambridge University Press 2003
_[20] 서적 A Mathematician at the Ballpark: Odds and Probabilities for Baseball Fans (Paperback) Pi Press 2004
_[21] 웹사이트 Data for Derek Jeter https://www.baseball[...]
_[22] 간행물 Proofs without Words: Simpson's Paradox http://www.math.siu.[...]
_[23] 간행물 Simpson's Paradox: A Cautionary Tale in Advanced Analytics http://www.statslife[...] 2012
_[24] 간행물 How Likely is Simpson's Paradox? 2009-08
_[25] 논문 How likely is Simpson's paradox in path models? http://cits.tamiu.ed[...] 2015
_[26] 간행물 Simpson's paradox ... and how to avoid it 2015-08
_[27] 간행물 Understanding Simpson's Paradox
_[28] 간행물 Graphical Models, Causality, and Intervention
_[29] 서적 The Book of Why: The New Science of Cause and Effect Basic Books 2018
_[30] 간행물 Identification of Conditional Interventional Distributions AUAI Press 2006
_[31] 간행물 On Simpson's Paradox and the Sure-Thing Principle http://www.tandfonli[...] 1972-06
_[32] 간행물 Noncollapsibility, confounding, and sparse-data bias. Part 2: What should researchers make of persistent controversies about the odds ratio? https://www.jclinepi[...] 2021-11-01
_[33] 간행물 The Simpson's paradox unraveled 2011-06
_[34] 간행물 The Interpretation of Interaction in Contingency Tables. http://math.bme.hu/~[...] 2020-10-17
_[35] 간행물 The Simpson's paradox unraveled https://doi.org/10.1[...] 2020-10-17
_[36] 트윗 I thought I understood Simpson's paradox until I read Simpson’s paper. Turn out to be more interesting than expected 2021-08-12
_[37] 논문 Simpson's Paradox in Real Life 1982-02
_[38] 간행물 Potential Simpson's paradox in multicenter study of intraperitoneal chemotherapy for ovarian cancer. http://jco.ascopubs.[...] Holt, G. B. 2016
_[39] 논문 Post-transcriptional regulation across human tissues
_[40] 논문 The Interpretation of Interaction in Contingency Tables
_[41] 논문 Genetic (reproductive) selection: Inheritance of fertility in man, and of fecundity in thoroughbred racehorses
_[42] 논문 Notes on the Theory of Association of Attributes in Statistics https://zenodo.org/r[...]
_[43] 논문 On Simpson's Paradox and the Sure-Thing Principle https://archive.org/[...] 1972-06
_[44] 논문 Comparison of treatment of renal calculi by open surgery, percutaneous nephrolithotomy, and extracorporeal shockwave lithotripsy 1986-03-29
_[45] 논문 Confounding and Simpson's paradox http://bmj.bmjjourna[...] 1994-12-03
_[46] 논문 Proofs without Words: Simpson's Paradox http://lagrange.math[...]