T-검정

3. 종류 및 방법

T-검정은 크게 다음과 같이 나눌 수 있다.

• 두 모집단이 모두 정규 분포를 따른다고 가정했을 때, 평균이 같은지 검정한다.
• 표본이 짝을 이루는 경우 (예: 동일 인물에 대해 전후 두 번 조사하는 경우, 남편과 아내를 비교하는 경우 등).
• 표본이 독립적이며, 비교하는 두 그룹의 분산이 같다고 가정할 수 있는 경우 (등분산성 가정).
• 표본이 독립적이지만, 등분산성을 가정할 수 없는 경우 (이분산). 이는 정확히 '''웰치의 t-검정'''이라고 불린다.
• 정규 분포를 따르는 모집단의 평균이 특정 값과 같은지 검정한다.
• 회귀 직선의 기울기가 0과 유의하게 다른지 검정한다.

• 독립 표본 t-검정: 두 독립적인 모집단의 평균이 같은지 검정한다.
• 두 표본의 크기가 같고, 분산이 같은 경우:
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_1\; -\; \backslash bar\{X\}\_2\}\{s\_p\; \backslash sqrt\backslash frac\{2\}\{n\}\}$
• $s\_p\; =\; \backslash sqrt\{\backslash frac\{s\_\{X\_1\}^2\; +\; s\_\{X\_2\}^2\}\{2\}\}$: 합동 표준 편차, 자유도: $2n-2$
• 두 표본의 크기가 다르고, 분산이 같은 경우:
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_1\; -\; \backslash bar\{X\}\_2\}\{s\_p\; \backslash cdot\; \backslash sqrt\{\backslash frac\{1\}\{n\_1\}\; +\; \backslash frac\{1\}\{n\_2\}\}\}$
• $s\_p\; =\; \backslash sqrt\{\backslash frac\{(n\_1\; -\; 1)s\_\{X\_1\}^2\; +\; (n\_2\; -\; 1)s\_\{X\_2\}^2\}\{n\_1\; +\; n\_2-2\}\}$: 합동 표준 편차, 자유도: $n\_1\; +\; n\_2\; -\; 2$
• 웰치 t-검정: 두 모집단의 분산이 같지 않은 경우에 사용한다.
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_1\; -\; \backslash bar\{X\}\_2\}\{s\_\{\backslash bar\backslash Delta\}\}$
• $s\_\{\backslash bar\backslash Delta\}\; =\; \backslash sqrt\{\backslash frac\{s\_1^2\}\{n\_1\}\; +\; \backslash frac\{s\_2^2\}\{n\_2\}\}$, 자유도: 웰치-새터스웨이트 방정식으로 계산
• 대응 표본 t-검정: 쌍을 이룬 두 표본(예: 동일 대상의 사전/사후 측정)의 평균이 같은지 검정한다.^[16]
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_D\; -\; \backslash mu\_0\}\{s\_D/\backslash sqrt\; n\}$
• $\backslash bar\{X\}\_D$: 쌍 간 차이의 평균, $s\_D$: 쌍 간 차이의 표준 편차, $n$: 쌍의 수, 자유도: $n-1$

3. 1. t-검정의 종류

• '''단일 표본 t-검정''': 모집단의 평균이 귀무 가설에 지정된 값을 갖는지 여부를 검정하는 위치 검정이다. 모집단 평균이 특정 값과 같다는 귀무 가설을 검정할 때, 다음 통계를 사용한다.

• '''독립 표본 t-검정''': 두 개의 독립적인 표본 집합을 얻고, 두 모집단 각각에서 하나의 변수를 비교할 때 사용된다. 예를 들어, 의학적 치료의 효과를 평가할 때, 치료 그룹과 대조군으로 나누어 t-검정을 수행할 수 있다.

• '''대응 표본 t-검정''': 일반적으로 유사한 단위의 일치된 쌍으로 이루어진 표본이나 두 번 검사된 단위 그룹("반복 측정" t-검정)으로 구성된다. 반복 측정 t-검정의 전형적인 예는 고혈압과 같은 치료 전후 동일한 피험자를 다시 검사하는 경우이다.

• '''회귀 직선의 기울기가 0과 유의하게 다른지 검정''': 회귀분석에서 회귀 직선의 기울기가 0인지 아닌지를 확인하는 데 사용된다.

3. 2. t-검정 전 단계 (전제 조건 검정)

• 모집단이 정규 분포를 따르는지 여부는 콜모고로프-스미르노프 검정이나 샤피로-윌크 검정 등의 정규성 검정을 통해 판단할 수 있다.
• F-검정 등을 통해 등분산성을 검정하고, 그 결과에 따라 스튜던트 t-검정 또는 웰치 t-검정을 수행하는 것은 검정의 다중성 문제를 일으키므로 권장되지 않는다. 대신, 등분산성을 고려할 필요가 없는 웰치 t-검정을 사용하는 것이 좋다 (웰치 t-검정은 등분산성에 강건하므로, 사전에 등분산성 검정을 수행할 필요가 없다).

3. 3. t-검정 방법

• 단일 표본 t-검정: 모집단의 평균이 특정 값과 같은지 검정한다.
• $t\; =\; \backslash frac\{\backslash bar\{x\}\; -\; \backslash mu\_0\}\{s/\backslash sqrt\{n\}\}$
• $\backslash bar\; x$: 표본 평균, $s$: 표본 표준 편차, $n$: 표본 크기, 자유도: $n-1$
• 독립 표본 t-검정: 두 독립적인 모집단의 평균이 같은지 검정한다.
• 두 표본의 크기가 같고, 분산이 같은 경우:
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_1\; -\; \backslash bar\{X\}\_2\}\{s\_p\; \backslash sqrt\backslash frac\{2\}\{n\}\}$
• $s\_p\; =\; \backslash sqrt\{\backslash frac\{s\_\{X\_1\}^2\; +\; s\_\{X\_2\}^2\}\{2\}\}$: 합동 표준 편차, 자유도: $2n-2$
• 두 표본의 크기가 다르고, 분산이 같은 경우:
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_1\; -\; \backslash bar\{X\}\_2\}\{s\_p\; \backslash cdot\; \backslash sqrt\{\backslash frac\{1\}\{n\_1\}\; +\; \backslash frac\{1\}\{n\_2\}\}\}$
• $s\_p\; =\; \backslash sqrt\{\backslash frac\{(n\_1\; -\; 1)s\_\{X\_1\}^2\; +\; (n\_2\; -\; 1)s\_\{X\_2\}^2\}\{n\_1\; +\; n\_2-2\}\}$: 합동 표준 편차, 자유도: $n\_1\; +\; n\_2\; -\; 2$
• 웰치 t-검정: 두 모집단의 분산이 같지 않은 경우에 사용한다.
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_1\; -\; \backslash bar\{X\}\_2\}\{s\_\{\backslash bar\backslash Delta\}\}$
• $s\_\{\backslash bar\backslash Delta\}\; =\; \backslash sqrt\{\backslash frac\{s\_1^2\}\{n\_1\}\; +\; \backslash frac\{s\_2^2\}\{n\_2\}\}$, 자유도: 웰치-새터스웨이트 방정식으로 계산
• 대응 표본 t-검정: 쌍을 이룬 두 표본(예: 동일 대상의 사전/사후 측정)의 평균이 같은지 검정한다.^[16]
• $t\; =\; \backslash frac\{\backslash bar\{X\}\_D\; -\; \backslash mu\_0\}\{s\_D/\backslash sqrt\; n\}$
• $\backslash bar\{X\}\_D$: 쌍 간 차이의 평균, $s\_D$: 쌍 간 차이의 표준 편차, $n$: 쌍의 수, 자유도: $n-1$

4. 통계 프로그램

IBM SPSS는 T-검정에서 영가설의 임계치(α) 영역(영가설 기각 유무)을 확인할 수 있는 P값(유의확률)인 sig를 제시한다. PSPP에서도 이와 같이 sig 값을 보여준다.

: (예) α < sig(P) 이면 영가설 채택(영가설 기각불가)

: (예) α > sig(P) 이면 영가설 기각 (대립가설 채택 - 통계적으로 유의미하다)

IBM SPSS, PSPP, R, SAS 등의 통계 프로그램은 가설 검증 시 P값(유의확률) sig를 보여주어 T-검정뿐만 아니라 분산분석, 회귀분석 등에서도 일관되게 편리성을 제공한다.

QtiPlot, LibreOffice Calc, Microsoft Excel, SAS, SPSS, Stata, DAP, gretl, R, Python, PSPP, Wolfram Mathematica, MATLAB, Minitab 등 많은 스프레드시트 프로그램 및 통계 패키지에 스튜던트 t-검정 구현이 포함되어 있다.

5. Z-검정과의 관계

Z-테스트로부터 T-테스트 값을 계산하여 추정할 수 있다.

:$T=\; Z10+50$

중심 극한 정리에 따르면, 모집단의 분포가 정규 분포를 따르지 않는 경우에도 표본 크기가 커질수록 표본 평균은 정규 분포에 근사해진다. 따라서 표본 크기가 클수록 표준 검정 값인 $\backslash frac\{\backslash bar\{X\}\}\{\backslash frac\{\backslash sigma\}\{\backslash sqrt\{n\}\}\}$은 Z 값에 근사하게 된다. 모집단이 정규 분포에서 완전히 벗어난 분포를 따르고, 표본 크기가 충분히 큰 경우(대학 초등 통계 교과서 등에는 n > 30 등으로 기재된 경우가 있지만, 많으면 많을수록 좋다) Z 검정으로 근사적인 확률을 계산할 수 있다. t 값은 자유도가 증가하면 Z 값에 근사하기 때문에, 계산상 t-검정을 사용해도 거의 차이 없는 결과를 얻을 수 있다(철학적으로는 다르지만). 이것이 t-검정이 강건(robust)하다고 말해지는 이유이다.

6. t-검정의 대안

t^영어-검정의 가정이 충족되지 않을 때(모집단이 정규 분포를 따르지 않거나, 표본 크기가 작은 경우 등)는 비모수적 방법을 고려할 수 있다.^[19][28] 비모수 검정은 랭킹, 중앙값 또는 분포 등에 주목하여 가설을 세워야 한다는 점에 주의해야 한다.

데이터가 상당히 비정규적이고 표본 크기가 작으면 t^영어-검정은 오해의 소지가 있는 결과를 줄 수 있다. 정규성 가정이 성립하지 않으면, t^영어-검정 대신 비모수 검정을 사용했을 때 통계적 검정력이 더 좋을 수 있다. 그러나 데이터가 비정규적이고 그룹 간 분산이 다르면, t^영어-검정이 일부 비모수적 대안보다 제1종 오류를 더 잘 제어할 수 있다.^[28]

이상값이 있으면 t^영어-검정은 강건하지 않다. 데이터 분포가 비대칭(분포가 왜곡됨)이거나 분포에 큰 꼬리가 있다면, 윌콕슨 순위합 검정(만-휘트니 ''U'' 검정)이 t^영어-검정보다 3~4배 더 높은 검정력을 가질 수 있다.^[27][29][30] 쌍체 표본 t^영어-검정에 대한 비모수적 대응은 쌍체 표본에 대한 윌콕슨 부호 순위 검정이다.

표본이 독립적이라면 만-휘트니 U 검정을, 짝을 이루는 표본이라면 윌콕슨 부호 순위 검정 등을 사용할 수 있다.^[33]

t^영어-검정이 만-휘트니 U 검정 및 윌콕슨 부호 순위 검정과 비교하여 필요한 표본 수의 비율은 다음과 같다.^[34] 1 미만은 t-검정에 필요한 표본 수가 더 적다는 것을 의미한다.

7. 윌리엄 고셋의 발견

t-분포는 1876년에 프리드리히 로베르트 헬메르트와^[35][36][37] 야콥 뤼로스에^[38][39][40] 의해 사후검정법 중 하나로 유도되었고, 1895년에는 칼 피어슨에 의해 피어슨 분포 4형의 특별한 꼴임이 밝혀졌다.^[41] 1900년대 초 기네스 양조장에서 일하던 윌리엄 실리 고셋은 맥주 제조 과정에서 효모 수 측정의 부정확성 문제를 해결하기 위해 t-분포를 발견했다. 당시 발효 탱크 수가 적어(소표본) 정규 분포를 사용한 추정은 정확도가 낮았다. 고셋은 데이터를 조사하여 평균으로부터의 편차를 불편추정 표준 오차로 나눈 값(t값)이 특정 확률 분포(t분포)를 따른다는 것을 발견했다. 고셋은 이 내용을 1908년 과학 학술지 《바이오메트리카_Biometrika》에 '스튜던트'라는 필명으로 발표했다.^[44][45] 이후 로널드 피셔가 이 분포를 '스튜던트 t-분포', '스튜던트 t-테스트'라는 이름으로 소개해 널리 알려지게 되었다.^[46]

8. 관련 통계 검정

Hotelling^영어의 T-제곱 분포는 스튜던트 t 통계량을 일반화한 것으로, 여러 개의 측정값(종종 서로 상관관계가 있는)에 대한 가설 검정을 할 때 사용된다.^[1] 예를 들어, 여러 성격 척도로 구성된 검사를 여러 사람에게 실시할 때, 각 척도 간에는 양의 상관관계가 있을 수 있다. 이때, 각각의 척도에 대해 별도로 t-검정을 하는 것은 바람직하지 않다. 왜냐하면 척도 간의 공분산을 무시하고, 적어도 하나의 가설을 잘못 기각할 확률(제1종 오류)을 높이기 때문이다. 이럴 때는 하나의 다변량 검정을 하는 것이 더 적합하다.

Hotelling^영어의 T-제곱 통계량은 T-제곱 분포를 따르지만, 실제로 이 분포는 표로 정리된 값을 찾기 어려워 거의 사용되지 않고, 대신 F 통계량으로 변환되어 사용된다.

• 일표본 다변량 검정: 평균 벡터가 주어진 벡터와 같은지 검정한다. 검정 통계량은 Hotelling^영어의 t-제곱이며, 다음과 같이 계산된다.

• 이표본 다변량 검정: 두 표본의 평균 벡터가 같은지 검정한다. 검정 통계량은 Hotelling^영어의 이표본 t-제곱이며, 다음과 같이 계산된다.

위의 표는 환자의 단어 회상 및 약물 투여량 값을 나타낸다. 이 데이터를 R 프로그래밍 언어를 사용하여 t-검정과 선형 회귀 분석을 수행하면 다음과 같은 결과를 얻을 수 있다.

• t-검정 결과:
• 0 약물 투여량 그룹의 평균 단어 회상은 2이다.
• 1 약물 투여량 그룹의 평균 단어 회상은 6이다.
• 평균 단어 회상에서 치료 그룹 간의 차이는 4이다.
• 약물 투여량 간의 단어 회상 차이는 유의하다 (p=0.00805).

• 선형 회귀 결과:

• 절편(intercept)의 추정 값 2는 약물 투여량이 0일 때 단어 회상의 평균 값이다.
• 약물 투여량(drug.dose) 계수의 추정 값 4는 약물 투여량이 1단위 증가할 때 평균 단어 회상이 4단위 증가함을 의미한다.
• 기울기 4가 0과 다른지에 대한 p-값은 0.00805이다.

참조

_[1] 서적 The Microbiome in Health and Disease https://books.google[...] Academic Press 2020-05-29
_[2] 서적 Einführung in die Technische Mechanik Springer Berlin Heidelberg 2003
_[3] 학술지 Untersuchungen über den anastomotischen Kanal zwischen der Arteria coeliaca und mesenterica superior und damit in Zusammenhang stehende Fragen 1937-10
_[4] 학술지 Die Genauigkeit der Formel von Peters zur Berechnung des wahrscheinlichen Beobachtungsfehlers directer Beobachtungen gleicher Genauigkeit https://zenodo.org/r[...] 1876
_[5] 학술지 Vergleichung von zwei Werthen des wahrscheinlichen Fehlers https://zenodo.org/r[...] 1876
_[6] 학술지 Studies in the history of probability and statistics XLIV. A forerunner of the ''t''-distribution
_[7] 학술지 Helmert's work in the theory of errors 1995
_[8] 학술지 X. Contributions to the mathematical theory of evolution.—II. Skew variation in homogeneous material
_[9] 웹사이트 T Table https://www.tdistrib[...]
_[10] 학술지 Pseudonymous fame
_[11] 서적 Probability & statistics for engineers & scientists Pearson 2006
_[12] 학술지 The Probable Error of a Mean http://seismo.berkel[...] 2016-07-24
_[13] 학술지 William Sealy Gosset and William A. Silverman: Two 'Students' of Science
_[14] 서적 The Concise Encyclopedia of Statistics https://books.google[...] Springer Science & Business Media
_[15] 서적 High-Yield Behavioral Science Lippincott Williams & Wilkins
_[16] 서적 Mathematical Statistics and Data Analysis Duxbury Advanced 2006
_[17] 웹사이트 Student's ''t''-Distribution http://mathworld.wol[...]
_[18] 학술지 The Paired ''t'' Test Under Artificial Pairing
_[19] 학술지 The Importance of the Normality Assumption in Large Public Health Data Sets 2002-05
_[20] 학술지 Conditions for the Effectiveness of a Preliminary Test of Variance
_[21] 학술지 A comparative review of methods for comparing means using partially paired data 2017
_[22] 서적 An Introduction to Medical Statistics https://books.google[...] Oxford University Press
_[23] 웹사이트 Central limit theorem and the normality assumption > Normality > Continuous distributions > Distribution > Statistical Reference Guide https://analyse-it.c[...] 2024-05-17
_[24] 학술지 Comparison of Normality Tests in Terms of Sample Sizes under Different Skewness and Kurtosis Coefficients http://dx.doi.org/10[...] 2022-06-26
_[25] 문서 Minimum Detectable Difference for Two-Sample t-Test for Means. Equation and example adapted from Zar, 1984 https://webspace.shi[...]
_[26] arXiv Te Test: A New Non-asymptotic T-test for Behrens-Fisher Problems
_[27] 학술지 A More Realistic Look at the Robustness and Type II Error Properties of the ''t'' Test to Departures From Population Normality
_[28] 학술지 Invalidation of Parametric and Nonparametric Statistical Tests by Concurrent Violation of Two Assumptions 1998-01
_[29] 학술지 A Comparison of the Power of Wilcoxon's Rank-Sum Statistic to That of Student's ''t'' Statistic Under Various Nonnormal Distributions
_[30] 학술지 Wilcoxon–Mann–Whitney or ''t''-test? On assumptions for hypothesis tests and multiple interpretations of decision rules http://www.i-journal[...]
_[31] 학술지 How to compare the means of two samples that include paired observations and independent observations: A companion to Derrick, Russ, Toher and White (2017) http://eprints.uwe.a[...] 2017
_[32] 간행물 JIS Z 8101-1 : 1999 統計 − 用語と記号 − 第1部:確率及び一般統計用語 2.61 t検定 http://kikakurui.com[...] 日本規格協会
_[33] 서적 ノンパラメトリック法 (統計解析スタンダード) 朝倉書店
_[34] 서적 ノンパラメトリック法 (統計解析スタンダード) 朝倉書店
_[35] 서적 Einführung in die Technische Mechanik Springer Berlin Heidelberg 2003
_[36] 저널 Untersuchungen über den anastomotischen Kanal zwischen der Arteria coeliaca und mesenterica superior und damit in Zusammenhang stehende Fragen 1937-10
_[37] 저널 Die Genauigkeit der Formel von Peters zur Berechnung des wahrscheinlichen Beobachtungsfehlers directer Beobachtungen gleicher Genauigkeit https://zenodo.org/r[...] 1876
_[38] 저널 Vergleichung von zwei Werthen des wahrscheinlichen Fehlers https://zenodo.org/r[...] 1876
_[39] 저널 Studies in the history of probability and statistics. XLIV. A forerunner of the t-distribution 1996
_[40] 저널 Helmert's work in the theory of errors 1995
_[41] 저널 Contributions to the Mathematical Theory of Evolution. II. Skew Variation in Homogeneous Material 1895-01-01
_[42] 저널 William Sealy Gosset and William A. Silverman: Two "students" of science 2005
_[43] 간행물 Pseudonymous fame 2016
_[44] 저널 The probable error of a mean 1908
_[45] 웹인용 T Table {{!}} History of T Table, Etymology, one-tail T Table, two-tail T Table and T-statistic https://www.tdistrib[...]
_[46] 서적 Probability & statistics for engineers & scientists Pearson 2006