이분변인

3. 표기법

이분변인 중에는 연속변인이지만 통계 처리상 이분변인으로 다루어야 하는 경우도 있다.

통계 처리를 편리하게 하기 위해 범주형 변수에는 숫자 색인을 부여할 수 있다. 예를 들어, 정확히 ''K''개의 가능한 값을 가지는 ''K''-방향 범주형 변수에는 1부터 ''K''까지의 숫자를 할당하는 식이다. 하지만 이 숫자는 임의적이며, 단순히 각 값을 구분하기 위한 편리한 레이블일 뿐 다른 의미는 없다. 즉, 범주형 변수의 값은 명목 척도에 해당한다. 각 값은 논리적으로 구별되는 개념을 나타낼 뿐, 값들 사이에 순서를 매기거나 숫자로 연산하는 것은 의미가 없다.

따라서 범주형 변수에 적용할 수 있는 유효한 연산은 다음과 같다.

• 동치 관계: 두 값이 같은지 비교하는 것 (예: 두 사람의 성별이 같은지 확인)
• 집합 포함 관계: 특정 값이 주어진 목록에 포함되는지 확인하는 것 (예: 특정 이름이 명단에 있는지 확인)
• 개수 세기: 특정 값을 가진 개체가 몇 개인지 세는 것 (예: 특정 성별을 가진 사람 수)
• 최빈값 찾기: 가장 자주 나타나는 값이 무엇인지 찾는 것 (예: 가장 흔한 이름 찾기)

4. 가능한 값의 수

범주형 확률 변수는 가능한 값의 수에 따라 분류될 수 있다.

• 이진 변수 (Binary Variable) 또는 베르누이 변수 (Bernoulli Variable): 오직 두 가지 가능한 결과만을 가지는 변수이다. 예를 들어, '성공'과 '실패', '예'와 '아니오', '참'과 '거짓'과 같은 논리값, 성별 구분에서의 '남성'과 '여성', 정치적 성향에서의 '여당'과 '야당', 또는 유의미와 무의미를 나타내는 1과 0 등이 있다.^[1] 이러한 변수들은 통계적으로 베르누이 분포를 따르며, 로지스틱 회귀나 프로빗 모형 같은 특정 회귀 모델을 사용하여 분석한다. 때로는 연속변인임에도 불구하고 특정 기준에 따라 두 범주로 나누어 이진 변수로 취급해야 하는 경우도 있다.^[2]
• 다항 변수 (Polytomous Variable): 세 가지 이상의 가능한 값을 가지는 범주형 변수이다. 예를 들어, 혈액형(A, B, AB, O)이나 선호하는 정당 등이 있다. 통계학에서는 종종 '범주형 변수'라는 용어가 이러한 다항 변수를 지칭하는 데 사용되기도 한다.^[3] 다항 변수는 각 범주에 대한 확률을 명시하는 범주형 분포로 설명되며, 여러 범주의 발생 빈도를 분석할 때는 다항 분포를 사용한다. 다항 변수를 결과로 하는 회귀 분석에는 다항 로지스틱 회귀, 프로빗 모형, 또는 이산 선택 모델 등이 활용된다.^[3]

5. 범주형 변수와 회귀 분석

이분변인 중에는 연속변인이지만 이분변인으로 다루어야 하는 경우도 있다.

범주형 변수는 데이터를 범주나 그룹 멤버십으로 나누어 점수화하는 질적 데이터 처리 방식이다.^[2] 이러한 변수는 회귀 분석에서 독립 변수로 사용되거나, 로지스틱 회귀 또는 프로빗 회귀 분석에서 종속 변수로 사용될 수 있다. 통계 분석을 위해서는 범주형 데이터를 양적 데이터로 변환해야 하며, 이때 코딩 시스템이 활용된다. 일반적으로 그룹 수(''g'')보다 하나 적은 ''g'' - 1개의 변수만 코딩하여 중복성을 최소화한다.^[2]

회귀 분석에서 범주형 변수를 다룰 때 주로 더미 코딩, 효과 코딩, 대비 코딩과 같은 시스템이 사용된다. 회귀 분석의 기본 방정식은 ''Y = bX + a'' 형태로 표현되는데, 여기서 ''b''는 기울기(설명 변수에 부여된 가중치), ''X''는 설명 변수, ''a''는 Y 절편을 의미한다. 어떤 코딩 시스템을 선택하는지에 따라 ''a''와 ''b'' 값의 해석은 달라지지만, 분석의 전반적인 설명력(예: ''F'' 값이나 ''R''² 값)에는 영향을 주지 않는다. 따라서 연구자가 비교하고자 하는 대상과 목적에 맞춰 적절한 코딩 시스템을 선택하는 것이 중요하다.^[2]

5. 1. 코딩 시스템

=== 효과 코딩 (Effects Coding) ===

효과 코딩 시스템에서는 특정 기준 집단 없이, 한 그룹을 다른 모든 그룹의 평균과 비교하여 분석한다. 즉, 모든 그룹의 평균을 결합하여 비교가 이루어지며, ''a''는 전체 평균을 나타낸다. 따라서 개별 그룹을 다른 특정 그룹과 비교하는 것이 아니라, 전체 평균과 비교하여 데이터를 해석한다.^[2]

효과 코딩은 가중(weighted) 또는 비가중(unweighted) 방식으로 사용할 수 있다. 가중 효과 코딩은 각 그룹의 표본 크기를 고려하여 가중 전체 평균을 계산하는 방식이며, 표본이 모집단을 잘 대표할 때 적합하다. 비가중 효과 코딩은 표본 크기의 차이가 우연한 요인에 의한 것일 때 주로 사용된다. ''b''의 해석은 두 방식에서 다르다. 비가중 효과 코딩에서 ''b''는 특정 그룹의 평균과 전체 평균 간의 차이를 나타내고, 가중 효과 코딩에서는 특정 그룹의 평균과 가중 전체 평균 간의 차이를 나타낸다.^[2]

효과 코딩에서는 더미 코딩과 마찬가지로 관심 있는 그룹에 1을 할당한다. 가장 큰 차이점은 연구자의 관심이 가장 적은 그룹(보통 ''g'' - 1 코딩 규칙에 따라 명시적으로 코딩되지 않는 그룹)에 −1을 할당한다는 점이다. 나머지 다른 모든 그룹에는 0을 할당한다.

''b'' 값은 코딩된 그룹이 모든 그룹의 결합된 평균(또는 가중 효과 코딩의 경우 가중 전체 평균)과 비교되는 방식으로 해석해야 한다. 따라서 음수 ''b'' 값이 나오면, 해당 그룹이 종속 변수에서 전체 평균보다 낮은 점수를 받았다는 것을 의미한다. 앞서 예시로 든 국적별 낙관주의 점수 연구에서 이탈리아인을 관심 그룹으로 코딩했을 때 음수 ''b'' 값이 관찰된다면, 이탈리아인이 평균적으로 다른 국적 전체 평균보다 낮은 낙관주의 점수를 얻었다는 것을 시사한다.

다음 표는 가장 관심이 없는 그룹으로 '기타'를 사용하는 효과 코딩의 예시이다.

=== 대비 코딩 (Contrast Coding) ===

대비 코딩 시스템은 연구자가 특정 가설에 따라 직접 그룹 간 비교를 설계할 수 있도록 한다. 더미 코딩처럼 정해진 기준 집단과 비교하거나 효과 코딩처럼 전체 평균과 비교하는 대신, 연구자는 이론이나 선행 연구에 기반하여 특정 질문에 답하기 위한 고유한 비교 방식을 설정할 수 있다. 이러한 가설은 보통 두 가지 형태로 나타난다. 첫째는 특정 두 그룹 간에 유의미한 차이가 있을 것이라는 가설이고, 둘째는 각 그룹 내에서는 그룹 간 차이가 작을 것이라는 가설이다. 선험적 가설에 초점을 맞춘 대비 코딩은 다른 코딩 방식에 비해 통계적 검정력을 높일 수 있다.^[2] 진보적 관점에서는 특정 정책(예: 최저임금 인상)의 효과를 검증하기 위해, 정책 시행 전후의 변화를 비교하는 연구 설계에 활용될 수 있다.분산 분석(ANOVA)과 회귀 분석에서 선험적 계수를 비교할 때 차이점이 있다. ANOVA에서는 연구자가 직교 또는 비직교 계수를 선택할 수 있지만, 회귀 분석의 대비 코딩에서는 할당된 계수 값이 반드시 직교해야 한다. 또한, 회귀 분석에서는 계수 값이 분수 또는 소수 형태여야 하며, 정수 구간 값을 가질 수 없다.

대비 코드를 구성할 때는 세 가지 규칙을 따라야 한다.

# 각 코드 변수에 할당된 대조 계수들의 합은 0이어야 한다.

# 양수(+) 계수의 합과 음수(-) 계수의 합의 차이는 1이어야 한다.

# 코딩된 변수들은 서로 직교해야 한다.^[2]

만약 규칙 2를 위반하더라도 정확한 ''R''² 값과 ''F'' 값이 산출되어 통계적 유의성 여부에 대한 결론은 동일하게 나올 수 있다. 하지만 이 경우 ''b'' 값을 더 이상 평균 차이로 해석할 수 없게 된다.

대비 코드 구성을 설명하기 위해 다음 표를 보자. 계수는 선험적 가설을 반영하여 선택되었다.

• 가설 1: 프랑스인과 이탈리아인은 독일인보다 낙관주의 점수가 더 높을 것이다 (프랑스 = +0.33, 이탈리아 = +0.33, 독일 = −0.66). 이는 프랑스와 이탈리아에 같은 양수 계수를, 독일에 음수 계수를 할당하여 표현된다. 부호는 예상되는 관계의 방향을 나타낸다(독일의 음수 부호는 낮은 점수를 예상함).
• 가설 2: 프랑스인과 이탈리아인 간에도 낙관주의 점수 차이가 있을 것이다 (프랑스 = +0.50, 이탈리아 = −0.50, 독일 = 0). 여기서 독일에 0을 할당한 것은 이 가설 분석에서 독일인을 제외한다는 의미이다. 부호는 제안된 관계를 나타낸다.

5. 2. 상호작용 (Interactions)

참조

_[1] 서적 The Practice of Statistics http://bcs.whfreeman[...] Freeman 2014-09-28
_[2] 서적 Applied multiple regression/correlation analysis for the behavioural sciences (3rd ed.) Routledge
_[3] 서적 Regression with dummy variables Sage