광차 문제

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요

광차 문제는 제어 불능 상태의 광차를 5명의 사람에게서 1명의 사람으로 방향을 전환하여 5명의 생명을 구할 수 있는지에 대한 윤리적 딜레마를 제시한다. 이 문제는 공리주의와 의무론적 관점에서 논의되며, 다양한 변형과 파생 문제를 낳았다. 이러한 문제는 인간의 도덕적 직관과 윤리적 판단의 복잡성을 드러내며, 경험적 연구와 뇌 과학적 분석을 통해 연구되었다. 자율주행차 윤리 문제와도 연관되어, 사고 시 탑승자와 보행자 중 누구의 안전을 우선시할 것인지에 대한 딜레마를 제시하며, 이에 대한 비판적 시각도 존재한다.

더 읽어볼만한 페이지

윤리학에 관한 사고 실험 - 공익
공익은 사회 전체의 이익을 의미하며, 정부나 단체뿐 아니라 개인의 활동도 포함되고, 다양한 학문적 접근과 투명한 정책 결정이 중요하지만, 사익 추구나 사회적 갈등과 같은 문제점도 존재하므로, 사회적 합의를 위한 명확한 정의와 시스템 구축이 필요하다.
윤리학에 관한 사고 실험 - 기게스의 반지
기게스의 반지는 리디아의 목동 기게스가 발견한 투명해지는 반지를 통해 권력과 부도덕성에 대한 철학적 질문을 던지는 고대 그리스 이야기로, 플라톤의 『국가』에 등장하며 정의와 불의, 인간 본성에 대한 논의를 이끌어낸다.
사고 실험 - 예술
예술은 미적, 정서적 가치를 지닌 대상을 창조하거나 기술, 아이디어, 감정 등을 표현하는 인간 활동으로, 역사적으로 다양한 형태로 발전해왔으며 사회적, 정치적 변화를 이끌거나 인식을 높이는 등 다양한 기능을 수행한다.
사고 실험 - 프로타고라스 (대화편)
플라톤의 『프로타고라스』는 소크라테스와 프로타고라스가 '덕을 가르칠 수 있는가'를 논쟁하며 지식과 덕의 관계, 용기의 본질, 쾌락과 선의 관계 등을 탐구하는 대화편으로, 소크라테스의 철학과 고대 아테네 사회의 지적 분위기를 보여주는 역사적, 철학적 가치를 지닌다.
도덕심리학 - 책임
책임은 법률 위반 행위에 대한 법적 제재를 포괄하며, 고의, 과실 등을 고려하여 형사 책임, 민사 책임, 행정 책임 등 다양한 형태로 나타나며, 자기 책임론은 사회적 약자에게 부정적인 영향을 미칠 수 있다.
도덕심리학 - 이타주의
이타주의는 자신보다 타인의 복지를 우선시하며 돕는 행위를 의미하는 개념으로, 철학, 윤리학, 심리학 등 다양한 분야에서 연구되며, 문화, 과학, 종교, 철학적 관점에 따라 다양한 형태로 나타난다.

광차 문제

2. 광차 문제의 기본 설정

광차 문제는 제어 불능 상태의 광차가 5명의 작업자를 향해 돌진하는 상황에서, 한 사람을 희생시켜 5명을 구할 수 있는지 묻는 딜레마이다.

이는 "5명을 살리기 위해 1명을 죽여도 되는가"라는 문제로 요약될 수 있다. 공리주의적 관점에서는 1명을 희생해서라도 5명을 구해야 한다고 본다. 반면 의무론적 관점에서는 누군가를 다른 목적을 위해 이용해서는 안 되며, 따라서 아무것도 해서는 안 된다고 본다.^[1]

광차 문제와 유사한 상황은 여러 분야에서 발생할 수 있다. 예를 들어, 판사가 폭도들의 요구에 따라 무고한 사람을 처형하여 유혈 사태를 막을 수 있는 상황이나, 조종사가 비행기를 인구 밀집 지역으로 조종해야 하는 상황 등이 있다. 이러한 상황들은 모두 한 사람의 생명을 희생하여 여러 사람의 생명을 구할 수 있는지 묻는다는 점에서 광차 문제와 유사하다.^[1]

2. 1. 최초의 문제 상황

광차가 운행 중 이상이 생겨 제어 불능 상태가 되었다. 이대로는 선로에 서 있는 5명이 치여 죽고 만다. 그런데 다행히도 이반이 전철기의 옆에 있고, 전철기를 돌리면 전차를 다른 선로로 보냄으로써 5명을 살릴 수 있다. 하지만 문제는 그 다른 선로에 1명이 있어서 그 사람이 치여 죽고 만다. 어느 쪽도 대피할 시간은 없다. 이때 도덕적 관점에서 이반이 전철기를 돌리는 것이 허용되는가?^[1]

이는 요약하면 '''5명을 살리기 위해 1명을 죽여도 되는가'''는 문제가 된다. 공리주의적인 관점에서는 1명을 희생해서라도 5명을 구해야 하지만, 의무론을 따르면 누군가를 다른 목적을 위해 이용해서는 안 되며, 따라서 아무것도 해서는 안 된다.

최초의 문제 상황은 다음과 같이 정리할 수 있다.

선로를 달리던 트롤리가 제어 불능 상태가 되었다.
이대로 가면 전방의 작업자 5명이 치여 죽게 된다.

A는 선로의 분기기 옆에 있다.
A가 트롤리의 진로를 바꾸면 5명은 살릴 수 있지만, 다른 노선에서 작업 중인 B가 죽게 된다.
A는 트롤리를 다른 노선으로 바꿔야 하는가?

이 문제는 "5명을 구하기 위해 다른 1명을 죽여도 되는가"라는 문제로 단순화될 수 있다. 공리주의에 따르면 1명을 희생하여 5명을 구해야 하지만, 의무론에 따르면 누군가를 다른 목적을 위해서만 이용하는 것은 옳지 않으며, 아무것도 하지 않아야 한다.^[1]

2. 2. 파생 문제

광차 문제의 다섯 가지 경우: 오리지널 스위치, 뚱뚱한 남자, 뚱뚱한 악당, 루프, 마당의 남자

광차 문제는 기본적인 상황 외에도 다양한 변형 문제들이 존재한다. 이러한 변형들은 최초의 문제 상황에서 조건들을 조금씩 바꿈으로써, 사람들이 어떤 기준으로 도덕적 판단을 내리는지 탐색하게 한다.

대표적인 변형 문제 중 하나는 "뚱뚱한 남자" 문제이다. 이 문제에서는 선로 위에 있는 과선교(육교)에서 뚱뚱한 사람을 밀어 떨어뜨리면 광차를 멈추고 5명을 구할 수 있지만, 그렇게 하면 뚱뚱한 사람은 죽게 된다. 많은 사람들이 원래의 광차 문제에서는 1명을 희생하는 것을 허용하지만, 이 변형 문제에서는 허용하지 않는 경향을 보인다.^[37] 이는 이중 결과의 원리로 설명되는데, 어떤 행동의 결과로 나쁜 부작용이 발생하더라도 의도하지 않은 결과라면 허용될 수 있지만, 의도적으로 해를 가하는 것은 잘못되었다는 것이다.^[38]

또 다른 변형은 "뚱뚱한 악당" 문제인데, 밀어 떨어뜨릴 수 있는 뚱뚱한 남자가 사실은 이 모든 상황을 만든 악당이라는 설정이다. 이 경우, 많은 사람들이 뚱뚱한 악당을 밀어 떨어뜨리는 것에 동의한다.^[39] 이는 응보적 정의 또는 정당방위의 관점에서 이해될 수 있다.

"다시 합류하는 선로" 문제는 분기된 선로가 5명을 지나기 전에 다시 합류하는 상황에서, 광차를 멈추기 위해 다른 사람이나 물체를 이용할 수 있는지에 대한 두 가지 상황을 제시한다. 첫 번째는 분기된 선로에 뚱뚱한 사람이 있어서 그 사람을 광차에 치이게 하면 광차를 멈출수 있는 상황이고, 두 번째는 분기된 선로에 커다란 쇳덩이가 있어서 광차를 멈출수 있지만 쇳덩이 앞에 있는 사람이 죽게 되는 상황이다. 사람들은 뚱뚱한 사람을 치이게 하는 상황보다 쇳덩이로 인해 사람이 죽는 상황에 대해 더 허용적이다. 이는 사람들의 도덕적 판단이 이성보다는 직관의 영향을 받는다는 것을 보여준다.^[65]

2. 2. 1. 과선교 문제

광차 문제와 비슷한 "육교" 문제가 있다. 이 문제에서는 분기기를 전환하여 1명을 희생할 것인가를 묻는 것이 아니라, 1명을 위에서 선로로 떨어뜨릴 것인가를 묻는다.^[57]

A는 선로 위에 있는 다리에 서 있고, A 옆에는 C가 있다. C는 뚱뚱하며, 만약 그를 선로로 밀어 떨어뜨려 장애물로 만들면, 광차는 확실히 멈춰 5명을 구할 수 있다. 그러나 그렇게 하면 C가 광차에 치여 죽는 것도 확실하다. C는 상황을 알아차리지 못하고, 스스로는 아무 행동도 하지 않지만, A에게 경계하지 않으므로 밀어 떨어뜨리는 데 실패할 우려는 없다. C를 밀어 떨어뜨려야 하는가?

광차 문제에서는 1명을 희생하는 것을 허용한다는 답변(즉, 공리주의적 판단)을 하는 사람이 많은 반면, 육교 문제에서는 허용할 수 없다는 답변(즉, 의무론적 판단)을 하는 사람이 많다.^[57] 이는 이중 결과의 원리의 한 예로 설명된다.^[57]

이러한 행동에 대한 반대는 강해 보인다. 질문을 받았을 때, 다수의 사람들은 스위치를 당겨 넷의 생명을 구하는 것에 동의하지만, 뚱뚱한 남자를 밀어 넷의 생명을 구하는 것에 대해서는 동의하지 않는다.^[37]

한 가지 가능한 구분은 첫 번째 경우, 어느 누구에게도 해를 의도하지 않는다는 것이다. 한 사람에게 해를 입히는 것은 다섯 명으로부터 광차의 방향을 바꾸는 것의 부작용일 뿐이다. 그러나 두 번째 경우, 한 사람에게 해를 입히는 것은 다섯 명을 구하기 위한 계획의 필수적인 부분이다. 이 해결책은 본질적으로 이중 효과의 원리를 적용한 것으로, 나쁜 부작용이 있는 행동을 할 수 있지만, (좋은 이유라도) 의도적으로 해를 가하는 것은 잘못되었다고 말한다. 따라서, 무고한 사람에 대한 해가 예상되더라도 의도하지 않았다면 그 행동은 허용된다. 이것은 셸리 케이건이 그의 첫 번째 저서 『도덕성의 한계』에서 고려(그리고 결국 거부)하는 주장이다.^[38]

2. 2. 2. 다시 합류하는 선로 문제

5명을 지나기 전에 다시 합류하는 분기된 선로에서, 광차를 멈추기 위해 다른 사람이나 물체를 이용할 수 있는지에 대한 두 가지 상황이 제시된다.

(3) 뚱뚱한 사람: 분기된 선로에 뚱뚱한 사람이 있어서, 이 사람을 광차에 치이게 하면 광차가 멈춰 5명을 구할 수 있다.
(4) 커다란 쇳덩이: 분기된 선로에 커다란 쇳덩이가 있어서 광차가 쇳덩이에 부딪혀 멈추지만, 쇳덩이 앞에 있는 사람 1명은 죽게 된다.

세 번째 질문은 누군가를 직접 죽음으로 몰아넣는 것은 아니지만, 두 번째 질문처럼 그 죽음은 행위자의 의도에 따른 결과이다. 네 번째 질문은 1명의 죽음이 행위자의 의도된 결과가 아닌 부차적 결과라는 점에서 세 번째 질문과 차이가 있다.^[63]

어떤 질문에든 일관된 합리적 판단을 내린다면 1명을 희생하여 5명을 구하거나, 5명을 희생하여 1명을 구하는 것 중 하나를 선택하게 된다. 또는 의무론에 따라 누군가의 목숨을 다른 목적에 이용해서는 안 된다고 생각한다면 적어도 문제 2와 3에서는 허용되지 않는다고 답할 것이다.^[58]

생물학자 마크 하우저의 온라인 조사에 따르면, 세 번째와 네 번째 질문에 대해 허용된다고 응답한 비율은 각각 56%와 72%였다.^[65] 이는 사람들의 도덕적 판단이 이성보다는 직관이나 감정의 영향을 받는다는 것을 보여준다. 하우저는 비도덕적 판단 요인을 다음과 같이 세 가지로 정리했다.^[66]

행동의 원리: 행동으로 인한 폐해가 행동하지 않아 일어난 폐해보다 비도덕적이다.
의도의 원리: 의도적인 행동이 의도적이지 않은 행동보다 비도덕적이다.
접촉의 원리: 직접적 신체 접촉이 있는 위해가 그렇지 않은 위해보다 비도덕적이다.

3. 윤리적 판단 기준

광차 문제는 다양한 윤리적 판단 기준을 통해 분석될 수 있다. 대표적인 윤리 이론으로는 공리주의와 의무론이 있으며, 이 두 이론은 광차 문제에 대해 상반된 결론을 제시한다.

아래는 광차 문제와 관련된 몇 가지 질문과 그에 대한 분석이다. 모든 질문에서 다른 방법을 쓸 여유는 없고, 법적 책임은 지지 않는 것으로 가정하며, 오직 도덕적인 관점에서만 판단한다.

'''1.''' 광차가 제어 불능 상태로 선로 위 5명을 향해 달려가고 있다. 전철기를 돌려 다른 선로로 보내면 5명을 살릴 수 있지만, 다른 선로에 있는 1명이 죽게 된다. 전철기를 돌리는 것이 허용되는가?
'''2.''' 1번 상황과 동일하지만, 이번에는 과선교 위에서 무거운 물체를 떨어뜨려 광차를 멈춰야 한다. 유일한 무거운 물체는 뚱뚱한 사람뿐이다. 이 사람을 밀어 떨어뜨리는 것이 허용되는가?
'''3.''' 1번 상황과 동일하지만, 분기된 선로는 5명을 지나기 전에 다시 합류한다. 그러나 분기된 선로에 뚱뚱한 사람이 있어, 그 사람을 광차에 치이게 함으로써 5명을 구할 수 있다. 전철기를 돌리는 것이 허용되는가?
'''4.''' 1번 상황과 동일하지만, 분기된 선로에 커다란 쇳덩이가 있어 광차는 쇳덩이에 부딪혀 멈추지만, 쇳덩이 앞에 있는 사람이 죽게 된다. 전철기를 돌리는 것이 허용되는가?

이 질문들은 "5명을 살리기 위해 1명을 죽여도 되는가?"라는 핵심적인 질문으로 요약될 수 있다.

공리주의적 관점에서는 1명을 희생해서라도 5명을 구해야 한다고 본다. 반면, 의무론적 관점에서는 누군가를 다른 목적을 위해 이용해서는 안 되며, 따라서 아무것도 해서는 안 된다고 본다.

세 번째 질문은 첫 번째 질문과 유사하게 누군가를 직접 죽음으로 몰아넣는 것은 아니지만, 두 번째 질문과 마찬가지로 그 죽음은 부차적 결과가 아닌 행위자의 의도에 따른 결과이다. 네 번째 문제는 세 번째와 거의 같지만, 1명의 죽음은 행위자가 의도한 결과가 아니고 부차적 결과이다.

어떤 질문에도 일관된 합리적 판단을 내린다면 같은 답이 나오게 된다. 의무론에 따라 누군가의 목숨을 다른 목적에 이용해서는 안 된다고 생각한다면 적어도 문제 2와 3에서는 허용되지 않는다고 답할 것이다. 만일 일관성 없는 판단이 내려진다면 그 까닭이 무엇인지, 이 딜레마를 합리적으로 설명할 수 있는 논리학적 지침은 존재하지 않는다.^[63]

생물학자 마크 하우저는 유사한 상황에 대한 온라인 조사를 실시했고, 그 결과 응답자의 교육 정도, 종교적 배경, 민족 등은 응답 결과에 거의 영향을 주지 않았다.^[65]

타임지의 기사에 따르면, 조사 대상의 85%가 5명을 구하기 위해 1명을 밀어 떨어뜨리는 행동은 할 수 없다고 답했다. 또 사고를 막기 위해서 사람을 죽이는 경우는 없다. 따라서 실제로 위와 같은 상황이 발생하면 5명이 죽도록 방치할 가능성이 높다.

풋의 사고 실험 버전은 "전차 운전자"로 알려지게 되었다.

3. 1. 공리주의적 관점

공리주의는 최대 다수의 최대 행복을 추구하는 윤리 이론이다. 광차 문제에서 공리주의적 관점은 한 명을 희생하여 다섯 명을 구하는 것이 도덕적으로 옳다고 본다. 즉, 트롤리의 방향을 바꾸어 한 명이 있는 선로로 향하게 하는 것이 의무라는 것이다.^[15]

이는 "다섯 명을 구하기 위해 다른 한 명을 죽여도 되는가?"라는 질문으로 단순화될 수 있다. 공리주의는 1명을 희생하여 5명을 구하는 것이 더 큰 행복을 가져온다고 판단한다.^[1]

3. 2. 의무론적 관점

의무론은 누군가를 다른 목적을 위한 수단으로 이용해서는 안 된다는 윤리적 관점이다.^[1] 이는 칸트의 정언명령과 같이, 인간을 수단으로 취급하는 것을 금지한다.

광차 문제에서 "5명을 구하기 위해 다른 1명을 죽여도 되는가"라는 질문에 대해, 의무론적 관점에서는 다른 1명을 5명을 구하기 위한 수단으로 사용해서는 안 된다고 본다. 따라서, 아무 행동도 하지 않고 5명이 죽게 내버려 두는 것이 도덕적으로 옳다고 여긴다.^[1]

이러한 관점은 육교 문제와 같은 상황에서도 적용된다. 육교 문제에서는 1명을 선로로 밀어 떨어뜨려 5명을 구하는 행위가 명백히 1명을 수단으로 사용하는 것이므로 의무론적으로 허용될 수 없다.^[57]

하지만, 의무론적 관점에서도 인간의 생명이 공약 불가능하다는 점을 지적하며, 상황에 존재하고 그 결과에 영향을 미칠 수 있다는 사실 자체가 참여할 의무를 구성한다는 반론이 있을 수 있다. 만약 그렇다면, 아무것도 하지 않는 것 역시 부도덕한 행위로 간주될 수 있다.^[1]

3. 3. 이중 효과의 원리

이중 효과의 원리는 의도하지 않은 결과로 발생하는 해악은 허용될 수 있다는 원리이다. 이 원리를 통해 광차 문제에 대한 도덕적 판단을 분석할 수 있다.^[63]

예를 들어, 광차가 5명을 향해 달려가고 있을 때, 1명을 희생시켜 5명을 구할 수 있는 두 가지 상황을 생각해 보자.

첫 번째 상황: 선로 변경 장치를 작동시켜 광차의 방향을 바꾸면 1명이 죽지만 5명은 살릴 수 있다.
두 번째 상황: 뚱뚱한 사람을 밀어 광차를 멈추게 하면 1명이 죽지만 5명은 살릴 수 있다.

공리주의적 관점에서는 두 상황 모두 1명을 희생시켜 5명을 살린다는 점에서 동일하다. 그러나 많은 사람들은 첫 번째 상황은 허용된다고 생각하는 반면, 두 번째 상황은 허용되지 않는다고 생각한다.

이러한 차이는 첫 번째 상황에서는 1명의 죽음이 행위자가 직접 의도한 결과가 아니라 부작용으로 생각할 수 있는 반면, 두 번째 상황에서는 행위자의 직접적인 의도에 의해 1명이 죽는다는 점에서 발생한다. 즉, 의도적인 행동의 결과로 발생된 위해에 대해서는 책임을 져야 하고, 단지 결과가 예측되기만 하여 발생된 위해에 대하여는 책임을 지지 않아도 된다는 것이다.^[66]

생물학자 마크 하우저는 이와 유사한 상황에 대한 온라인 조사를 실시했다. 그 결과, 많은 사람들이 의도의 차이를 구분하여 도덕적 판단을 내리는 것으로 나타났다.^[64]^[65] 하우저는 사람의 도덕적 판단이 이성이나 이론보다는 직관이나 감정의 영향을 받는다고 주장하며, 다음과 같은 세 가지 원리를 제시했다.^[66]

행동의 원리: 행동함으로써 일어난 폐해는 행동하지 않아 일어난 폐해보다 더 비도덕적이라고 판단받는다.
의도의 원리: 의도적으로 한 행동은 의도적이지 않은 행동보다 더 비도덕적이라고 판단받는다.
접촉의 원리: 직접적 신체 접촉이 수반되는 위해가 그렇지 않은 위해보다 더 비도덕적이라고 판단받는다.

신경윤리학자 조슈아 그린은 두 번째 상황에서 뇌의 특정 부분이 반응한다는 것을 발견했다. 이는 사람이 직접적인 위해를 가하는 행위에 대해 강하게 부정적 반응을 보인다는 것을 시사한다.^[63]

4. 경험적 연구

조슈아 그린과 동료들은 2001년에 사람들의 '광차 문제' 반응에 대한 경험적 연구 결과를 발표했다.^[16] 이들은 기능적 자기 공명 영상을 사용하여 "개인적" 딜레마(다리에서 남자를 밀어 떨어뜨리는 것)는 감정과 관련된 뇌 영역을, "비개인적" 딜레마(스위치를 켜서 광차의 경로를 바꾸는 것)는 통제된 추론과 관련된 뇌 영역을 활성화시킨다는 것을 밝혔다. 이를 바탕으로 도덕적 의사 결정의 이중 과정 설명을 옹호했다.

이후 스트레스,^[17] 감정 상태,^[18] 인상 관리,^[19] 익명성,^[20] 뇌 손상,^[21] 생리적 각성,^[22] 신경 전달 물질,^[23] 유전적 요인^[24] 등이 광차 문제 반응에 미치는 영향을 조사하는 다양한 연구들이 진행되었다. 광차 문제는 공리주의 척도로 사용되었지만, 그 유용성은 비판받고 있다.^[30]^[36]^[25]

생물학자 마크 하우저는 인터넷에서 유사한 질문 30개 이상을 던져 판단 이유를 물었다. 답변자 500명 중 30%만이 자신의 판단을 정당화했다.^[59] 5,000명 이상이 참여한 테스트에서 첫 번째 질문(광차를 다른 선로로 돌리는 것)에는 89%, 두 번째 질문(사람을 밀어 떨어뜨리는 것)에는 11%가 "허용된다"고 답했다. 세 번째 질문에는 56%, 네 번째 질문에는 72%가 "허용된다"고 답했으며, 이는 교육 수준, 종교, 민족 등의 영향을 거의 받지 않았다.^[60]

의도적인 행동의 결과로 인한 해는 책임을 묻지만, 단순히 예견된 결과는 책임을 묻지 않는 것을 이중 효과라고 한다.

4. 1. 설문 조사 결과

조슈아 그린과 동료들은 2001년에 사람들의 '광차 문제' 반응에 대한 연구 결과를 발표했다.^[16] 이들은 기능적 자기 공명 영상을 사용하여 "개인적" 딜레마(다리에서 남자를 밀어 떨어뜨리는 것)는 감정과 관련된 뇌 영역을, "비개인적" 딜레마(스위치를 켜서 광차의 경로를 바꾸는 것)는 통제된 추론과 관련된 뇌 영역을 활성화시킨다는 것을 밝혔다.

여러 설문 조사에서 응답자의 약 90%는 한 명을 죽이고 다섯 명을 살리는 쪽을 선택했다.^[27] 그러나 희생자가 친척이나 연인인 경우, 한 명을 희생하는 것에 대한 동의는 훨씬 낮았다.^[28]

2009년 데이비드 부르게와 데이비드 차머스의 설문 조사에서는 전문 철학자의 68%가 광차 문제에서 (다섯 명을 구하기 위해) 한 사람을 희생하는 쪽을, 8%는 반대, 24%는 기타 의견을 제시하거나 답할 수 없다고 응답했다.^[29]

2017년 마이클 스티븐스 연구팀은 최초의 현실적인 광차 문제 실험을 수행했다. 참가자들은 기차 전환소에서 주 트랙에 5명, 보조 트랙에 1명이 있는 영상을 보았다. 레버를 당겨 기차를 보조 트랙으로 보낼 수 있었지만, 7명 중 5명은 레버를 당기지 않았다.^[26]

마크 하우저는 인터넷을 통해 30개 이상의 유사한 질문을 던졌고, 500명의 응답자 중 30%만이 자신의 판단을 정당화했다.^[59] 5,000명 이상이 참여한 테스트에서 첫 번째 질문(광차를 다른 선로로 돌리는 것)에는 89%가, 두 번째 질문(사람을 밀어 떨어뜨리는 것)에는 11%가 "허용된다"고 답했다. 세 번째 질문에는 56%, 네 번째 질문에는 72%가 "허용된다"고 답했으며, 이러한 경향은 교육 수준, 종교, 민족 등의 영향을 거의 받지 않았다.^[60]

하우저는 도덕적 판단이 이성보다 직관과 감정의 영향을 받으며, 다음 세 가지 요인이 비도덕적 판단에 영향을 준다고 보았다.^[61]

행동의 원리: 행동으로 인한 해는 행동하지 않음으로 인한 해보다 비도덕적이다.
의도의 원리: 의도된 행동은 의도되지 않은 행동보다 비도덕적이다.
접촉의 원리: 육체적 접촉을 수반하는 피해는 그렇지 않은 피해보다 비도덕적이다.

신경철학자 조슈아 그린은 사람을 직접 죽음에 이르게 할 때 강한 부정적 반응을 보이는 뇌 부위가 활성화된다고 설명한다.^[58]

Time 지 기사에 따르면, 조사 대상의 약 90%가 5명을 구하기 위해 1명을 밀어 떨어뜨리겠다고 답했다.^[62]

4. 2. 뇌 과학적 분석

조슈아 그린과 동료들은 2001년에 기능적 자기 공명 영상을 사용하여 사람들의 '광차 문제' 반응을 연구했다.^[16] 그 결과, 다리에서 남자를 밀어 떨어뜨리는 것과 같은 "개인적" 딜레마는 감정과 관련된 뇌 영역을 활성화시키는 반면, 스위치를 켜서 광차의 경로를 바꾸는 것과 같은 "비개인적" 딜레마는 통제된 추론과 관련된 영역을 활성화시키는 것으로 나타났다. 이를 바탕으로 그린과 동료들은 도덕적 의사 결정의 이중 과정 설명을 주장했다.

이후, 스트레스,^[17] 감정 상태,^[18] 인상 관리,^[19] 익명성,^[20] 뇌 손상,^[21] 생리적 각성,^[22] 신경 전달 물질,^[23] 유전적 요인^[24] 등이 광차 문제 반응에 미치는 영향을 조사하는 다양한 연구들이 진행되었다.

신경철학자 조슈아 그린에 따르면, 특히 육교 문제와 같이 사람을 직접 죽음에 이르게 하는 상황에서는 강하게 부정적인 반응을 보이는 뇌 부위가 활성화된다.^[58]

5. 비판적 시각

광차 문제는 현실 세계의 복잡한 윤리적 상황을 단순화하여 반영하지 못한다는 비판을 받는다. 이러한 비판은 주로 극단적인 상황 설정과 공리주의적 편향성이라는 두 가지 측면에서 제기된다.^[30]^[31]^[32]^[33]^[34]^[35]^[36]

5. 1. 극단적인 상황 설정

2014년 ''사회 및 성격 심리학 컴퍼스''에 게재된 논문에서^[30] 연구자들은 광차 문제의 사용을 비판하며, 이 시나리오가 너무 극단적이고 실제 윤리적 상황과 관련이 없어 유용하거나 교육적이지 않다고 주장했다.^[31]

2017년 논문에서 나심 자파리나이미^[32]는 윤리적 문제를 틀 씌우는 광차 문제의 환원적 본질을 제시하며 빈곤한 형태의 공리주의를 지지한다고 주장했다. 그녀는 광차 문제가 알고리즘적 도덕성의 템플릿 역할을 할 수 있다는 대중적인 주장이, 도시에 잠재적인 심각한 결과를 초래할 수 있는 가장 강력한 세력에 봉사하는 근본적으로 결함 있는 전제에 기반한다고 주장한다.^[33]

로저 스크루튼은 2017년 저서 ''인간 본성에 관하여''에서 광차 문제와 같은 윤리적 딜레마와 데릭 파핏, 피터 싱어와 같은 철학자들이 자신의 윤리적 견해를 설명하는 방식으로 사용한 것을 비판했다. 스크루튼은 "이러한 '딜레마'는 상황에서 거의 모든 도덕적으로 관련된 관계를 제거하고 문제를 산술적 문제로 축소하는 유용한 특징을 가지고 있다"고 적었다. 그는 트랙을 바꿔 열차가 다섯 명이 아닌 한 명을 치도록 선택한다고 해서 반드시 그가 결과주의자라는 것을 의미하지는 않는다고 믿는다. 스크루튼은 윤리적 문제에 대한 결과주의적 반응의 결함을 보여주기 위해 공리주의와 유사한 신념에 대한 역설적인 요소를 지적한다. 그는 로버트 노직의 경험 기계 사고 실험이 쾌락주의를 결정적으로 반증한다고 믿는다.^[34]

모리오카 마사히로는 2017년 기사 ''트롤리 문제와 원자 폭탄 투하''에서 원자 폭탄 투하를 광차 문제의 예로 보고, 1) 희소성, 2) 불가피성, 3) 안전 구역, 4) 피해자가 될 가능성, 5) 선택의 자유를 박탈당한 죽은 희생자의 관점 부족 등 광차 문제의 다섯 가지 "문제"를 지적한다.^[35]

2018년 ''심리학 리뷰''에 게재된 기사에서 연구자들은 광차 문제와 같은 희생 딜레마가 공리주의적 결정을 측정하는 수단으로서, 더 큰 선을 위한 공정한 관심사를 무시하면서 도구적 해악에 대한 허용적 태도, 즉 원시 공리주의적 경향의 한 측면만을 측정한다는 점을 지적했다. 따라서 저자들은 광차 문제는 공리주의의 부분적인 척도만을 제공한다고 주장했다.^[36]

5. 2. 공리주의적 편향성

조슈아 그린과 동료들은 2001년에 광차 문제에 대한 사람들의 반응을 경험적으로 연구한 결과를 발표했다.^[16] 이들은 기능적 자기 공명 영상을 사용하여 "개인적" 딜레마와 "비개인적" 딜레마에 대한 반응이 뇌의 서로 다른 영역을 활성화시킨다는 것을 밝혔다. 이를 바탕으로 도덕적 의사 결정의 이중 과정 설명을 주장했다. 이후, 광차 문제는 다양한 연구에서 도덕적 판단을 연구하는 데 사용되었다.^[17]^[18]^[19]^[20]^[21]^[22]^[23]^[24]

광차 문제는 공리주의의 척도로 사용되어 왔지만, 그러한 목적에 대한 유용성은 널리 비판받아 왔다.^[30]^[36]^[25] 2014년 ''사회 및 성격 심리학 컴퍼스''에 게재된 논문에서 연구자들은 트롤리 문제의 시나리오가 너무 극단적이고 실제 윤리적 상황과 관련이 없어 유용하거나 교육적이지 않다고 비판했다.^[30]^[31]

2017년, 나심 자파리나이미는 광차 문제가 윤리적 문제를 환원적으로 다루며, 빈약한 형태의 공리주의를 지지한다고 주장했다.^[32] 그녀는 광차 문제가 알고리즘적 도덕성의 템플릿 역할을 할 수 있다는 주장이 결함 있는 전제에 기반한다고 지적했다.^[33]

같은 해 로저 스크루튼은 저서 ''인간 본성에 관하여''에서 광차 문제와 같은 윤리적 딜레마가 거의 모든 도덕적으로 관련된 관계를 제거하고 문제를 산술적 문제로 축소한다고 비판했다. 그는 트랙을 바꿔 다섯 명이 아닌 한 명을 치도록 선택하는 것이 반드시 결과주의자임을 의미하지는 않는다고 주장했다.^[34]

2018년 ''심리학 리뷰''에 게재된 기사에서 연구자들은 광차 문제와 같은 희생 딜레마가 공리주의적 결정의 한 측면만을 측정한다고 지적했다. 즉, 더 큰 선을 위한 공정한 관심사는 무시하고 도구적 해악에 대한 허용적 태도만을 측정한다는 것이다. 따라서 광차 문제는 공리주의의 부분적인 척도만을 제공한다고 주장했다.^[36]

6. 자율주행차 윤리 문제

트롤리 딜레마는 자율 주행 자동차 제어 소프트웨어 설계에서 발생하는 윤리적 문제를 제기한다.^[13] 치명적인 충돌이 불가피한 상황에서 자동차 소프트웨어는 누구와 충돌할 것인지 선택해야 하며, 이는 자동차 탑승자와 외부의 잠재적 피해자 중 누구의 안전을 우선시해야 하는지에 대한 딜레마를 야기한다.^[40]^[41]^[42]^[43]

MIT 미디어 랩의 Moral Machine^[44] 플랫폼은 자율주행차의 결정에 대한 대중의 의견을 수렴했으며, 그 결과 국가별 선호도에 큰 차이가 있음을 보여주었다.^[45] 가상 현실을 이용한 실험 연구도 진행 중이지만,^[46]^[47]^[48]^[49] 일부에서는 트롤리 유형의 사례가 실제 자율 주행의 윤리적 문제 해결에 필수적이지 않다고 주장한다. 이들은 트롤리 사례가 심각한 한계를 가지므로, 인공 지능의 비상 대처를 위해 상향식 계획이 필요하다고 본다.^[50]

법으로 모든 자율 주행 차량의 윤리적 기준을 강제해야 하는지, 아니면 개별 소유자나 운전자가 자동차의 윤리적 가치를 결정해야 하는지에 대한 논의도 진행 중이다.^[13] 대부분은 자신을 희생하는 자동차를 원치 않지만, 의무적인 윤리적 가치가 개인에게도 최선일 수 있다는 주장도 제기된다. Gogoll과 Müller는 개인화된 윤리 설정이 죄수의 딜레마를 야기할 수 있다고 지적한다.^[51]

6. 1. 자율주행차 사고 시 책임 문제

광차 문제는 자율 주행 자동차가 탑승자와 보행자 중 누구를 보호해야 하는지를 결정하는 문제와 깊이 연관된다.^[13] 자동차의 소프트웨어는 충돌이 불가피할 때 누구와 충돌할 것인지를 선택해야 하며, 이 선택은 탑승자와 외부인의 안전 중 어느 쪽을 우선시해야 하는지에 대한 윤리적 문제를 야기한다.^[40]^[41]^[42]^[43]

MIT 미디어 랩은 Moral Machine^[44]이라는 플랫폼을 통해 자율 주행 차량의 결정에 대한 대중의 의견을 수렴했다. 수집된 데이터 분석 결과, 국가별로 선호도에 큰 차이가 있는 것으로 나타났다.^[45] 가상 현실을 이용해 실험 환경에서 인간의 행동을 평가하는 연구도 진행되고 있다.^[46]^[47]^[48]^[49] 그러나 일부에서는 광차 문제와 같은 사례가 실제 자율 주행의 윤리적 문제를 해결하는 데 한계가 있다고 주장하며, 인공 지능의 비상 대처를 위해 상향식 계획이 필요하다고 본다.^[50]

또한, 법으로 윤리적 기준을 강제해야 하는지, 아니면 차량 소유자가 윤리적 가치를 결정해야 하는지에 대한 논의도 있다.^[13] 대부분의 사람들은 자신을 희생하는 자동차를 원치 않지만, 의무적인 윤리적 가치가 개인에게도 최선일 수 있다는 주장도 있다. 이는 개인화된 윤리 설정이 죄수의 딜레마를 야기할 수 있기 때문이다.^[51]

2016년 독일 정부는 위원회를 통해 자율 주행의 윤리적 문제를 연구하고 20가지 규칙을 채택했다.^[52]^[53] 이 중 광차 문제와 관련된 규칙은 다음과 같다.

> 8. 인간의 생명 간의 선택과 같은 딜레마적 결정은 특정 상황에 따라 달라지며 예측 불가능성을 포함한다. 따라서 명확한 표준화나 프로그래밍은 불가능하다. 기술 시스템은 사고 방지를 위해 설계되어야 하지만, 인간 운전자의 판단을 대체하거나 예상할 수 없다. 인간 운전자가 다른 사람을 구하기 위해 사람을 죽이는 것은 불법이지만, 반드시 유죄는 아니다. 이러한 법적 판단은 일반적인 평가나 프로그래밍으로 변환될 수 없다. …^[53]

6. 2. 독일 정부의 자율주행차 윤리 규정

독일 정부는 2016년에 자율 주행의 윤리적 함의를 연구하기 위해 위원회를 임명했다.^[52]^[53] 위원회는 자율 주행 차량이 내릴 윤리적 선택을 규제할 법률에 적용될 20가지 규칙을 채택했다.^[53] 이 중 트롤리 딜레마와 관련된 규칙은 다음과 같다.

한 인간의 생명과 다른 인간의 생명 사이의 결정과 같은 진정한 딜레마적 결정은 실제 특정 상황에 달려 있으며, 영향을 받는 당사자의 "예측 불가능한" 행동을 포함한다. 따라서 이를 명확하게 표준화할 수 없으며, 윤리적으로 의심할 여지 없이 프로그래밍할 수도 없다. 기술 시스템은 사고를 방지하도록 설계되어야 한다. 그러나 책임감 있는 운전자의 올바른 판단을 내릴 수 있는 도덕적 능력을 가진 운전자의 결정을 대체하거나 예상할 수 있도록 사고의 영향을 복잡하거나 직관적으로 평가하여 표준화할 수 없다. 인간 운전자가 다른 한 명 이상의 사람의 생명을 구하기 위해 비상 사태에서 사람을 살해한다면 불법 행위를 하는 것이지만, 반드시 유죄로 행동하는 것은 아닐 것이다. 특별한 상황을 고려하여 사후에 내려진 이러한 법적 판단은 일반적인 전적인 평가로 쉽게 변환될 수 없으며, 이에 상응하는 프로그래밍 활동으로도 변환될 수 없다. …^[53]

참조

_[1] 논문 The Problem of Abortion and the Doctrine of the Double Effect https://web.archive.[...] Oxford: Basil Blackwell 1978
_[2] 논문 Killing, Letting Die, and the Trolley Problem https://learning.hcc[...] 1976
_[3] 학술지 The Trolley Problem http://www.psy.vande[...]
_[4] 학술지 Harming Some to Save Others
_[5] 서적 Living High and Letting Die Oxford University Press 1996
_[6] 간행물 A Study of the Influence of Custom on the Moral Judgment Bulletin of the University of Wisconsin 1908-06
_[7] 서적 Ethics The Century Co 1928
_[8] 서적 Untersuchungen über Vorsatz und Fahrlässigkeit im Strafrecht O. Liebermann
_[9] 학술지 ZStW Zeitschrift für die gesamte Strafrechtswissenschaft 1951
_[10] 웹사이트 Hazon Ish, HM, Sanhedrin #25, s.v. "veyesh leayen" http://hebrewbooks.o[...]
_[11] 웹사이트 "Studio One: The Strike(TV)" https://www.paleycen[...] The Paley Center 2022-08-07
_[12] 뉴스 Clang Went the Trolley https://www.nytimes.[...] 2013-11-22
_[13] 학술지 Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities 2019
_[14] 웹사이트 Students Assist Professor Bert Huang in Empirical Study of Law and Moral Dilemmas https://www.law.colu[...] 2016-12-19
_[15] 서적 Moral Philosophy: Theories and Issues Wadsworth 2007
_[16] 학술지 An fMRI Investigation of Emotional Engagement in Moral Judgment 2001-09-14
_[17] 학술지 Stress alters personal moral decision making
_[18] 학술지 Manipulations of Emotional Context Shape Moral Judgment 2006-06-01
_[19] 학술지 The strategic moral self:self-presentation shapes moral dilemma judgments http://purl.flvc.org[...] 2017-08-30
_[20] 학술지 Social observation increases deontological judgments in moral dilemmas 2018-06-18
_[21] 학술지 Selective deficit in personal moral judgment following damage to ventromedial prefrontal cortex 2007-06-01
_[22] 학술지 Virtual morality: Emotion and action in a simulated three-dimensional "trolley problem". 2012-04-01
_[23] 학술지 Serotonin selectively influences moral judgment and behavior through effects on harm aversion 2010-10-05
_[24] 학술지 Variation in the oxytocin receptor gene (OXTR) is associated with differences in moral judgment 2016-12-01
_[25] 학술지 Sidetracked by trolleys: Why sacrificial moral dilemmas tell us little (or nothing) about utilitarian judgment 2015-03-20
_[26] Youtube The Greater Good https://www.youtube.[...] 2018-12-23
_[27] 잡지 'Trolley Problem': Virtual-Reality Test for Moral Dilemma – TIME.com https://healthland.t[...]
_[28] 학술지 Evolution and the trolley problem: People save five over one unless the one is young, genetically related, or a romantic partner http://137.140.1.71/[...]
_[29] 웹사이트 What do Philosophers believe? http://philpapers.or[...] 2013-05-11
_[30] 학술지 Revisiting External Validity: Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology http://www.escholars[...] 2014-09-04
_[31] 웹사이트 Is One of the Most Popular Psychology Experiments Worthless? https://www.theatlan[...] 2014-07-24
_[32] 학술지 Our Bodies in the Trolley's Path, or Why Self-driving Cars Must *Not* Be Programmed to Kill
_[33] 뉴스 Why Self-Driving Cars Must Be Programmed to Kill https://www.technolo[...] 2015-10-22
_[34] 서적 On Human Nature Princeton 2017
_[35] 웹사이트 Can nuclear war be morally justified? https://www.bbc.com/[...] 2023-04-19
_[35] 학술지 The Trolley Problem and the Dropping of Atomic Bombs https://philarchive.[...] 2017
_[36] 논문 Beyond sacrificial harm: A two-dimensional model of utilitarian psychology. 2018-03
_[37] 웹사이트 Ethics and Intuitions http://www.utilitari[...] 2016-06-17
_[38] 서적 The Limits of Morality Oxford University Press 1989
_[39] 웹사이트 Would You Kill One Person to Save Five? thoughtco.com/would-[...] 2023-04-05
_[40] 간행물 The Ethics of Autonomous Cars https://www.theatlan[...] 2013-10-08
_[41] 논문 Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars? 2015-10-13
_[42] 웹사이트 Why Self-Driving Cars Must Be Programmed to Kill http://www.technolog[...] MIT Technology review 2015-10-22
_[43] 논문 The social dilemma of autonomous vehicles
_[44] 웹사이트 Moral Machine http://moralmachine.[...] 2019-01-31
_[45] 논문 The Moral Machine experiment 2018-10-24
_[46] 논문 Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure
_[47] 논문 Forced-choice decision-making in modified trolley dilemma situations: a virtual reality and eye tracking study 2014-12-16
_[48] 논문 Virtual Morality: Transitioning from Moral Judgment to Moral Action? 2016-10-10
_[49] 논문 Affective basis of judgment-behavior discrepancy in virtual experiences of moral dilemmas http://psyarxiv.com/[...] 2014-01-02
_[50] 논문 Never Mind the Trolley: The Ethics of Autonomous Vehicles in Mundane Situations 2018-06-01
_[51] 논문 Autonomous Cars: In Favor of a Mandatory Ethics Setting 2017-06-01
_[52] 웹사이트 Bericht der Ethik-Kommission Automatisiertes und vernetztes Fahren http://www.bmvi.de/S[...] Federal Ministry of Transport and Digital Infrastructure (German: Bundesministerium für Verkehr und digitale Infrastruktur) 2016-06-20
_[53] 웹사이트 Ethics Commission's complete report on automated and connected driving https://www.bmvi.de/[...] Federal Ministry of Transport and Digital Infrastructure (German: Bundesministerium für Verkehr und digitale Infrastruktur) 2017-08-28
_[54] 논문 Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities https://www.mdpi.com[...] 2019
_[55] 웹사이트 いま改めて考える「自動運転車のトロッコ問題」 https://www-510.aig.[...] AIG総研 2019-10-13
_[56] Youtube https://www.youtube.[...]
_[57] 문서 考察方略が道徳ジレンマ状況における判断に及ぼす影響 https://doi.org/10.1[...]
_[58] 논문 An fMRI Investigation of Emotional Engagement in Moral Judgment http://www.wjh.harva[...] 2001
_[59] 논문 The role of conscious reasoning and intuition in moral judgments: Testing three principles of harm. http://www.wjh.harva[...] 2006
_[60] 논문 A dissociation between moral judgments and justifications. http://www.wjh.harva[...] 2007
_[61] 논문 The role of reasoning and intuition in moral judgment http://www.wjh.harva[...]
_[62] 간행물 'Trolley Problem': Virtual-Reality Test for Moral Dilemma – TIME.com http://healthland.ti[...] 2021-03-17
_[63] 논문 An fMRI Investigation of Emotional Engagement in Moral Judgment http://www.wjh.harva[...]
_[64] 논문 The role of conscious reasoning and intuition in moral judgments: Testing three principles of harm. http://www.wjh.harva[...] 2006
_[65] 논문 A dissociation between moral judgments and justifications. http://www.wjh.harva[...] 2007
_[66] 논문 The role of reasoning and intuition in moral judgment http://www.wjh.harva[...]

본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com