로봇 윤리

3. 로봇 윤리의 역사와 주요 사건

아이작 아시모프는 1942년 그의 소설 런어라운드에서 로봇 공학의 3원칙을 제시하며 로봇 윤리 논의의 초기 기반을 제공하였다.^[4] 2000년대 초반부터 로봇 윤리의 개념은 본격적으로 논의되기 시작했다. 2002년 이탈리아 로봇 공학자 잔마르코 베루지오는 "로봇 윤리학(Roboethics)"이라는 용어를 처음 사용하고 그 중요성을 제창했다.^[35]

2004년 베루지오 의장 주최로 제1회 국제 로봇 윤리 심포지엄이 이탈리아 산레모에서 개최되어, "로보윤리"라는 용어가 공식적으로 처음 사용되었다.^[5] 같은 해, IEEE-RAS에서 로보윤리 기술 위원회를 설립하고,^[4] 일본 후쿠오카에서 후쿠오카 세계 로봇 선언이 발표되었다.^[7]

2005년에서 2006년 사이에는 이탈리아 제노바에서 E.C. 유론 로보윤리 아틀리에가 최초의 로보윤리 로드맵을 제작하였다.^[4] 2007년에는 대한민국이 세계 최초로 국가 차원에서 로봇윤리헌장 제정을 시도하였으나, 초안만 발표되고 공식화되지는 않았다.

2016년, AAAI 인공 지능 발전 협회는 미국 스탠퍼드 대학교에서 비인간 에이전트의 윤리적 및 도덕적 고려 사항에 대한 심포지엄을 개최하였다.^[4]

2017년에는 소피아라는 로봇에게 사우디아라비아 시민권이 부여되어 최초로 국적을 가진 로봇이 탄생했다.^[8][9] 이는 사우디 여성에게 부여된 권리와의 형평성 문제 등 여러 논란을 불러 일으켰다.^[10][11] 같은 해, 유럽 의회에서 로봇에 관한 민법 규칙 결의안이 통과되었다.^[12]

2020년에는 로봇, 동물 및 비인간 환경의 권리를 위한 비인간 정당이 설립되었다.^[13]

4. 로봇 윤리의 주요 쟁점

오늘날 로봇은 장난감, 교육, 치료, 생산 등 다양한 분야에서 활용되고 있다. 지능형 로봇의 등장으로 로봇을 단순한 도구로 볼 것인지, 아니면 새로운 종으로 간주해야 할지에 대한 논의와 더불어, 인간 규범과의 관계, 다양한 종교, 문화, 계층의 의견 수렴, 사이보그의 도덕성 등 다양한 사회적 쟁점이 제기되고 있다.^[4] 로봇의 등장은 산업, 경제, 사회 변화에 큰 영향을 미칠 수 있으므로, 발생 가능한 위험으로부터 안전을 확보하는 것이 중요하다.

로봇 윤리는 로봇의 설계, 제작, 사용 과정에서 발생할 수 있는 위험을 예방하고, 로봇으로 인해 발생할 수 있는 사회적 갈등을 조정하기 위해 필요하다. 로봇 윤리는 미래의 위험을 사전에 예방하고 규제하는 역할을 수행한다.

로봇 윤리에 대한 논의는 비인간 또는 비생물적 존재의 대우와 잠재적인 "정신성"에 대한 윤리적 문제를 포함한다. 로봇 윤리의 기초를 다룬 최초의 출판물 중 하나는 1942년 아이작 아시모프의 SF 소설 런어라운드이며, 여기서 로봇 공학의 3원칙이 제시되었다. 아시모프는 이 세 가지 법칙을 지속적으로 수정했으며, 결국 네 번째 또는 제0 법칙을 추가했다. "로보윤리"라는 단어는 잔마르코 베루지오(Gianmarco Veruggio)가 처음 사용했을 가능성이 높다.^[4]

2004년 제1회 국제 로보윤리 심포지엄은 로보윤리에 대한 우려를 증폭시킨 중요한 사건이었다.^[5] 이 심포지엄에서 인류학자 다니엘라 체르퀴(Daniela Cerqui)는 세 가지 주요 윤리적 입장을 확인했다.^[6]

1. 윤리에 관심 없는 사람들: 자신의 행동이 기술적인 것이며, 사회적 또는 도덕적 책임이 없다고 생각한다.

2. 단기적 윤리적 질문에 관심 있는 사람들: "좋은" 또는 "나쁜"이라는 용어로 질문을 표현하며, 로봇이 사회적 관습을 준수해야 한다고 생각한다.

3. 장기적 윤리적 질문에 대해 생각하는 사람들: 산업화된 국가와 빈곤 국가 간의 "디지털 격차"를 인식하고, 로봇 공학 개발 방식을 바꿔야 하는지 고민한다.

로봇 윤리 분야의 주요 사건 및 프로젝트는 다음과 같다.

• 설계에 의한 윤리 (기계 윤리 참조)
• 설계 내 윤리
• 설계를 위한 윤리 (로봇 윤리와 법 참조).^[19]

4. 1. 킬러 로봇 (자율살상무기)

• '''인간-고리내(human-in-the-loop):''' 인간이 무기 작동을 개시해야 한다.
• '''인간-고리상(human-on-the-loop):''' 인간이 작동을 중단시킬 수 있다.
• '''인간-고리외(human-out-of-the-loop):''' 인간의 개입이 전혀 없다.

4. 2. 섹스 로봇

4. 3. 로봇과 일자리

4. 4. 로봇과 프라이버시

4. 5. 로봇의 도덕성

4. 6. 인간과 로봇의 관계

5. 로봇 윤리와 법

로봇 기술이 발전하면서, 법적인 문제를 해결하기 위해 로봇 윤리에 기반한 법률 제정이 필요하다는 주장이 제기되고 있다.^[30] 워싱턴 대학교 로스쿨의 닐 M. 리처드(Neil M. Richards) 교수와 맥켈비 공과대학의 윌리엄 D. 스마트(William D. Smart) 교수는 "로봇은 법에 대해 어떻게 생각해야 하는가"라는 논문에서 로봇 윤리와 법에 관한 네 가지 주장을 제시했다.^[30]

이들은 먼저 로봇을 "규제 및 기술적 과제의 본질을 포착하고 규제의 기초가 될 수 있는 비생물학적 자율 에이전트"로 정의했다.^[30] 그런 다음, 앞으로 10년 동안 로봇의 고급 기능이 어떻게 발전할지 예측했다.

세 번째로, 이들은 로봇 윤리 및 법과 관련된 문제와 사이버 법의 경험 사이에 유사점이 있다고 주장했다. 즉, 로봇 윤리 법은 사이버 법의 사례를 참고하여 법률 제정 과정에서 발생할 수 있는 오류를 줄일 수 있다는 것이다.^[30] 특히, 새로운 기술 문제를 이해하는 데 사용되는 은유의 중요성을 강조하며, 은유를 잘못 이해하면 법률이 잘못될 수 있다고 지적했다.^[30]

마지막으로, 이들은 "안드로이드 오류"라는 은유를 경계해야 한다고 주장했다. 안드로이드 오류는 인간과 로봇을 동일시하는 것을 의미한다.^[30]

6. 대한민국의 로봇윤리헌장 (초안)

대한민국은 2007년 세계 최초로 국가 차원에서 로봇 윤리 헌장 제정을 시도했으나, 초안만 발표되고 공식화되지는 않았다.^[4] 초안은 인간과 로봇의 공존공영, 인간 중심의 윤리 규범을 목표로 한다.

7. 로봇 윤리에 대한 비판적 시각

로봇 윤리는 로봇으로 인해 발생 가능한 미래의 위험을 사전에 예방하고 규제할 수 있다는 점에서 긍정적으로 평가받는다. 그러나 로봇 윤리 논의가 지나치게 추상적이거나 현실과 동떨어져 있다는 비판도 존재한다. 로봇 기술의 발전 속도에 비해 윤리적 논의가 충분히 이루어지지 않고 있다는 지적도 있다.^[1] 또한, 로봇 윤리가 특정 집단의 이익을 대변하거나, 기술 발전을 저해할 수 있다는 우려도 제기된다.^[1]

참조

_[1] 논문 Roboethics: Social and Ethical Implications of Robotics Springer Berlin Heidelberg 2008
_[2] 웹사이트 Robot Ethics http://www.ieee-ras.[...] 2017-06-26
_[3] 웹사이트 Robot Ethics - IEEE Robotics and Automation Society - IEEE Robotics and Automation Society https://www.ieee-ras[...] 2022-04-10
_[4] 서적 Roboethics A Navigating Overview Springer 2016
_[5] 웹사이트 ROBOETHICS Cover http://www.roboethic[...] 2020-09-29
_[6] 웹사이트 The Birth of Roboethics http://www.roboethic[...]
_[7] 웹사이트 World Robot Declaration http://prw.kyodonews[...]
_[8] 뉴스 Saudi Arabia gives citizenship to a non-Muslim, English-Speaking robot http://www.newsweek.[...] 2017-10-26
_[9] 뉴스 Saudi Arabia bestows citizenship on a robot named Sophia https://techcrunch.c[...] 2017-10-26
_[10] 뉴스 Saudi Arabia takes terrifying step to the future by granting a robot citizenship https://www.avclub.c[...] 2017-10-26
_[11] 뉴스 Saudi Arabia criticized for giving female robot citizenship, while it restricts women's rights - ABC News https://abcnews.go.c[...] Abcnews.go.com
_[12] 논문 Regulating artificial intelligence and robotics: ethics by design in a digital society https://www.tandfonl[...] 2021-03-15
_[13] 웹사이트 Non-Human Party https://nonhuman.par[...]
_[14] 논문 Society-In-the-Loop: Programming the Algorithmic Social Contract 2018
_[15] 논문 Patiency Is Not a Virtue: the Design of Intelligent Systems and Systems of Ethics 2018
_[16] 논문 Human-Aligned Artificial Intelligence Is a Multiobjective Problem http://researchonlin[...] 2018
_[17] 논문 Embedded Ethics: Some Technical and Ethical Challenges. https://hal.archives[...] 2018
_[18] 논문 The 'Big Red Button' Is Too Late: An Alternative Model for the Ethical Evaluation of AI Systems 2018
_[19] 논문 Ethics in Artificial Intelligence: Introduction to the Special Issue 2018
_[20] 논문 The Measure of a Man?: Asimov's Bicentennial Man, Star Trek's Data, and Being Human 2003-01-01
_[21] 뉴스 Can 'Westworld' Give Us New Ways of Talking About Slavery? https://psmag.com/ne[...]
_[22] 웹사이트 How 'Ex Machina' Stands Out for Not Fearing Artificial Intelligence https://www.theatlan[...] 2015-04-15
_[23] 뉴스 The Meaning of Life in 'Blade Runner 2049' https://psmag.com/ne[...]
_[24] 서적 Killer Robots: Legality and Ethicality of Autonomous Weapons https://www.taylorfr[...] Routledge
_[25] 웹사이트 2014 https://reachingcrit[...]
_[26] 논문 International Committee of the Red Cross (ICRC) position on autonomous weapon systems: ICRC position and background paper http://dx.doi.org/10[...] 2020-12
_[27] 간행물 Pros and Cons of Autonomous Weapons Systems https://www.armyupre[...] 2017-06
_[28] 잡지 Campaign calls for ban on sex robots https://www.wired.co[...] 2015-09-15
_[29] 논문 Should We Campaign Against Sex Robots? https://philpapers.o[...] Cambridge, MA: MIT Press 2017
_[30] SSRN How Should the Law Think About Robots? 2013
_[31] 논문 Good Robots, Bad Robots: Morally Valenced Behavior Effects on Perceived Mind, Morality, and Trust 2020-09-10
_[32] 논문 Robots as Malevolent Moral Agents: Harmful Behavior Results in Dehumanization, Not Anthropomorphism 2020
_[33] 논문 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN) 2016-08
_[34] 논문 Framing Effects on Judgments of Social Robots' (Im)Moral Behaviors 2021
_[35] 웹사이트 Veruggio의 웹페이지 http://www.veruggio.[...]
_[36] 서적 Robot Ethics: The Ethical and Social Implications of Robotics The MIT Press 2012
_[37] 웹사이트 Losing Humanity: The Case against Killer Robots http://www.hrw.org/r[...] 2012
_[38] 서적 Machine Ethics Cambridge University Press 2011
_[39] 서적 Moral Machine: Teaching Robots Right from Wrong Oxford University Press 2009
_[40] Youtube Introducing Spot https://www.youtube.[...] 2015-02-28
_[41] 뉴스 『ロボット犬』でも蹴っちゃダメ？ 倫理をめぐる議論盛んに https://www.cnn.co.j[...] CNN.co.jp 2015-02-28
_[42] 논문 Information ethics: On the philosophical foundation of computer ethics 1999