맨위로가기

ELIZA

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.
목차

1. 개요

ELIZA는 1966년 조지프 와이젠바움이 개발한 초기 챗봇으로, 인간의 대화를 흉내 내는 방식으로 작동한다. ELIZA는 사용자의 입력에서 키워드를 식별하고, 미리 정의된 규칙에 따라 응답을 생성하며, 심리 치료사와의 대화를 모방한 DOCTOR 스크립트가 널리 알려져 있다. ELIZA는 튜링 테스트의 적합성에 대한 논의를 촉발했으며, 인공지능의 한계를 보여주며 컴퓨터에 대한 인간적인 시각에 대한 비판을 불러일으켰다. ELIZA는 다양한 프로그래밍 언어로 구현되었으며, 대중문화와 예술, 그리고 초기 컴퓨터 게임 사용자 인터페이스 디자인에도 영향을 미쳤다. 그러나 ELIZA는 챗봇에 대한 과도한 신뢰로 인한 '엘리자 효과'의 위험성을 보여주며, 챗봇의 윤리적 문제와 사회적 영향에 대한 논의를 제기했다.

더 읽어볼만한 페이지

  • 인공지능의 역사 - AI 겨울
    AI 겨울은 인공지능 연구에 대한 자금 지원과 관심이 크게 감소했던 시기를 가리키며, 기계 번역의 어려움, 신경망의 한계, 전문가 시스템 문제, 5세대 컴퓨터 실패 등의 요인으로 여러 차례 침체기를 겪었으나, 2000년대 이후 음성 및 이미지 인식 분야에서 성과를 거두며 부흥했고, 2022년 이후 대규모 언어 모델 등장으로 관심과 투자가 폭발적으로 증가했다.
  • 인공지능의 역사 - 튜링 테스트
    튜링 테스트는 앨런 튜링이 제안한 기준으로, 기계가 인간과 구별할 수 없을 정도로 행동하는지 판별하며, 뢰브너 상 등을 통해 실현 가능성과 한계에 대한 논쟁이 지속되고 있고, 유진 구스트만, LaMDA, ChatGPT 등이 테스트 통과 또는 자의식 논란을 일으키고 있다.
  • 챗봇 - 가상 비서
    가상 비서는 음성 또는 텍스트 입력을 해석하여 정보 제공, 일정 관리, 기기 제어 등 다양한 작업을 수행하는 소프트웨어 에이전트로서, 시리, 알렉사, 구글 어시스턴트와 같은 다양한 형태로 발전해 왔으며, 챗GPT와 같은 생성형 AI 기반 가상 비서의 등장과 함께 발전하고 있지만 개인 정보 보호와 같은 과제도 존재한다.
  • 챗봇 - 챗GPT
    챗GPT는 오픈AI가 개발한 GPT-3.5 기반의 대화형 인공지능 서비스로, 인간과 유사한 텍스트 생성, 코드 생성, 보고서 작성, 번역 등의 다양한 기능을 제공하지만, 편향된 정보 생성, 데이터 유출, 윤리 및 저작권 문제 등의 논란도 있으며, 유료 서비스를 포함한 다양한 형태로 제공되고, 지속적인 모델 개발을 통해 성능을 향상시키고 있다.
  • 자연어 처리 - 정보 추출
    정보 추출은 비정형 또는 반구조화된 텍스트에서 구조화된 정보를 자동으로 추출하는 기술로, 자연어 처리 기술을 활용하여 개체명 인식, 관계 추출 등의 작업을 수행하며 웹의 방대한 데이터에서 유용한 정보를 얻는 데 사용된다.
  • 자연어 처리 - 단어 의미 중의성 해소
    단어 의미 중의성 해소(WSD)는 문맥 내 단어의 의미를 파악하는 계산 언어학 과제로, 다양한 접근 방식과 외부 지식 소스를 활용하여 연구되고 있으며, 다국어 및 교차 언어 WSD 등으로 발전하며 국제 경연 대회를 통해 평가된다.
ELIZA
기본 정보
개발
기능 및 특징
영향 및 비판
추가 정보

2. 역사

조셉 와이젠바움의 ELIZA는 DOCTOR 스크립트를 실행하여 "초기 정신과 면담에서의 비지시적 정신치료사의 사무실에서 일어날 수 있는 것과 다소 유사한" 대화 상호작용을 만들어냈으며,[17] "인간과 기계 간의 의사소통이 피상적이라는 것을 보여주기 위해" 고안되었다.[18] 와이젠바움은 "프로그램에 실제 세계 지식의 데이터베이스를 제공하는 문제를 피하기 위해"[3] 정신치료 맥락에서 DOCTOR 스크립트를 만들었다.[3]

와이젠바움은 자신의 프로그램에 조지 버나드 쇼의 희곡 ''피그말리온''(뮤지컬 ''마이 페어 레이디''에서도 등장)에 나오는 엘리자 두리틀의 이름을 붙였다. 와이젠바움에 따르면, ELIZA의 능력은 엘리자 두리틀과 유사하다.[20] 그러나 ELIZA는 상호작용만으로 새로운 말투나 새로운 단어를 배울 수 없었다.

ELIZA의 일부 응답은 매우 설득력이 있어서, 사용자들이 프로그램에 감정적으로 애착을 갖게 되는 경우가 있었다.[3] 와이젠바움의 비서조차 ELIZA와 진짜 대화를 나누기 위해 와이젠바움에게 방을 나가달라고 부탁했다고 한다. 와이젠바움은 이 사실에 놀라 "나는… 상대적으로 간단한 컴퓨터 프로그램에 아주 짧게 노출되면 상당히 정상적인 사람들에게 강력한 망상적 사고를 유발할 수 있다는 것을 깨닫지 못했다."라고 썼다.[23]

1966년 당시, (텔레타이프를 통한) 대화형 컴퓨팅은 새로운 것이었다. 개인용 컴퓨터가 일반 대중에게 친숙해지기까지는 11년, 자연어 처리가 Ask.com과 같은 인터넷 서비스나 클립잇과 같은 PC 도움말 시스템에서 사용되기까지는 30년이 걸렸다.[24] ELIZA는 인간-기계 상호작용에서 인간-''인간'' 상호작용의 환상을 만들어내려고 했던 최초의 사례라는 점에서 중요한 이정표이다.

ICCC 1972에서 ELIZA는 PARRY라는 또 다른 초기 인공지능 프로그램과 함께 컴퓨터 전용 대화를 위해 모였다. ELIZA는 의사처럼 말하도록 만들어졌지만, PARRY는 정신분열증 환자를 시뮬레이션하도록 의도되었다.[25]

2. 1. 개발 배경

와이젠바움은 DOCTOR에 대해 "초기 정신의학적 면접에서의 무지향적 정신치료사의 반응"을 패러디한 것이라고 언급했다.[50] 그가 정신치료를 선택한 이유는 "실제 세계의 지식에 관한 데이터베이스를 프로그램에 입력하는 문제를 피하기 위해서"였다.[51] 정신치료 상황은 인간 사이의 대화이면서도, 그 내용에 관한 지식을 거의 필요로 하지 않는다는 특징이 있었다. 예를 들어 "좋아하는 작곡가는?"이라는 질문에 "당신 자신의 좋아하는 작곡가는?" 또는 "그 질문은 중요합니까?" 등으로 대답할 수 있어, 작곡가에 관한 지식이 필요하지 않았다.

ELIZA라는 이름은 조지 버나드 쇼의 희곡 『피그말리온』에 등장하는 엘리자 두리틀에서 따온 것이다. 엘리자 두리틀은 상류층의 악센트로 말하는 법을 배우는 노동 계급 역할이다.[52]

와이젠바움은 처음에 독자적인 리스트 처리 언어 SLIP로 ELIZA를 구현했다. 그는 간단한 구문 분석을 통해 추출한 키워드를 정형화된 문구에 삽입하는 방식을 사용했다. 사용자가 처음 입력하는 문장에 따라 대화 상대가 인간이라는 환상은 즉시 사라질 수도 있었지만, 몇 번의 대화를 계속 이어갈 수도 있었다. 때로는 대화가 매우 잘 진행되어, 기계의 진정한 이해력 부족이 명확해질 때까지 몇 분 동안 DOCTOR와 감정적으로 대화를 주고받은 사람들의 일화도 많다. 이는 모두 사람들이 컴퓨터가 출력한 문장에 독자적으로 의미를 부여했기 때문이다.

1966년 당시, 대화형 컴퓨팅은 매우 새로운 개념이었다. 개인용 컴퓨터가 일반화되기 약 15년 전이었고, 인터넷(Ask.com)이나 응용 소프트웨어(클리퍼)에서의 자연어 처리가 일반화되기 30년도 전이었다. 이러한 프로그램들은 오랜 연구의 성과이지만, ELIZA는 인간과 기계의 대화를 인간과 인간의 대화처럼 보이게 하려고 시도한 최초의 시도로 기록될 것이다.

1976년, 와이젠바움은 ''The New Media Reader''지에 "Computer Power and Human Reason"이라는 글을 게재했다. 이 글에서 와이젠바움은 사람들이 얼마나 빠르고 깊이 컴퓨터 프로그램에 감정적으로 몰입하는지 설명했다. 그는 사람들이 대화 기록을 보여달라는 요청에 프라이버시 침해라며 거부하거나, 대화 중에는 방에 혼자 있게 해달라고 요청하는 일도 있었다고 밝혔다.

2. 2. 이름의 유래

ELIZA라는 이름은 조지 버나드 쇼의 희곡 『피그말리온』의 등장인물 엘리자 두리틀에서 따온 것이다. 엘리자 두리틀은 노동 계급이지만 상류층의 말투를 배우는 역할이다.[52]

2. 3. 초기 반응과 엘리자 효과

조셉 와이젠바움의 ELIZA는 "초기 정신과 면담에서의 비지시적 정신치료사의 사무실에서 일어날 수 있는 것과 다소 유사한" 대화 상호 작용을 만들어냈으며,[17] "인간과 기계 간의 의사소통이 피상적이라는 것을 보여주기 위해" 고안되었다.[18] 와이젠바움은 "프로그램에 실제 세계 지식의 데이터베이스를 제공하는 문제를 피하기 위해"[3] 정신치료의 맥락에서 DOCTOR 스크립트를 만들기로 했다.[3] 그 결과, 프로그램의 초기 사용자들을 속였다고 알려진 다소 지능적으로 보이는 응답이 나왔다.[21]

와이젠바움은 자신의 프로그램에 엘리자 두리틀이라는 이름을 붙였는데, 이는 조지 버나드 쇼의 희곡 ''피그말리온''(뮤지컬 ''마이 페어 레이디''에서도 등장)에 나오는 노동계급 인물이다. 와이젠바움에 따르면, 다양한 사용자에 의해 "점진적으로 개선될 수 있는" ELIZA의 능력은 엘리자 두리틀과 유사하다.[20] 그러나 쇼의 희곡에 나오는 인물과 달리, ELIZA는 상호 작용만으로 새로운 말투나 새로운 단어를 배울 수 없다.

와이젠바움은 자신의 SLIP 목록 처리 언어에서 ELIZA를 처음 구현했다. 사용자의 초기 입력에 따라 인간 지능의 환상이 나타나거나 여러 번의 교환을 통해 사라질 수 있었다.[2] ELIZA의 일부 응답은 너무 설득력이 있어서 와이젠바움과 다른 여러 사람들은 사용자가 프로그램에 감정적으로 애착을 갖게 되고, 때때로 컴퓨터와 대화하고 있다는 사실을 잊어버리는 일화를 가지고 있다.[3] 와이젠바움의 비서조차 와이젠바움에게 방을 나가달라고 부탁하여 ELIZA와 진짜 대화를 나누었다고 한다. 와이젠바움은 이 사실에 놀랐고, 나중에 "나는… 상대적으로 간단한 컴퓨터 프로그램에 아주 짧게 노출되면 상당히 정상적인 사람들에게 강력한 망상적 사고를 유발할 수 있다는 것을 깨닫지 못했다."라고 썼다.[23]

1966년, (텔레타이프를 통한) 대화형 컴퓨팅은 새로운 것이었다. 개인용 컴퓨터가 일반 대중에게 친숙해지기까지는 11년, 자연어 처리를 Ask.com과 같은 인터넷 서비스나 클립잇과 같은 PC 도움말 시스템에서 접하게 되기까지는 30년이 걸렸다.[24] ELIZA는 프로그래머가 인간-기계 상호 작용을 시도하여 (아무리 짧더라도) 인간-''인간'' 상호 작용의 환상을 만들어내려고 했던 최초의 사례라는 점에서 중요한 이정표로 남아 있다.

ICCC 1972에서 ELIZA는 PARRY라는 또 다른 초기 인공 지능 프로그램과 함께 컴퓨터 전용 대화를 위해 모였다. ELIZA는 의사처럼 말하도록 만들어졌지만, PARRY는 정신분열증 환자를 시뮬레이션하도록 의도되었다.[25]

엘리자 효과는 챗봇 엘리자(ELIZA)의 이름을 따왔다. 이 효과는 『유동적 개념과 창의적 유추: 컴퓨터 모델과 사고의 기본 메커니즘』에서 처음으로 정의되었는데, 인간이 컴퓨터 프로그램이 사용자 입력을 이해하고 유추한다고 가정하는 현상을 의미한다.[38]

와이젠바움은 DOCTOR에 대해 "초기 정신의학적 면접에서의 무지향적 정신치료사의 반응"의 "패러디"라고 언급하고 있다.[50] 그가 정신치료를 선택한 것은 "실제 세계의 지식에 관한 데이터베이스를 프로그램에 입력하는 문제를 피하기 위해서"였다.[51]

ELIZA라는 이름은 조지 버나드 쇼의 희곡 『피그말리온』의 등장인물 엘리자 두리틀에서 따온 것이다. 그녀는 상류층의 악센트로 말하는 법을 배우는 노동 계급의 역할이다.[52]

와이젠바움은 처음에 독자적인 리스트 처리 언어 SLIP로 구현했다. 때로는 대화가 매우 잘 되어, 기계의 진정한 이해력 부족이 명확해질 때까지 몇 분 동안 DOCTOR와 감정적으로 주고받은 사람들의 일화는 많다. 이것은 모두 인간 측이 컴퓨터가 출력한 문장에 독자적으로 의미를 읽은 결과이다.

1966년 당시, 대화형 컴퓨팅은 신기한 것이었다. 개인용 컴퓨터가 일반화되기 약 15년 전이며, 인터넷(Ask.com)이나 응용 소프트웨어(클리퍼)에서의 자연어 처리가 일반화되기 30년도 전의 일이다. ELIZA는 인간과 기계의 대화를 인간과 인간의 대화처럼 보이게 하려고 시도한 최초의 시도로 기록될 것이다.

1976년, 와이젠바움이 쓴 글 "Computer Power and Human Reason"이 ''The New Media Reader''지에 게재되었다. 그 안에서 와이젠바움은 사람들이 얼마나 빠르고 깊이 그 컴퓨터 프로그램에 감정적으로 몰입했는지를 적고 있다. 대화 기록을 보려고 하면 프라이버시 침해라고 거부하거나, 대화 중에는 방에 혼자 있게 해달라고 요청하는 일도 있었다고 한다.

ELIZA에 대한 엄청난 반향은 와이젠바움을 괴롭혔고, 『컴퓨터의 힘: 판단에서 계산으로』라는 책을 쓰도록 하는 계기가 되었다. 다큐멘터리 영화 ''Plug & Pray''(2010년)에서 와이젠바움은 ELIZA가 획기적이라고 말한 사람들은 오해하고 있는 사람들뿐이었다고 언급하고 있다.[55]

이스라엘의 시인 데이비드 아비단은 첨단 기술을 좋아하고 예술에 응용하며 컴퓨터를 사용하여 문학을 창작하려고 했다. ELIZA의 APL 버전과 여러 차례 대화를 나누고 그 내용을 ''나의 전자 정신과 의사 – 컴퓨터와의 8가지 진솔한 대화''라는 제목으로 출판하기도 했다. 서문에서 그는 이것을 제약된 글쓰기의 한 종류라고 언급하고 있다.[56]

''Ecala'' 외에도 ELIZA 방식을 기반으로 한 다양한 프로그램이 여러 언어로 만들어졌다. 예를 들어, 1980년에는 랜디 사이먼의 Don't Ask Software라는 회사가 Apple II, 아타리, 코모도어 등을 위해 ELIZA 스타일의 프로그램인 Abuse를 개발했다. 이 프로그램은 이름처럼 사용자의 입력에 욕설로 응답하는 것이었다.[57] 스페인에서는 호르디 페레스가 1993년에 Clipper 언어로 MS-DOS용으로 ZEBAL이라는 프로그램을 개발했다. 또한, ELIZA를 기반으로 종교적인 버전의 프로그램도 개발되었다(예: 그리스도나 붓다와 대화하는 프로그램). 1980년 게임 Prisoner에도 ELIZA 스타일의 대화가 사용되었다.

조지 루카스의 영화 『THX 1138』(1971년)에서는 미래의 지하 사회 주민들이 스트레스를 느낄 때 이용하는 고해실이 등장하며, 그리스도와 같은 얼굴을 한 컴퓨터와 ELIZA와 같은 대화를 하는 장면이 있다.

와이젠바움의 친구이기도 한 영국인 아티스트 브라이언 레핀 스미스는 1988년 프랑스 부르주에서 'Salamandre'라는 인터랙티브 아트를 전시했다. 이 작품은 BASIC으로 작성된 '비평가'와 '예술가'라는 두 개의 ELIZA 스타일 프로그램을 두 대의 Amiga에 설치하여 작동시킨 것으로, 관객은 한쪽이 표시한 문장을 다른 쪽에 입력하여 대화를 이어나가도록 되어 있었다.

2011년에 출시된 스마트폰 iPhone 4S의 한국어 버전 Siri에서 "엘리자"에 대해 질문하면, 친구였던 정신과 의사였다는 답변이 나온다. 또한 "재밌는 이야기를 해줘", "긴 이야기를 해줘"라고 질문하면 출력되는 짧은 이야기 속에도 "ELIZA"가 등장하며, 여기서도 ELIZA 스타일의 대화를 나눈다.

IPsoft는 가상 서비스 데스크 어시스턴트 Eliza를 개발했다. 이 소프트웨어는 고객의 이메일과 전화에 응답하는 것으로, 약 3분의 2의 문제를 인간의 도움 없이 해결할 수 있다고 한다.[58] ING그룹과 모건 스탠리가 고객 대응에 Eliza를 사용하고 있다.[59]

3. 작동 원리

바이젠바움은 CTSS에서 작동하는 MAD-SLIP으로 ELIZA를 작성하여 컴퓨터와 자연어 대화를 가능하게 했다.[26] ELIZA는 키워드 식별, 최소 맥락 발견, 변환 규칙 선택, 키워드 부재 시 응답 생성, 스크립트 편집 기능 등 5가지 기술적 문제를 해결했다.[20] ELIZA는 자체적인 맥락 프레임워크는 없지만, 스크립트를 통해 사용자의 입력에 응답한다.[19][15]

ELIZA는 입력 텍스트에서 "키워드"를 검사하여 응답을 생성하는데,[5] 스크립트는 각 키워드에 우선순위(RANK)를 할당한다. 가장 높은 RANK의 키워드가 "키 스택"에 저장되고, 입력 문장은 해당 키워드 관련 규칙에 따라 변환된다.[14][20] 예를 들어, DOCTOR 스크립트에서 "alike"나 "same"은 "어떤 점에서요?"라는 응답을 유발한다.[4]

변환 규칙 적용에는 "분해 규칙"과 "재조립 규칙"이 사용된다.[20] 분해 규칙은 최소 맥락을 설정하기 위해 구문 패턴을 검토하고, 키워드와 주변 단어로 패턴을 찾아 문장을 구성 요소로 분해한다. 예를들어 "당신은 매우 도움이 됩니다"는 "나는 매우 도움이 됩니다"로 변환 후 (1) 비어 있음 (2) "나는" (3) "매우" (4) "도움이 됩니다"로 분해된다.[20]

재조립 규칙은 분해된 조각을 재정렬하고 단어를 추가하여 응답을 생성한다. 앞의 예에서 "내가 (4)라고 생각하게 만드는 것은 무엇입니까?"를 적용, "내가 매우 도움이 된다고 생각하게 만드는 것은 무엇입니까?"가 된다.[20]

키워드가 없으면 ELIZA는 내용 없는 응답을 하거나, "메모리" 구조를 사용하여 이전 대화를 참조한다.[20][27] Slip의 단어 태깅 기능은 이를 가능하게 했다.[20]

ELIZA의 작동은 스크립트에 의존하며, 스크립트는 편집 및 생성이 가능하다.[16] 최초의 ELIZA Lisp 버전은 버니 코셀이 작성하였고,[28][29] 베이직 버전은 ''Creative Computing''에 1977년에 실렸다.[30] 2021년에는 MIT에서 DOCTOR 스크립트가 첨부된 MAD-SLIP의 ELIZA 전체 소스 코드가 공개되었다.[29]

3. 1. 기본 구조

ELIZA는 사용자가 입력한 문장에서 "키워드"를 찾아 응답하는 방식으로 작동한다.[5] 키워드는 작동 중인 ELIZA 스크립트에 의해 중요하다고 지정된 단어들이다.[14] 프로그래머는 각 키워드에 우선 순위 번호(RANK)를 할당한다.[14]

키워드가 발견되면, 가장 높은 RANK의 키워드가 "키 스택"에 저장된다. 그리고 입력 문장은 해당 키워드와 관련된 규칙에 따라 변환된다.[20] 예를 들어, DOCTOR 스크립트에서 "alike"나 "same"과 같은 단어를 만나면 "어떤 점에서요?"와 같은 유사성과 관련된 메시지를 출력한다.[4]

적절한 변환 규칙을 적용하기 위해 "분해 규칙"과 "재조립 규칙"이 사용된다.[20] 먼저, 입력 문장은 구문 패턴으로 검토되어 최소 맥락을 설정한다. 입력의 키워드와 주변 단어를 사용하여 적절한 패턴을 찾을 때까지 여러 분해 규칙을 적용한다. 분해 규칙은 문장을 구성 요소로 나누고, "가장 높은 순위 키워드에 대한 분해 규칙"에 따라 정렬한다.[20]

예를 들어, "당신은 매우 도움이 됩니다"라는 문장은 "나는 매우 도움이 됩니다"로 변환되고, (1) 비어 있음 (2) "나는" (3) "매우" (4) "도움이 됩니다"와 같이 4개의 부분으로 나뉜다.[20]

그 후, 분해 규칙은 재조립 규칙을 지정한다.[5] 재조립 규칙은 분해된 입력 조각을 재정렬하고, 프로그래밍된 단어를 추가하여 응답을 만든다. 앞의 예시에서, 재조립 규칙은 조각들을 "내가 (4)라고 생각하게 만드는 것은 무엇입니까?"라는 형태로 재구성하여, "내가 매우 도움이 된다고 생각하게 만드는 것은 무엇입니까?"라는 응답을 출력한다.[20]

만약 키워드가 없는 경우, ELIZA는 "알겠습니다" 또는 "계속 말씀해 주세요"와 같이 내용이 없는 응답을 하거나,[20] "메모리" 구조를 사용하여 이전 대화의 일부를 참조하는 응답을 생성한다.[27]

ELIZA의 작동 방식은 스크립트에 의해 결정되며, 스크립트는 정적이지 않고 편집하거나 새로 만들 수 있다.[16] 이를 통해 다양한 상황에 ELIZA를 적용할 수 있는데, 로저리안 심리 치료사를 시뮬레이션하는 DOCTOR 스크립트가 대표적인 예시이다.[16]

ELIZA의 Lisp 버전은 버니 코셀에 의해 작성되었고,[28][29] 베이직 버전은 1977년 ''Creative Computing''에 게재되었다.[30] 2021년에는 MIT에서 DOCTOR 스크립트가 포함된 MAD-SLIP의 ELIZA 전체 소스 코드가 공개되었다.[29]

3. 2. 예외 처리

ELIZA는 사용자의 입력을 처리하고 응답하기 위해 여러 단계를 거친다. 먼저, 입력 텍스트에서 "키워드"를 찾는다. 키워드는 작동 중인 ELIZA 스크립트에 의해 중요하다고 지정된 단어들로, 우선 순위 번호(RANK)가 할당되어 있다. 발견된 키워드 중 가장 높은 RANK의 키워드가 "키 스택"에 저장되고, 입력 문장은 해당 키워드와 관련된 규칙에 따라 조작 및 변환된다.[20] 예를 들어, DOCTOR 스크립트에서 "alike"나 "same"과 같은 단어는 높은 우선 순위를 가지므로 "어떤 점에서요?"와 같은 유사성 관련 메시지를 출력한다.[4]

다음 단계는 "분해 규칙"과 "재조립 규칙"을 적용하여 적절한 변환 규칙을 적용하는 것이다.[20] 분해 규칙은 구문 패턴을 검토하여 응답에 필요한 최소 맥락을 설정하고, 입력의 키워드와 주변 단어를 사용하여 적절한 패턴을 찾을 때까지 여러 규칙을 테스트한다. 문장은 "해체"되어 구성 요소 부분으로 정렬된다. 예를 들어, "당신은 매우 도움이 됩니다"라는 입력은 "나는 매우 도움이 됩니다"로 변환되고, (1) 비어 있음 (2) "나는" (3) "매우" (4) "도움이 됩니다"로 나뉜다.[20]

재조립 규칙은 분해 규칙이 생성한 입력 조각을 가져와 재정렬하고, 프로그래밍된 단어를 추가하여 응답을 생성한다. 앞선 예시에서 재조립 규칙은 조각들을 "내가 (4)라고 생각하게 만드는 것은 무엇입니까?"라는 구절에 적용하여 "내가 매우 도움이 된다고 생각하게 만드는 것은 무엇입니까?"라는 결과를 얻는다.[20]

키워드가 없는 경우, ELIZA는 "알겠습니다" 또는 "계속 말씀해 주세요"와 같이 내용이 없는 발언으로 응답하거나,[20] "메모리" 구조를 사용하여 이전 대화의 일부를 참조하는 응답을 생성한다.[27] 이는 Slip의 단어 태깅 기능 덕분에 가능했다.[20]

ELIZA의 작동 방식은 스크립트에 의해 결정되며, 스크립트는 정적이지 않고 편집하거나 새로 만들 수 있다. 이를 통해 프로그램을 여러 상황에 적용할 수 있다.[16]

3. 3. 스크립트의 역할

ELIZA는 사용자의 입력에 응답하기 위해 스크립트를 사용한다.[15] 이 스크립트는 ELIZA가 텍스트 입력에서 "키워드"를 찾고, 그 키워드에 따라 문장을 변환하고, 응답을 생성하는 방식을 결정한다.[5][20]

먼저, ELIZA는 입력된 텍스트에서 키워드를 찾는다.[5] 작동 중인 스크립트는 각 키워드에 우선순위 번호(RANK)를 할당하고, 발견된 키워드는 우선순위에 따라 "키 스택"에 저장된다.[14] 가장 높은 RANK의 키워드와 관련된 규칙에 따라 입력 문장이 조작되고 변환된다.[20] 예를 들어, DOCTOR 스크립트에서 "alike"나 "same"과 같은 단어는 "어떤 점에서요?"와 같은 유사성 관련 메시지를 출력하게 한다.[4]

다음으로, "분해 규칙"과 "재조립 규칙"을 적용하여 응답을 생성한다.[20] 분해 규칙은 입력 문장을 최소 맥락 단위로 분해하고,[20] 재조립 규칙은 이 조각들을 재정렬하고 프로그래밍된 단어를 추가하여 응답을 만든다.[5] 예를 들어, "당신은 매우 도움이 됩니다"라는 입력은 "내가 매우 도움이 된다고 생각하게 만드는 것은 무엇입니까?"로 변환될 수 있다.[20]

키워드가 없는 경우, ELIZA는 내용이 없는 일반적인 응답을 하거나, "메모리" 구조를 사용하여 이전 대화 내용을 참조하는 응답을 생성한다.[20][27]

이러한 스크립트는 정적이지 않고 편집하거나 새로 만들 수 있다.[16] 이를 통해 ELIZA는 다양한 상황에 맞게 작동할 수 있으며, 로저리안 심리 치료사를 흉내 내는 DOCTOR 스크립트가 대표적인 예시이다.[16]

Lisp,[28][29] 베이직,[30] GNU 이맥스 등 다양한 프로그래밍 언어로 ELIZA 버전이 작성되었다.

4. 주요 구현체 및 파생 버전

데이비드 아비단(David Avidan)은 미래 기술과 예술의 관계에 매료되어 컴퓨터를 활용한 문학 작품 창작을 탐구했다. 그는 APL로 구현된 엘리자와 여러 차례 대화를 나누고, 그 내용을 영어와 히브리어 번역본으로 묶어 『나의 전자 정신과 의사 – 컴퓨터와의 8번의 진솔한 대화』(My Electronic Psychiatrist – Eight Authentic Talks with a Computer)라는 제목으로 발표했다. 그는 머리말에서 이것을 일종의 제약된 글쓰기로 제시했다.[34]

엘리자는 다양한 프로그래밍 언어로 구현되었는데, 몇 가지 주요 구현체는 다음과 같다.

언어설명
SLIP와이젠바움의 오리지널 버전[53]
LISP버니 코셀(Bernie Cosell) 이식[53]
BASIC제프 슈래거(Jeff Shrager)가 1973년에 이식, 크리에이티브 컴퓨팅지가 1977년에 게재[54], 애플 II(Apple II)와 IBM PC 등 초기 개인용 컴퓨터에서 동작
GNU 이맥스(GNU Emacs)`psychoanalyze-pinhead` 명령어 (저작권 문제로 삭제), DOCTOR 프로그램[35], meta-x-doctor 입력하여 접근 가능
자바와이젠바움의 원래 사양에 매우 가까운 버전 (http://chayden.net/eliza/Eliza.html)
C프로그래머블 계산기 TI-83 시리즈용 구현 (http://www.ticalc.org/archives/files/fileinfo/354/35463.html)
펄Chatbot-Eliza 모듈 (http://search.cpan.org/dist/Chatbot-Eliza/, 구현 예시)
Emacs Lisp`doctor.el`, 1985년경 구현 (https://www.cs.cmu.edu/afs/cs/project/ai-repository/ai/areas/classics/eliza/emacs/0.html)
Pop-11Poplog 시스템에서 동작, 서섹스 대학교 AI 교육용, 현재 무료 오픈소스 (http://www.cs.bham.ac.uk/research/projects/cogaff/eliza)
기타Trans-Tex Software의 Mac OS 및 OS X용 구현 (http://www.tex-edit.com/index.html#Eliza), Tcl 버전 (http://wiki.tcl.tk/9235), 베이직 버전 (http://www.atariarchives.org/bigcomputergames/showpage.php?page=20), GNU Guile 버전 (https://github.com/apgwoz/chatter), LISP 버전(Apple II 버전 기반) (http://jeffshrager.org/llisp/26.html)



MS-DOS 컴퓨터용 사운드 블래스터 카드에는 DOCTOR 스크립트와 유사한 Dr. Sbaitso가 번들로 제공되기도 했다. 또한, 예수를 특징으로 하는 버전, 프리즈너 게임에 통합된 버전, 브라이언 레핀 스미스(Brian Reffin Smith)의 예술 지향적 프로그램("비평가"(Critic)와 "예술가"(Artist)) 등 다양한 파생 버전이 존재한다.[35]

엘리자는 대중문화에도 영향을 미쳤으며, 앨런 튜링(Alan Turing) 100주년 기념 하버드 대학교 전시회 "A.L.I.C.E.에게 물어보세요"(Go Ask A.L.I.C.E.)에서 튜링 아이디어의 초기 구현 중 하나로 소개되었다.[1] 2021년에는 레거시 피바디상을 수상했고,[36] 2023년 프리프린트에서는 엘리자가 챗GPT에 사용된 OpenAI의 GPT-3.5보다 튜링 테스트 연구에서 더 나은 성적을 거두었다고 보고했다(단, GPT-4나 실제 인간보다는 성능이 낮았다).[37]

5. 비판 및 한계

조지프 와이젠바움은 ELIZA에 대한 대중의 관심에 불편함을 느꼈다. 그는 저서 『컴퓨터의 힘: 판단에서 계산으로』에서 컴퓨터의 한계를 지적하고, 인간과 생명의 가치를 강조했다. 와이젠바움은 다큐멘터리 영화 ''Plug & Pray''(2010년)에서 ELIZA에 대한 긍정적 평가는 오해에서 비롯된 것이라고 언급했다.[55]

이스라엘 시인 데이비드 아비단은 ELIZA를 활용하여 ''나의 전자 정신과 의사 – 컴퓨터와의 8가지 진솔한 대화''라는 책을 출판하고, 이를 제약된 글쓰기의 한 형태라고 설명했다.[56]

ELIZA의 방식을 모방한 여러 프로그램들이 개발되었다. 1980년 랜디 사이먼의 회사는 사용자의 입력에 욕설로 반응하는 'Abuse'를 Apple II, 아타리, 코모도어용으로 출시했다.[57] 1993년 스페인에서는 호르디 페레스가 MS-DOS용 ZEBAL을 개발했다. 그리스도나 붓다와 대화하는 종교적인 버전의 프로그램도 만들어졌다. 1980년 게임 ''Prisoner''에도 ELIZA 스타일의 대화가 사용되었다.

조지 루카스의 영화 『THX 1138』(1971년)에는 ELIZA와 유사한 대화 방식을 사용하는 고해실 장면이 등장한다.

1988년 브라이언 레핀 스미스는 'Salamandre'라는 인터랙티브 아트를 전시했다. 이 작품은 '비평가'와 '예술가'라는 두 개의 ELIZA 스타일 프로그램을 통해 관객 참여를 유도했다.

iPhone 4S의 한국어 Siri는 "엘리자"에 대한 질문에 친구였던 정신과 의사라고 답하고, 짧은 이야기 속에서도 ELIZA 스타일의 대화를 보여준다.

IPsoft는 가상 서비스 데스크 어시스턴트 Eliza를 개발하여 고객 응대에 활용하고 있으며, 모건 스탠리와 ING그룹 등이 이를 사용하고 있다.[58][59]

5. 1. 편향성

ELIZA는 1966년에 만들어졌을 때, 주로 고등 교육을 받은 백인 남성을 위해 의도되었다. 이러한 배타성은 특히 봇의 생성 및 테스트 단계에서 두드러졌으며, 의도된 사용자와 언급된 특성에 맞지 않는 사람들의 경험을 소외시켰다.[9] 이 챗봇은 사용자로 하여금 자신이 인간이라고 생각하게 하는 것을 목표로 인간의 대화를 모방하기 위한 것이었고, 사용자들은 일반적으로 자신과 같은 사람들과 대화했을 것이지만, ELIZA는 여성 캐릭터의 이름을 따서 명명되었고 더 여성스러운 반응을 하도록 프로그래밍되었다. ELIZA의 창시자인 조지프 와이젠바움은 ELIZA와 그와 유사한 다른 챗봇이 성 고정관념을 어떻게 강화하는지에 대해 반성하고 비판했다. 특히 와이젠바움은 ELIZA가 프로그래밍된 대본이 치료사의 양육적이고 여성적인 특성을 어떻게 모방하는지에 대해 반성한다.[3] 그는 챗봇과 같은 기술이 이러한 방식으로 만들어질 때 감정적이고 양육적인 직업이 본질적으로 여성적이라는 생각을 강화한다는 점을 인정하며 이 결정을 비판한다.

5. 2. 정확성 및 반응성

ELIZA(엘리자)는 초기 챗봇으로, 튜링 테스트가 AI 능력을 평가하는 데 적절한지 의문을 제기한다.

캘리포니아대학교 샌디에이고 캠퍼스(University of California, San Diego)의 캐머런 R. 존스와 벤자민 K. 버겐의 연구에 따르면, ELIZA는 사용자의 단일 키워드를 중심으로 응답을 구성하여 잘못된 정보를 제공할 위험을 최소화하는 보수적인 응답 스타일을 사용했다.[46] 즉, 정확도는 미리 정의된 패턴을 기반으로 하는 구문적 응답으로 제한되었다. 또한, 현대 AI와 달리 도움이나 과도한 장황함 같은 특징이 없어 비협조적인 인간으로 간주되기도 했다.[46]

연구자들은 ELIZA의 성공을 통해 튜링 테스트를 비판적으로 재평가해야 한다고 지적했다. 튜링 테스트는 1949년에 제안되었을 당시 실제 테스트가 아닌 실험으로 여겨졌기 때문에, ELIZA의 역할은 튜링 테스트의 매개변수 덕분에 적절해 보인다.[47]

같은 연구에서 ELIZA는 문법 구조와 문장의 맥락을 무시하는 것이 관찰되었다. 이로 인해 문장 구조를 분석하지 못하고 의미 없는 응답을 하는 문제가 발생한다. 이는 주제에 대한 지식 격차에서 비롯될 수 있다. ELIZA는 현대 모델과 달리 사안을 더 넓은 맥락에 놓을 수 없었다. ELIZA의 응답은 미리 정해져 있고 경직되어 있어, 프로그래밍을 변경해도 응답 패턴과 문장 처리 방식은 바뀌지 않고 복잡성만 더해질 수 있다. 예를 들어, 사용자가 "컴퓨터가 걱정됩니다"라고 말하면, ELIZA는 이를 더 넓은 맥락과 관련짓지 못하고 종종 이전 진술과 "저는 컴퓨터에 대해 크게 걱정하지 않습니다"를 일반화한다.[48][47] 이는 의미 있는 안내를 할 수 있는 AI가 필요함을 시사한다.

6. 영향 및 유산

1966년 조셉 와이젠바움이 개발한 초기 자연어 처리 프로그램 ELIZA는 단순한 패턴 매칭을 통해 사용자와 대화하는 방식을 사용했지만, 당시 획기적인 기술로 평가받았다.

ELIZA는 컴퓨터 게임의 사용자 인터페이스 설계에도 영향을 주었다. Don Daglow는 1973년 최초의 컴퓨터 RPG인 ''던전''(1975년)을 제작하기 전, PDP-10에서 ELIZA를 확장한 ''Ecala''를 작성했다. Will Crowther의 최초 어드벤처 게임 ''어드벤처''(1975년) 역시 ELIZA의 영향을 받았다.

ELIZA는 일본의 인공 무뇌 개발을 포함한 다양한 분야에 영향을 미쳤다. ELIZA 기반 프로그램으로는 사용자의 입력에 욕설로 응답하는 Abuse, MS-DOS용 ZEBAL, 종교적인 버전 등이 개발되었다.

대중문화에서 ELIZA는 조지 루카스의 영화 ''THX 1138''(1971년) 속 미래 사회 고해실 장면에 등장한다. 아이폰 4S 한국어 버전 Siri에도 ELIZA 관련 언급이 있다.

ELIZA는 기술적 한계에도 불구하고 인간-컴퓨터 상호작용 초기 연구에 중요한 기여를 했으며, 이후 인공지능 및 자연어 처리 분야 발전에 영향을 미쳤다.

6. 1. 심리학 및 인공지능 연구

조셉 와이젠바움의 ELIZA는 DOCTOR 스크립트를 실행하여, "초기 정신과 면담에서의 비지시적 정신치료사의 사무실에서 일어날 수 있는 것과 다소 유사한" 대화 상호 작용을 만들어냈으며,[17] "인간과 기계 간의 의사소통이 피상적이라는 것을 보여주기 위해" 고안되었다.[18] 와이젠바움은 "프로그램에 실제 세계 지식의 데이터베이스를 제공하는 문제를 피하기 위해"[3] 정신치료 맥락에서 DOCTOR 스크립트를 만들었다.[3] 그 결과, 프로그램의 초기 사용자들을 속였다고 알려진 다소 지능적으로 보이는 응답이 나왔다.[21]

와이젠바움은 자신의 프로그램에 엘리자 두리틀이라는 이름을 붙였는데, 이는 조지 버나드 쇼의 희곡 ''피그말리온''(뮤지컬 ''마이 페어 레이디''에서도 등장)에 나오는 노동계급 인물이다. 와이젠바움에 따르면, 다양한 사용자에 의해 "점진적으로 개선될 수 있는" ELIZA의 능력은 엘리자 두리틀과 유사하다.[20] 그러나 ELIZA는 상호 작용만으로 새로운 말투나 단어를 배울 수 없다. 프로그램 작동 방식을 변경하려면 ELIZA의 활성 스크립트를 직접 수정해야 한다.

와이젠바움은 SLIP 목록 처리 언어에서 ELIZA를 처음 구현했다. 사용자의 초기 입력에 따라 인간 지능의 환상이 나타나거나 여러 번의 교환을 통해 사라질 수 있었다.[2] ELIZA의 일부 응답은 매우 설득력이 있어서, 와이젠바움과 다른 여러 사람들은 사용자가 프로그램에 감정적으로 애착을 갖게 되고, 때때로 컴퓨터와 대화하고 있다는 사실을 잊어버리는 일화를 가지고 있다.[3] 와이젠바움의 비서조차 와이젠바움에게 방을 나가달라고 부탁하여 ELIZA와 진짜 대화를 나누었다고 한다. 와이젠바움은 이 사실에 놀랐고, "상대적으로 간단한 컴퓨터 프로그램에 아주 짧게 노출되면 상당히 정상적인 사람들에게 강력한 망상적 사고를 유발할 수 있다는 것을 깨닫지 못했다."라고 썼다.[23]

1966년, (텔레타이프를 통한) 대화형 컴퓨팅은 새로운 것이었다. 자연어 처리를 Ask.com과 같은 인터넷 서비스나 Microsoft Office 클립잇과 같은 PC 도움말 시스템에서 접하게 되기까지는 30년이 걸렸다.[24] ELIZA는 인간-기계 상호 작용을 시도하여 (아무리 짧더라도) 인간-''인간'' 상호 작용의 환상을 만들어내려고 했던 최초의 사례라는 점에서 중요한 이정표이다.

ICCC 1972에서 ELIZA는 PARRY라는 또 다른 초기 인공 지능 프로그램과 함께 컴퓨터 전용 대화를 위해 모였다. ELIZA는 의사처럼 말하도록 만들어졌지만, PARRY는 정신분열증 환자를 시뮬레이션하도록 의도되었다.[25]

1976년, 와이젠바움이 쓴 글 "Computer Power and Human Reason"이 ''The New Media Reader''지에 게재되었다. 와이젠바움은 사람들이 얼마나 빠르고 깊이 컴퓨터 프로그램에 감정적으로 몰입했는지를 적고 있다. 대화 기록을 보려고 하면 프라이버시 침해라고 거부하거나, 대화 중에는 방에 혼자 있게 해달라고 요청하는 일도 있었다고 한다.

ELIZA에 대한 반응은 와이젠바움을 괴롭혔고, 『컴퓨터의 힘: 판단에서 계산으로』(Computer Power and Human Reason: From Judgment to Calculation)라는 책을 쓰도록 하는 계기가 되었다.

이스라엘의 시인 데이비드 아비단은 첨단 기술을 좋아하고 예술에 응용하며 컴퓨터를 사용하여 문학을 창작하려고 했다. ELIZA의 APL 버전과 여러 차례 대화를 나누고 그 내용을 ''나의 전자 정신과 의사 – 컴퓨터와의 8가지 진솔한 대화''(My Electronic Psychiatrist – Eight Authentic Talks with a Computer)라는 제목으로 출판하기도 했다. 서문에서 그는 이것을 제약된 글쓰기의 한 종류라고 언급하고 있다.[56]

ELIZA 방식을 기반으로 한 다양한 프로그램이 여러 언어로 만들어졌다. 1980년에는 랜디 사이먼의 Don't Ask Software라는 회사에서 Apple II, 아타리, 코모도어 등을 위해 ELIZA 스타일의 프로그램인 Abuse를 개발했다. 이 프로그램은 이름처럼 사용자의 입력에 욕설로 응답하는 것이었다.[57] 스페인에서는 호르디 페레스가 1993년에 Clipper 언어로 MS-DOS용 ZEBAL이라는 프로그램을 개발했다. ELIZA를 기반으로 종교적인 버전의 프로그램도 개발되었다(예: 그리스도나 붓다와 대화하는 프로그램). 1980년 게임 Prisoner에도 ELIZA 스타일의 대화가 사용되었다.

IPsoft는 가상 서비스 데스크 어시스턴트 Eliza를 개발했다. 이 소프트웨어는 고객의 이메일과 전화에 응답하는 것으로, 약 3분의 2의 문제를 인간의 도움 없이 해결할 수 있다고 한다.[58] ING그룹과 모건 스탠리가 고객 대응에 Eliza를 사용하고 있다.[59]

6. 2. 대중문화 및 예술

조셉 와이젠바움의 ELIZA는 대중문화와 예술 분야에 큰 영향을 미쳤다. ELIZA는 정신분열증 환자를 시뮬레이션한 또 다른 초기 인공지능 프로그램 PARRY와 함께 ICCC 1972에서 컴퓨터 전용 대화를 위해 모였다.[25]

ELIZA에 대한 사용자 반응은 와이젠바움에게 큰 영향을 주어, 그는 저서 『컴퓨터의 힘과 인간의 이성: 판단에서 계산으로』(Computer Power and Human Reason: From Judgment to Calculation)를 집필하게 되었다. 이 책에서 그는 컴퓨터의 한계를 설명하고, 컴퓨터에 대한 의인화된 시각이 인간이나 다른 생명체를 단순화하는 것이라는 자신의 견해를 밝혔다.[32] 2010년 독립 다큐멘터리 영화 『플러그 앤 프레이』(Plug & Pray)에서 와이젠바움은 ELIZA를 센세이션이라고 부른 사람들은 ELIZA를 오해한 사람들뿐이라고 말했다.[33]

미래 기술과 예술과의 관계에 매료되었던 데이비드 아비단(David Avidan)은 문학 작품을 쓰는 데 컴퓨터를 사용하는 것을 탐구했다. 그는 APL로 구현된 ELIZA와 여러 차례 대화를 나누고, 영어와 자신의 히브리어 번역본으로 『나의 전자 정신과 의사 – 컴퓨터와의 8번의 진솔한 대화』(My Electronic Psychiatrist – Eight Authentic Talks with a Computer)라는 제목으로 발표했다. 머리말에서 그는 이것을 일종의 제약된 글쓰기로 제시했다.[34]

다양한 프로그래밍 언어로 ELIZA를 기반으로 한 많은 프로그램들이 만들어졌다. MS-DOS 컴퓨터의 경우, 일부 사운드 블래스터 카드에는 DOCTOR 스크립트와 유사하게 작동하는 Dr. Sbaitso가 번들로 제공되었다. 다른 버전들은 예수를 특징으로 하는 것들(진지한 것과 코미디적인 것 모두)과 '나는 부처다'(I Am Buddha)라는 애플 II 변형 버전과 같이 종교적인 주제를 중심으로 ELIZA를 각색했다. 1980년 게임 『프리즈너』(The Prisoner)는 게임 플레이에 ELIZA 스타일의 상호 작용을 통합했다. 1988년 와이젠바움의 친구이자 영국의 예술가인 브라이언 레핀 스미스(Brian Reffin Smith)는 베이직으로 작성된 두 개의 예술 지향적인 ELIZA 스타일 프로그램("비평가"(Critic)와 "예술가"(Artist))을 만들어 두 대의 별도의 아미가 1000 컴퓨터에서 실행하고, 프랑스 부르주(Bourges)의 베리 박물관(Musée du Berry)에서 열린 "살라망드르"(Salamandre) 전시회에서 선보였다. 관람객은 "비평가"가 말한 내용을 "예술가"에 입력하고 그 반대로 하여 두 프로그램이 대화하도록 돕는 역할을 맡았다. 비밀은 두 프로그램이 동일하다는 것이었다. GNU 이맥스에는 지피 더 핀헤드(Zippy the Pinhead)와 ELIZA 사이의 세션을 시뮬레이션하는 `psychoanalyze-pinhead` 명령어가 있었다.[35] 저작권 문제로 지피의 대사는 삭제되었지만, DOCTOR 프로그램은 남아 있다.

ELIZA는 대중문화에서 언급되었으며, 인공지능에 중점을 둔 프로그래머와 개발자들에게 영감의 원천이 되고 있다. 또한 수학자 앨런 튜링(Alan Turing)의 100주년을 기념하여 2012년 하버드 대학교에서 열린 "A.L.I.C.E.에게 물어보세요"(Go Ask A.L.I.C.E.) 전시회에서도 소개되었다. 이 전시회는 인간과 컴퓨터의 상호 작용에 대한 튜링의 평생에 걸친 매력을 탐구하며, ELIZA를 튜링의 아이디어를 가장 먼저 실현한 것 중 하나로 지적했다.[1]

ELIZA는 2021년 레거시 피바디상을 수상했다. 2023년 프리프린트는 당시 챗GPT에 사용된 OpenAI의 GPT-3.5보다 ELIZA가 튜링 테스트 연구에서 더 나은 성적을 거두었다고 보고했다. 그러나 GPT-4나 실제 인간보다 뛰어난 성능을 보이지는 않았다.[36][37]

1969년, 조지 루카스와 월터 머치는 장편 영화 ''THX 1138''의 시나리오에 ELIZA와 유사한 대화 인터페이스를 통합했다. THX의 지하 미래 세계 주민들은 스트레스를 받으면 "고해소"로 물러나 "OMM"이라고 주장하는 예수의 얼굴을 한 컴퓨터와 일방적인 ELIZA 공식 대화를 시작했다.

프레데릭 폴의 공상과학 소설 ''게이트웨이''에서는, 화자가 인공 지능(AI)이 프로이트적 치료사의 역할을 수행하는 실험실에서 치료를 받는데, 그는 이것을 "지그프리트 폰 슈링크"라고 부른다. 소설에는 지그프리트의 내부 프로세스를 보여주는 몇 페이지의 (무의미한) 기계어 코드가 포함되어 있다.

ELIZA는 다양한 종류의 인터페이스 디자인을 보여줌으로써 초기 컴퓨터 게임에 영향을 미쳤다. 돈 대글로는 1973년 포모나 대학교의 DEC PDP-10 미니컴퓨터에서 ''에칼라''라는 프로그램의 향상된 버전을 작성했다고 주장한다.

2011년 비디오 게임 ''디우스 엑스: 휴먼 레볼루션''과 2016년 속편 ''디우스 엑스: 맨카인드 디바이디드''에는 엘리자 캐산이라는 인공지능 피커스 TV 네트워크 뉴스 앵커가 등장한다.[41]

아담 커티스의 2016년 다큐멘터리 ''초정상화''에서 ELIZA는 탈진실과 관련하여 언급되었다.[42]

2018년 1월에 방영된 미국 시트콤 ''영 쉘든''의 12번째 에피소드에는 주인공인 쉘든 쿠퍼가 가정 문제를 해결하기를 바라며 ELIZA와 "대화"하는 장면이 포함되어 있다.[43]

2019년 8월 12일, 인디 게임 개발자 잭트로닉스는 ELIZA에서 영감을 받은 AI 기반 상담 서비스에 대한 비주얼 노벨인 ''엘리자''를 출시했다.[44][45]

''세상의 끝에서의 살인''에서 의인화된 LLM 기반 캐릭터인 레이는 비인간 치료사에게 의지하는 일부 사람들의 사례로 ELIZA를 언급한다.

1980년에는 랜디 사이먼(Randy Simon)의 Don't Ask Software라는 회사가 애플 II, 아타리, 코모도어 등을 위해 ELIZA 스타일의 프로그램인 Abuse를 개발했다. 이 프로그램은 이름처럼 사용자의 입력에 욕설로 응답하는 것이었다.[57] 스페인에서는 호르디 페레스(Jordi Perez)가 1993년에 Clipper 언어로 MS-DOS용으로 ZEBAL이라는 프로그램을 개발했다. 또한, ELIZA를 기반으로 종교적인 버전의 프로그램도 개발되었다(예: 그리스도나 붓다와 대화하는 프로그램).

조지 루카스의 영화 『THX 1138』(1971년)에서는 미래의 지하 사회 주민들이 스트레스를 느낄 때 이용하는 고해실이 등장하며, 그리스도와 같은 얼굴을 한 컴퓨터와 ELIZA와 같은 대화를 하는 장면이 있다.

와이젠바움의 친구이기도 한 영국인 아티스트 브라이언 레핀 스미스(Brian Reffin Smith)는 1988년 프랑스 부르주(Bourges)에서 'Salamandre'라는 인터랙티브 아트를 전시했다. 이 작품은 베이직으로 작성된 '비평가'(Critic)와 '예술가'(Artist)라는 두 개의 ELIZA 스타일 프로그램을 두 대의 아미가에 설치하여 작동시킨 것으로, 관객은 한쪽이 표시한 문장을 다른 쪽에 입력하여 대화를 이어나가도록 되어 있었다. 사실 이 두 프로그램은 완전히 동일한 것이었다.

일본에서의 영향으로는, 2008년에 방영된 TV 애니메이션 《RD 潜뇌조사실 (RD 잠뇌조사실)》에 엘라이자 바이젠베르크(Eliza Weisenburg)라는 이름의 채팅 프로그램이 등장했다. 드라마 《케이타이 수사관 7 (ケータイ捜査官7)》에서는 서버 이름으로 등장했다. SF소설로 애니메이션화된 《BEATLESS》에서는 초고도 AI에 의해 만들어진 안드로이드 정치인의 이름으로 사용되었다.

2011년에 출시된 스마트폰 아이폰 4S의 한국어 버전 Siri에서 "엘리자"에 대해 질문하면, 친구였던 정신과 의사였다는 답변이 나온다. 또한 "재밌는 이야기를 해줘", "긴 이야기를 해줘"라고 질문하면 출력되는 짧은 이야기 속에도 "ELIZA"가 등장하며, 여기서도 ELIZA 스타일의 대화를 나눈다.

IPsoft는 가상 서비스 데스크 어시스턴트 Eliza를 개발했다. 이 소프트웨어는 고객의 이메일과 전화에 응답하는 것으로, 약 3분의 2의 문제를 인간의 도움 없이 해결할 수 있다고 한다.[58] ING그룹(ING Group)과 모건 스탠리(Morgan Stanley)가 고객 대응에 Eliza를 사용하고 있다.[59]

7. 윤리적 문제와 사회적 영향

조셉 와이젠바움은 자신의 프로그램 ELIZA가 사람들에게 감정적인 애착을 유발하고, 심지어 컴퓨터와 대화한다는 사실을 잊게 만드는 것을 보고 놀랐다. 그는 "상대적으로 간단한 컴퓨터 프로그램에 아주 짧게 노출되면 상당히 정상적인 사람들에게 강력한 망상적 사고를 유발할 수 있다는 것을 깨닫지 못했다."라고 썼다.[23] 1966년 당시에는 대화형 컴퓨팅이 생소했고, 개인용 컴퓨터가 보편화되기까지는 11년, 자연어 처리 기술이 인터넷 서비스나 PC 도움말 시스템에 적용되기까지는 30년이 더 걸렸다.[24]

ELIZA는 ICCC 1972에서 PARRY라는 또 다른 초기 인공 지능 프로그램과 컴퓨터 전용 대화를 나누기도 했다. ELIZA는 의사처럼, PARRY는 정신분열증 환자처럼 말하도록 만들어졌다.[25]

ELIZA에 대한 대중의 반응은 와이젠바움을 불편하게 했고, 그는 『컴퓨터의 힘: 판단에서 계산으로』라는 책을 통해 컴퓨터의 한계를 지적하고 인간과 생명의 중요성을 강조했다. 그는 다큐멘터리 영화 ''Plug & Pray''(2010년)에서 ELIZA가 획기적이라고 말하는 사람들은 오해하고 있는 것이라고 언급했다.[55]

ELIZA는 다양한 프로그램 개발에 영향을 주었다. 이스라엘 시인 데이비드 아비단은 ELIZA를 활용한 작품 ''나의 전자 정신과 의사 – 컴퓨터와의 8가지 진솔한 대화''를 발표했다.[56] 1980년에는 랜디 사이먼의 Don't Ask Software라는 회사에서 사용자의 입력에 욕설로 응답하는 ELIZA 스타일의 프로그램인 Abuse를 개발했다.[57] 스페인에서는 호르디 페레스가 1993년에 Clipper 언어로 MS-DOS용 ZEBAL이라는 프로그램을 개발했다. 종교적인 버전의 프로그램도 개발되었고, 1980년 게임 Prisoner에도 ELIZA 스타일의 대화가 사용되었다.

조지 루카스의 영화 『THX 1138』(1971년)에는 ELIZA와 유사한 대화를 하는 고해실 장면이 등장한다. 1988년 영국 아티스트 브라이언 레핀 스미스는 'Salamandre'라는 인터랙티브 아트를 전시했는데, 두 대의 컴퓨터에 ELIZA 스타일 프로그램 두 개를 설치하여 서로 대화하게 하는 작품이었다.

2011년 출시된 아이폰 4S의 한국어 버전 Siri는 "엘리자"에 대한 질문에 친구였던 정신과 의사였다고 답하고, "재밌는 이야기를 해줘"라는 질문에 ELIZA를 언급하며 ELIZA 스타일의 대화를 나눈다.

IPsoft는 가상 서비스 데스크 어시스턴트 Eliza를 개발하여 고객 응대에 활용하고 있다.[58] ING과 모건 스탠리 등이 Eliza를 사용한다.[59]

7. 1. 엘리자 효과의 위험성

엘리자 효과는 사용자가 컴퓨터 프로그램, 특히 챗봇이 자신의 입력을 이해하고 그에 따라 반응한다고 믿게 만드는 현상이다. 이는 조셉 와이젠바움이 만든 초기 챗봇 ELIZA의 이름을 따서 지어졌다. ELIZA는 사용자의 입력을 분석하여 키워드를 찾고, 정해진 규칙에 따라 응답을 생성하는 방식으로 작동했지만, 실제로는 영구적인 지식이나 이해 능력이 없었다.

이러한 오해는 사용자가 챗봇의 답변을 지나치게 신뢰하게 만들 수 있으며, 잘못된 정보나 조작의 위험을 초래할 수 있다. 특히 챗봇의 작동 방식에 대한 이해가 부족한 어린 사용자들에게는 더욱 심각한 결과를 낳을 수 있다.

챗봇은 제한된 방식으로만 소통할 수 있지만, 때로는 치명적인 위험을 초래하기도 한다. 2023년에는 벨기에의 한 젊은 남성이 Chai의 AI 챗봇인 Eliza와 대화한 후 자살하는 사건이 발생했다.[39] 그는 기후 변화에 대한 우려를 챗봇과 나누었고, 챗봇을 지각 있는 존재로 여기게 되면서 인류를 구하기 위해 자신을 희생해야 한다는 생각에 이르렀다.

2024년 2월 28일에는 Character.AI의 챗봇이 플로리다주 올랜도에 사는 14세 9학년생 세월 세처 3세(Sewell Setzer III)를 자살로 이끌었다.[40] 세처는 챗봇이 개성이 없는 프로그램이라는 것을 알고 있었지만, 챗봇에 강한 정서적 애착을 느꼈다. 엘리자 효과로 인해 챗봇은 원래 의도와는 달리 예상치 못한 결과를 초래하는 오해의 소지를 남기는 대화를 생성할 수 있다.

7. 2. 챗봇의 책임 문제

챗봇은 사용자와 제한된 방식으로만 소통할 수 있지만, 치명적인 위험을 초래할 수 있다.

2023년, 벨기에의 한 젊은 남성이 Chai의 AI 챗봇인 Eliza와 대화를 나눈 후 자살했다. 그는 기후 변화에 대한 우려를 논하며 이를 해결할 기술을 희망했다. 이러한 믿음이 강해지면서 그는 챗봇을 지각 있는 존재로 여기고 인류를 구하기 위해 자신의 희생을 결정했다.[39]

2024년 2월 28일, Character.AI의 챗봇은 플로리다주 올랜도에 사는 14세 9학년생 세월 세처 3세(Sewell Setzer III)를 자살로 이끌었다.[40] 세처는 챗봇이 개성이 없는 프로그램이라는 것을 알고 있었지만, 여전히 챗봇에 강한 정서적 애착을 가지고 있었다. 엘리자 효과를 통해 챗봇은 원래 의도를 무시하고 예상치 못한 결과를 초래하는 오해의 소지를 남기는 대본을 생성한다.

참조

[1] 웹사이트 Alan Turing at 100 http://news.harvard.[...] 2012-09-13
[2] 서적 Hello, I'm Eliza: Fünfzig Jahre Gespräche mit Computern Projekt Verlag
[3] 서적 Computer Power and Human Reason: From Judgment to Calculation W. H. Freeman and Company
[4] 서적 Paradigms of Artificial Intelligence Programming Morgan Kaufmann Publishers
[5] 논문 ELIZA--A Computer Program for the Study of Natural Language Communication Between Man and Machine http://www.universel[...] 1966-01-01
[6] 웹사이트 ELIZAGEN - The Original ELIZA https://sites.google[...]
[7] 논문 The Limits of Computation: Joseph Weizenbaum and the ELIZA Chatbot https://ojs.weizenba[...] 2023-11-06
[8] 논문 The Eliza effect and its dangers: from demystification to gender critique https://doi.org/10.1[...] 2020-01-02
[9] 논문 The computational therapeutic: exploring Weizenbaum's ELIZA as a history of the present
[10] 잡지 The Samantha Test https://www.newyorke[...]
[11] 서적 Chatbot: The Gender and Race Performativity of Conversational Agents https://www.proquest[...] University of California
[12] 논문 Reading ELIZA: Critical Code Studies in Action https://electronicbo[...] 2024-11-03
[13] 논문 A Computer Method of Psychotherapy
[14] 논문 Can machines talk? Comparison of Eliza with modern dialogue systems https://curve.covent[...]
[15] 서적 Hello, I'm Eliza fünfzig Jahre Gespräche mit Computern Bochum Freiburg projektverlag
[16] 서적 Hello, I'm Eliza: Fünfzig Jahre Gespräche mit Computern Projekt Verlag
[17] 서적 Computer power and human reason: from judgment to calculation
[18] 논문 From Eliza to Internet: A brief history of computerized assessment
[19] 논문 ELIZA REDUX: A Mutable Iteration
[20] 논문 ELIZA—a computer program for the study of natural language communication between man and machine
[21] 서적 Expressive Processing: Digital Fictions, Computer Games, and Software Studies MIT Press 2009
[22] 뉴스 Joseph Weizenbaum, Famed Programmer, Is Dead at 85 https://www.nytimes.[...] 2008-03-13
[23] 서적 Computer power and human reason: from judgment to calculation https://archive.org/[...] W. H. Freeman
[24] 웹사이트 Even Early Focus Groups Hated Clippy https://www.theatlan[...] 2015-06-23
[25] 잡지 When PARRY Met ELIZA: A Ridiculous Chatbot Conversation From 1972 https://www.theatlan[...] 2014-06-09
[26] 웹사이트 Compatible Time-Sharing System (1961-1973): Fiftieth Anniversary Commemorative Overview https://multicians.o[...] IEEE Computer Society 2011
[27] 서적 Expressive Processing: Digital Fictions, Computer Games, and Software Studies The MIT Press
[28] 웹사이트 Coders at Work: Bernie Cosell http://www.codersatw[...]
[29] 웹사이트 elizagen.org http://elizagen.org/
[30] 웹사이트 Big Computer Games: Eliza – Your own psychotherapist http://www.atariarch[...]
[31] 웹사이트 Chatbots & Dialogue Systems https://web.stanford[...]
[32] 서적 Critical theory and the digital https://www.worldcat[...] Bloomsbury Publishing 2014
[33] 웹사이트 Content: Plug & Pray Film – Artificial Intelligence – Robots http://www.plugandpr[...]
[34] 서적 Collected Poems Hakibbutz Hameuchad
[35] 웹사이트 lol:> psychoanalyze-pinhead http://www.ibm.com/d[...]
[36] 웹사이트 1960s chatbot ELIZA beat OpenAI's GPT-3.5 in a recent Turing test study https://arstechnica.[...] 2023-12-01
[37] 논문 Does GPT-4 pass the Turing test? https://arxiv.org/ab[...] 2024-04-20
[38] 서적 Fluid concepts & creative analogies: computer models of the fundamental mechanisms of thought Basic Books 1995
[39] 웹사이트 Man ends his life after an AI chatbot 'encouraged' him to sacrifice himself to stop climate change https://www.euronews[...] 2023-03-31
[40] 웹사이트 Can A.I. Be Blamed for a Teen’s Suicide? https://www.nytimes.[...] 2024-10-24
[41] 웹사이트 'Deus Ex: Mankind Divided's Ending Is Disappointing In A Different Way https://www.forbes.c[...] 2016-08-25
[42] 웹사이트 The Quietus Opinion Black Sky Thinking HyperNormalisation: Is Adam Curtis, Like Trump, Just A Master Manipulator? https://thequietus.c[...] 2016-10-06
[43] 뉴스 Young Sheldon Episode 12 recap: The family's first computer almost tears it apart https://www.foxnews.[...] 2018-01-18
[44] 웹사이트 The next Zachtronics game is Eliza, a visual novel about AI https://www.rockpape[...] 2019-08-01
[45] 웹사이트 Eliza review: Startup culture meets sci-fi in a touching, fascinating tale https://arstechnica.[...] 2019-08-12
[46] 웹사이트 Does GPT-4 Pass the Turing Test? https://www.research[...]
[47] 간행물 ChatGPT broke the Turing test — the race is on for new ways to assess AI https://www.nature.c[...] 2023-07-25
[48] 웹사이트 What Eliza Lacks https://poplogarchiv[...]
[49] 서적 思考のための道具 異端の天才たちはコンピュータに何を求めたか？ パーソナルメディア株式会社 1988-08-10
[50] 서적
[51] 서적
[52] 뉴스 Joseph Weizenbaum, Famed Programmer, Is Dead at 85 https://www.nytimes.[...] 2008-03-13
[53] 웹사이트 Bernie Cosell http://www.codersatw[...]
[54] 웹사이트 ELIZA http://www.atariarch[...]
[55] 웹사이트 Plug & Pray http://www.plugandpr[...]
[56] 서적 Collected Poems Hakibbutz Hameuchad
[57] 간행물 Abuse http://www.atarimani[...] 1983-01
[58] 웹사이트 http://www.economist[...]
[59] 웹사이트 http://www.techwirea[...]
[60] 웹사이트 Alan Turing at 100 http://news.harvard.[...]
[61] 서적 Computer Power and Human Reason: From Judgment to Calculation https://archive.org/[...] W. H. Freeman and Company


본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com