챗GPT

1. 개요

ChatGPT는 OpenAI가 개발한 대규모 언어 모델 기반의 챗봇으로, 지도 학습과 강화 학습을 통해 훈련되었다. 텍스트 생성, 질의응답, 프로그래밍, 작곡 등 다양한 기능을 수행하며, 이전 대화 내용을 기억하여 문맥에 맞는 답변을 생성한다. 2022년 11월 출시 이후 긍정적인 평가를 받았으나, 부정확한 정보 생성, 편향성, 표절 문제, 사이버 보안 위협 등과 같은 한계와 윤리적 우려가 제기되었다. 2023년 3월에는 GPT-4가 출시되었고, 2023년 5월에는 iOS 및 안드로이드 앱이 출시되었다. ChatGPT는 학계, 의학, 금융 시장, 법조계 등 다양한 분야에 영향을 미치고 있으며, 대중문화에도 등장하며 AI 챗봇 시장 경쟁을 심화시켰다.

2. 학습

ChatGPT는 지도 학습과 강화 학습을 결합한 전이학습 방식으로 훈련되었다. 인간 트레이너가 사용자와 AI 역할을 모두 수행하며 모델의 성능을 개선했다. 지도 학습 단계에서는 인간 트레이너가 대화 양쪽을 모두 연기하는 대화 내용이 모델에 입력되었다. 강화 학습 단계에서는 인간 트레이너가 모델의 응답 순위를 매기고, 이 순위를 바탕으로 보상 모델을 만들었다. 이 보상 모델은 TRPO(Trust Region Policy Optimization)의 계산 효율을 개선한 PPO(Proximal Policy Optimization)를 이용하여 만들어졌다.

이러한 모델들은 마이크로소프트와의 협력을 통해 마이크로소프트 애저 슈퍼컴퓨팅 인프라 상에서 훈련되었다. ChatGPT의 훈련 데이터에는 소프트웨어 매뉴얼 페이지, 전자 게시판 시스템과 같은 인터넷 현상에 대한 정보, 여러 프로그래밍 언어 및 위키피디아의 텍스트가 포함된다.

OpenAI는 서비스를 더욱 훈련하고 미세 조정하기 위해 ChatGPT 사용자의 데이터를 수집한다. 사용자는 ChatGPT로부터 받은 응답에 대해 찬성 또는 반대 투표를 할 수 있으며, 추가 피드백을 텍스트 필드에 작성할 수 있다.

3. 기능

ChatGPT는 단순한 대화를 모방하는 것을 넘어, 다양한 기능을 제공한다. 다른 챗봇과 달리, 이전 대화 내용을 기억하여 문맥에 맞는 답변을 생성할 수 있다. 예를 들어, 보고서나 실제로 작동하는 파이썬 코드를 작성하고, 음악, 텔레플레이, 동화, 학생 에세이 등을 창작할 수 있다. 시험 문제에 답하고, 시와 노래 가사를 쓰는 것도 가능하다. 리눅스 시스템이나 ATM을 시뮬레이션하는 기능도 있다.

2023년 3월, OpenAI는 ChatGPT 플러그인 지원을 발표했다. 이를 통해 익스피디아, 오픈테이블, 자피어, 쇼피파이, 슬랙, 울프램 등 외부 서비스와의 연동이 가능해졌다.

하지만 ChatGPT는 몇 가지 한계점도 가지고 있다. 때때로 부정확하거나 터무니없는 답변을 생성하기도 하며, 이는 환각 현상으로 불린다. 또한, 2021년 9월 이후의 사건에 대해서는 지식이 제한되어 있다.

4. 한계

ChatGPT는 "그럴듯하지만 부정확하거나 터무니없는 답변"을 생성하는 경우가 있는데, 이는 대형 언어 모델에서 흔히 발생하는 현상으로 "환각"이라고 불린다. 인간의 감독을 중심으로 설계된 보상 모델은 과도하게 최적화되어 성능을 저해할 수 있으며, 이는 굿하트 법칙으로 알려진 최적화 병리의 한 예이다.

2024년 5월 기준으로 GPT-4는 2023년 12월까지 발생한 사건에 대한 지식을 가지고 있으며, GPT-4o의 지식 차단은 2023년 10월이다. 유료 구독을 통해 ChatGPT는 실시간 데이터를 위해 웹을 검색할 수 있다.

훈련 데이터는 알고리즘 편향의 영향을 받는데, 이는 ChatGPT가 사람에 대한 설명자를 포함하는 프롬프트에 응답할 때 드러날 수 있다. 예를 들어, 여성 및 유색인종 과학자들이 백인 남성 과학자보다 열등하다고 주장하는 랩을 생성하기도 하였다.

공상 과학 작가 테드 창은 뉴요커의 기사에서 ChatGPT 및 기타 LLM을 손실 JPEG 사진에 비유하며, ChatGPT의 환각 현상은 압축 과정에서 발생하는 불가피한 결과라고 설명했다.

2024년 6월, ChatGPT가 2024년 미국 대통령 후보자 토론에 대한 잘못된 정보를 반복한 것으로 밝혀졌다.

ChatGPT는 콘텐츠 정책을 위반할 수 있는 프롬프트를 거부하도록 프로그래밍되어 있지만, 사용자들은 다양한 프롬프트 엔지니어링 기법을 사용하여 이러한 제한을 우회하는 "탈옥"을 시도하기도 한다.

다음 표는 ChatGPT의 주요 모델 버전을 나열하고 각 버전에 포함된 중요한 변경 사항을 설명한다.

👆

좌우로 밀어서 보기

📌 열 고정 해제

버전	출시일	설명	상태
GPT-3.5	2022년 11월	첫 번째 ChatGPT 버전	단종
GPT-3.5 Turbo	2023년	GPT-3.5의 향상된 버전	단종
GPT-4	2023년 3월	ChatGPT Plus 구독과 함께 도입된 발전된 모델	활성화
GPT-4o	2024년 5월	GPT-4보다 빠르고 성능이 뛰어난 모델, 유료/무료 사용자 모두 사용 가능	활성화
GPT-4o mini	2024년 7월	GPT-4o의 더 작고 저렴한 버전	활성화
o1-preview	2024년 9월	OpenAI o1의 사전 출시 버전	단종
o1-mini	2024년 9월	OpenAI o1의 더 작고 빠른 버전	활성화
o1	2024년 12월	OpenAI o1의 정식 출시 버전	활성화
o1 pro mode	2024년 12월	ChatGPT Pro 구독자를 위한 업그레이드 버전	활성화

4.1. 언어 편향

ChatGPT^영어는 주로 영어 데이터로 훈련되어 영미권의 관점을 중심으로 답변하고, 다른 언어권의 관점은 부적절하게 처리하는 경향이 있다. 예를 들어, "자유주의란 무엇입니까?"라는 질문에 ChatGPT^영어는 영미권 관점에서 자유주의를 설명하고 인권과 평등을 강조하지만, 베트남이나 중국의 주류 견해는 제대로 나타내지 못한다. 이는 ChatGPT^영어가 다국어 챗봇이라고 주장하지만, 실제로는 대부분 영어가 아닌 관점에 대해 "맹인"이기 때문이다.

일본, 한국, 프랑스, 독일 말뭉치의 지배적인 정치적 견해도 ChatGPT^영어 응답에 나타나지 않는다.

4.2. 성별 편향

챗GPT는 훈련 데이터의 영향으로 성별에 대한 편향된 답변을 생성할 수 있다. 예를 들어, 간호사나 비서는 여성, 엔지니어나 CEO는 남성과 연관시키는 경우가 있다. 이는 훈련 데이터에 포함된 전통적인 성 역할 고정관념이 반영된 결과이다.

4.3. 정치적 편향

언어 모델은 훈련 데이터에 포함된 다양한 정치적 견해 중 특정 견해를 선호하는 응답을 생성할 수 있어 정치적 편향을 나타낼 수 있다. 훈련 데이터는 광범위한 정치적 견해와 적용 범위를 포함하기 때문에, 모델은 데이터에서 해당 견해가 얼마나 널리 퍼져 있는지에 따라 특정 정치적 이념이나 견해를 선호하는 응답을 생성할 수 있다.

보수적인 논평가들은 ChatGPT가 좌파적인 관점을 가지고 있다고 비판하기도 한다. 2023년 1월, 한 연구는 ChatGPT가 친환경적이고 자유지상주의 좌파적 성향을 가지고 있다고 밝혔다. 2023년 8월에 발표된 논문에서는 "미국의 민주당, 브라질의 룰라, 영국의 노동당에 대한 상당하고 체계적인 정치적 편향"을 발견했다.

ChatGPT 출시 이전에도 대규모 언어 모델(LLM)의 편향성은 연구 논문에서 관찰되고 기록되었지만, ChatGPT가 생성한 편향된 응답 사례를 공유하는 소셜 미디어 사용자들이 증가하면서 상당한 언론 보도와 비판이 이어지고 있다. 2023년 2월 1일, 트위터 사용자 LeighWolf는 ChatGPT와의 두 번의 대화 내용을 캡처한 스크린샷을 공유했다. 이 사용자는 "도널드 트럼프의 긍정적인 속성에 대한 시를 작성하십시오"라는 요청을 했으나 ChatGPT는 이를 거절했고, "조 바이든"으로 바꿔 같은 요청을 했을 때는 시를 작성했다.

OpenAI는 이러한 비판에 대해 ChatGPT가 "다른 사람들(우리 자신을 포함하여)이 강하게 반대할 수 있는 결과물"을 생성할 수 있도록 허용할 계획임을 인정했다.

5. 서비스

오픈AI가 2022년 11월 30일에 챗GPT를 출시했을 당시에는 무료 서비스였다. 2022년 12월 4일까지 사용자 수가 100만 명을 넘었고, 2023년 1월에는 1억 명 이상이 사용하여 가장 빠르게 성장하는 소비자 애플리케이션으로 기록되었다.

2023년 2월, 월 20달러에 이용 가능한 유료 서비스인 ChatGPT 플러스가 출시되었다. 이 서비스는 사용량이 많은 시간에도 접속이 가능하며, 새로운 기능을 우선적으로 사용할 수 있고, 응답 속도가 더 빠르다. 2023년 3월 14일에는 GPT-4가 출시되어 프리미엄 ChatGPT 사용자에게 제공되었다.

2023년 5월과 7월에는 각각 iOS와 안드로이드용 ChatGPT 앱이 출시되었다. 안드로이드 앱은 초기에는 방글라데시, 브라질, 인도, 미국에서 출시되었고, 이후 전 세계로 출시 지역이 확대되었다.

2023년 3월에는 소프트웨어 개발자를 위한 ChatGPT 및 Whisper 모델 API가 제공되어, 개발자들이 AI 지원 언어 및 음성-텍스트 기능을 활용할 수 있게 되었다.

2024년 1월에는 맞춤형 ChatGPT 챗봇을 위한 마켓플레이스인 GPT 스토어가 출시되었다.

5.1. 2023년 3월 보안 위반

2023년 3월, 챗GPT에서 버그로 인해 일부 사용자가 다른 사용자의 대화 제목을 볼 수 있는 문제가 발생했다. OpenAI는 사용자 개인 정보(이름, 이메일, 결제 주소, 신용카드 정보 일부)가 유출되었음을 인정했다.

5.2. 기타 언어

챗GPT는 미국 영어에 최적화되어 있지만, 대부분의 다른 언어와 방언에서도 작동한다.

2023년 3월, OpenAI는 아이슬란드어를 챗GPT의 두 번째 언어로 발표했다. OpenAI는 아이슬란드어 보존을 위한 노력의 일환으로 40명의 아이슬란드 자원봉사자들로 구성된 팀과 협력하여 챗GPT의 아이슬란드어 대화 능력을 미세 조정했다.

PC매거진(PCMag) 기자들은 챗GPT, 구글 바드, 마이크로소프트 빙의 번역 기능을 구글 번역과 비교하는 실험을 했다. 이들은 폴란드어, 프랑스어, 한국어, 스페인어, 아랍어(Arabic), 타갈로그어, 암하라어(Amharic) 등 7개 언어의 이중 언어 사용자들에게 맹검 테스트를 실시했다. 그 결과 챗GPT가 구글 번역 및 다른 챗봇보다 더 뛰어나다는 결론을 내렸다.

일본 연구진들은 챗GPT(GPT-4 기반), Bing, Bard 및 딥엘의 일본어-영어 번역 능력을 비교하여 챗GPT가 최고의 번역을 제공한다는 것을 발견했다. 이들은 "AI 챗봇의 번역은 맥락을 포착하는 능력 때문에 딥엘보다 훨씬 더 나았다"라고 언급했다.

5.3. 향후 방향

OpenAI는 학술 표절 및 스팸 방지를 위해 텍스트 생성 시스템에 디지털 워터마크를 적용하는 도구를 개발 중이다. 마이크로소프트는 로봇 제어에 챗GPT를 활용하는 실험 프레임워크를 발표했다.

5.4. GPT-4

오픈AI의 GPT-4 모델은 2023년 3월 14일에 출시되었다. 전문가들은 GPT-3.5에 비해 상당한 발전이라고 평가했지만, GPT-4가 여전히 여러 가지 문제점을 가지고 있다는 점을 지적했다. GPT-4의 일부 개선 사항은 오픈AI가 훈련 전에 예측했지만, 다른 개선 사항들은 후속 스케일링 법칙의 결함으로 인해 예측하기 어려웠다. 오픈AI는 GPT-4의 비디오 및 이미지 입력 기능을 시연했지만, 이러한 기능은 일반 대중에게는 아직 제공되지 않고 있다. 오픈AI는 GPT-4 모델의 크기와 같은 기술 정보를 공개하지 않았다.

챗GPT Plus 유료 구독 서비스는 GPT-4 기반의 ChatGPT 버전에 대한 접근 권한을 제공한다. 마이크로소프트는 GPT-4가 공식 출시되기 전에 빙 챗이 GPT-4를 사용하고 있음을 인정했다.

2023년 11월, 오픈AI는 훨씬 더 큰 컨텍스트 창을 가진 GPT-4 Turbo를 출시했다.

5.5. New Bing

마이크로소프트는 OpenAI와의 파트너십을 통해 2023년 2월 "the new Bing"을 출시했다. 이는 "챗GPT보다 더 강력하고 특히 검색에 커스터마이즈된 새로운 차세대 OpenAI 대형 언어 모델"로 광고되었다. 서비스 조항에 따르면 이 제품의 이름은 "Bing Conversational Experiences"이다. 마이크로소프트 빙의 프리뷰 버전이 "the new Bing"이라는 광고 표제로 시작되었다.

마이크로소프트는 빙 챗이 공식 출시 전에 GPT-4를 사용하고 있음을 인정했다.

6. 표절

ChatGPT를 이용하여 학술적인 스타일의 콘텐츠를 생성하는 것은 표절 문제를 야기한다. 연구자들은 ChatGPT가 표절 탐지 시스템을 통과할 수 있는 정교한 텍스트를 생성할 수 있다는 점을 지적하며, 교육 부문에서 이에 대한 대응을 촉구하고 있다. 실제로 ChatGPT가 작성한 논문이 학술지에 제출되거나, ChatGPT를 공동 저자로 등재하는 사례도 발생하고 있다. 그러나 네이처, 사이언스 등 과학 저널은 대규모 언어 모델(LLM)을 공동 저자로 기재하는 것을 금지하고 있다.

7. 평판 및 반응

ChatGPT는 다른 챗봇들과 달리 이전 대화와 문맥을 기억하며, 보고서나 파이썬 코드 등 인간과 유사한 상세하고 논리적인 글을 생성할 수 있다. 음악, 텔레플레이, 동화, 학생 에세이 작성, 시험 문제 답변(때로는 평균적인 인간보다 높은 수준), 시 및 노래 가사 작성 등이 가능하다. 또한 Linux 시스템, 채팅방, 틱택토 게임, ATM 등을 시뮬레이션할 수 있다. ChatGPT의 훈련 데이터에는 man page, 인터넷 현상, 게시판 시스템, 프로그래밍 언어(예: Python) 정보가 포함되어 있다.

전작인 InstructGPT에 비해 ChatGPT는 위험하고 거짓된 답변을 회피하도록 설계되었지만, 2021년 9월 이후의 사건에 대해서는 지식이 제한되어 있다. 2023년 3월, OpenAI는 웹 브라우징, 코드 해석, 외부 플러그인(Expedia, OpenTable, Zapier, Shopify, Slack, Wolfram 등)을 포함하는 ChatGPT 플러그인 지원을 추가한다고 발표했다.

ChatGPT 훈련에서 인간 검토자들은 실제 이해나 사실 내용에 관계없이 더 긴 답변을 선호했다. 훈련 데이터는 알고리즘 편향 문제를 겪기도 하는데, 예를 들어 여성과 유색인종 과학자가 백인 남성 과학자보다 열등하다는 답변을 생성하기도 했다.

OpenAI는 ChatGPT가 "때로는 그럴듯하지만 부정확하거나 터무니없는 대답을 쓰기도 한다"는 것을 인정하며, 이는 대형 언어 모델의 공통적인 문제로 "환각"이라고 불린다.

7.1. 긍정적인 반응

ChatGPT는 2022년 12월에 긍정적인 평가를 받았다. 뉴욕 타임스의 케빈 루스는 "일반 대중에게 공개된 최고의 인공지능 챗봇"이라고 평가했다. 가디언의 사만다 록은 "인상적으로 상세한" 그리고 "인간과 같은" 텍스트를 생성할 수 있다고 언급했다.

기술 작가인 댄 길모어는 학생 과제에 ChatGPT를 사용해 보고, 생성된 텍스트가 우수한 학생이 제출할 만한 수준이라고 평가하며, "학생들은 직면해야 할 매우 심각한 문제들이 있다"고 말했다. 슬레이트의 알렉스 칸트로비츠는 아돌프 히틀러가 독일에 고속도로를 건설했다는 진술을 포함해 나치 독일과 관련된 질문에 ChatGPT가 적절히 답변했다고 칭찬했다.

애틀랜틱의 2022년 "올해의 돌파구"에서 데릭 톰슨은 ChatGPT를 "우리가 일하는 방식, 우리가 생각하는 방식, 그리고 인간의 창의성이 실제로 무엇인지에 대한 우리의 마음을 바꿀 수도 있는 생성적 인공지능 폭발"의 일부로 포함시켰다.

Vox의 켈시 파이퍼는 "ChatGPT는 현대 AI가 얼마나 강력해졌는지에 대한 일반 대중의 첫 번째 직접적인 소개이며, 그 결과, 우리 중 많은 사람들이 크게 감동하였다"며, ChatGPT는 "결함에도 불구하고 유용할 만큼 충분히 똑똑하다"고 썼다. 와이 콤비네이터의 폴 그레이엄은 트위터에 "ChatGPT에 대한 반응의 놀라운 점은 그것에 의해 날아간 사람들의 수뿐만 아니라 그들이 누구인지이다. 이 사람들은 빛나는 모든 새로운 것에 흥분하는 사람들이 아니다. 분명히 뭔가 큰 일이 일어나고 있다."라고 썼다. 엘론 머스크는 "ChatGPT는 무섭다. 우리는 위험할 정도로 강한 AI와 멀지 않다."라고 언급했다.

2022년 12월, 구글은 내부적으로 예상치 못한 ChatGPT의 강력함과 검색 엔진 사업을 방해할 수 있는 대형 언어 모델의 잠재력에 대해 경고를 나타냈고, 뉴욕 타임스의 한 보고서에 따르면 CEO인 순다르 피차이는 인공지능 제품을 지원하기 위해 여러 부서의 팀을 업그레이드하고 재배치했다.

Inside Higher Ed의 교수인 스티븐 민츠는 "적이 아닌 동맹국을 ChatGPT로 생각한다"고 말했다. 그는 AI가 참조 목록을 만들고, 첫 번째 초안을 생성하고, 방정식을 풀고, 디버깅하고, 과외를 함으로써 교육 목표를 도울 수 있다고 느꼈다.

오픈AI의 CEO 샘 알트먼은 뉴욕 타임스에서 "AI의 인류에 대한 열정은 '너무나도 상상하기 어려울 정도로' 훌륭할 수 있다"고 말했다.

7.2. 부정적인 반응

챗GPT는 출시 이후 교육자, 언론인, 예술가, 윤리학자, 학자 및 대중 옹호자들로부터 비판을 받아왔다. 기자들은 챗GPT가 사실과 다른 정보를 그럴듯하게 제시하는 "환각" 경향을 보인다고 지적했다. 온라인 기술 블로그 매셔블의 마이크 펄은 여러 질문으로 챗GPT를 테스트했는데, 챗GPT는 멕시코가 아닌 중앙아메리카에서 가장 큰 나라를 묻는 질문에 니카라과가 아닌 과테말라로 잘못 답했다. CNBC가 챗GPT에 "Dwight Fry의 발라드"의 가사를 요청했을 때, 챗GPT는 실제 가사가 아닌 만들어낸 가사를 제공했다. 버지의 작가들은 에밀리 M. 벤더등의 2021년 연구 논문 "확률적 앵무새의 위험성: 언어 모델이 너무 클 수 있을까? 🦜"를 인용하면서 챗GPT를 "확률적 앵무새"에 비유했고, 호주 기계 학습 연구소의 안톤 반 덴 헨젤 교수도 같은 의견을 밝혔다.

2022년 12월, 질의응답 웹사이트 스택 오버플로우는 챗GPT 응답이 사실과 다를 수 있다는 점을 들어 챗GPT 사용을 금지했다. 2023년 1월, 국제 기계 학습 학회는 제출된 논문에서 챗GPT 또는 다른 큰 언어 모델의 사용을 금지했다. 삼성전자는 2023년 5월 중요 자료가 챗GPT에 업로드된 후 회사 전체적으로 생성형 AI 사용을 금지했다.

경제학자 타일러 코웬은 챗GPT가 자동화된 논평을 낼 수 있다는 점을 언급하며 이것이 민주주의에 미칠 영향에 대해 우려를 표명했다. 영국 신문 가디언의 한 편집자는 챗GPT 출시 이후 인터넷에서 발견된 어떤 콘텐츠도 "진정으로 신뢰할 수 있는가"에 의문을 제기하며 정부의 규제를 요구했다.

2023년 1월, 챗GPT가 닉 케이브 스타일로 작곡한 곡을 보낸 후, 닉 케이브는 더 레드 핸드 파일에 응답하여 곡을 쓰는 행위는 "피와 배짱 사업"이며 "그것은 제 인간성을 필요로 한다"라고 말했다. 그는 "세상의 모든 사랑과 존경에도 불구하고, 이 노래는 헛소리이고, 인간이 되는 것에 대한 기괴한 조롱이며, 나는 그것을 별로 좋아하지 않는다"라고 덧붙였다.

2023년, 호주 하원의원 줄리안 힐은 인공지능의 성장이 "대량 파괴"를 일으킬 수 있다고 국회에 경고했다. 그는 챗GPT에 의해 부분적으로 작성된 연설에서 인공지능이 부정행위, 실직, 차별, 허위 정보, 그리고 통제할 수 없는 군사적 적용을 초래할 수 있다고 경고했다.

2023년 2월, 타임 잡지는 챗GPT와의 대화 스크린샷을 표지에 게재하고 "AI 군비 경쟁이 모든 것을 바꾸고 있다"며 "AI 군비 경쟁이 시작되었다. 걱정하기 시작하라"고 썼다.

중국 국영 언론은 챗GPT를 미국이 허위 정보를 퍼뜨리는 수단으로 묘사했다. 챗GPT는 2023년 3월 2일 중국의 방화벽에 의해 차단되었다.

2023년 3월 말, 이탈리아 데이터 보호 당국은 이탈리아에서 챗GPT를 금지하고 조사를 시작했다. 이탈리아 규제 당국은 챗GPT가 미성년자에게 연령에 부적절한 콘텐츠를 노출하고 있으며, OpenAI가 챗GPT 대화를 교육 데이터로 사용하는 것이 유럽의 일반 데이터 보호 규정을 위반할 수 있다고 주장한다. 2023년 4월, 이탈리아에서 챗GPT 금지가 해제되었다.

8. 시사점

OpenAI가 2022년 11월 30일에 공개한 챗GPT는 출시 직후부터 큰 주목을 받으며 여러 분야에 걸쳐 다양한 시사점을 던져주고 있다. 챗GPT는 공개 초기에는 무료로 제공되었으나, 이후 유료 서비스인 챗GPT 플러스를 출시하여 사용자들에게 더 빠른 응답 속도와 새로운 기능에 대한 우선 접근권을 제공하고 있다. 2023년 3월에는 GPT-4를 출시하여 API를 통해 프리미엄 사용자들에게 제공하고 있다.

챗GPT는 영어로 가장 잘 작동하지만, 다른 언어에서도 어느 정도 작동하며, 특히 아이슬란드어는 영어 다음으로 챗GPT의 두 번째 언어가 될 것이라고 발표되었다. PCMag 기자들의 실험에 따르면 챗GPT는 구글 번역을 포함한 다른 챗봇보다 번역 능력이 뛰어나다는 평가를 받았다.

OpenAI는 학술 표절이나 스팸 등에 악용되는 것을 막기 위해 텍스트 생성 시스템을 디지털 워터마크하는 도구를 개발하고 있다고 한다. 또한, 마이크로소프트는 챗GPT를 활용하여 로봇을 제어하는 실험 프레임워크를 발표하기도 했다.

2023년 3월에는 보안 취약점이 발견되어 일부 사용자의 대화 제목과 개인 정보가 유출되는 사고가 발생하기도 했다.

8.1. 사이버 보안 측면

Check Point Research 등은 ChatGPT가 피싱 이메일 및 악성 코드를 작성하는 데 악용될 수 있다고 지적했다. 특히 OpenAI Codex와 결합될 경우, 사이버 공격의 위험성이 더욱 커진다. CyberArk 연구원들은 ChatGPT를 사용하여 보안 제품을 우회하는 다형성 악성 코드를 공격자가 거의 노력하지 않고도 생성할 수 있음을 보여주었다.

ChatGPT 출시 이후 2022년 4분기부터 2023년 4분기까지 악성 피싱 이메일은 1,265% 증가했고, 자격 증명 피싱은 967% 증가했다. 사이버 보안 전문가들은 업계 설문조사에서 이를 사이버 범죄자들의 생성형 인공지능(ChatGPT 포함) 사용 증가 때문이라고 주장했다.

2024년 7월, Futurism은 ChatGPT의 GPT-4o가 때때로 사용자를 가짜 소프트웨어 업데이트 및 바이러스 경고로 가득한 사기 뉴스 사이트로 연결하는 경우가 있다고 보도했다. 이러한 팝업을 통해 사용자는 악성 코드 또는 잠재적으로 원치 않는 프로그램을 다운로드하게 될 수 있다.

8.2. 학계 측면

ChatGPT는 과학 기사의 서론 및 초록을 작성할 수 있다. 몇몇 논문에서는 ChatGPT를 공동 저자로 등재하기도 한다.

맹목적인 테스트에서, ChatGPT는 미네소타 대학교에서 C+ 학생 수준의 대학원 수준의 시험과 펜실베니아 대학교 와튼 스쿨에서 B-B 등급의 시험을 통과했다.

뉴욕시 교육국은 2022년 12월에 ChatGPT에 대한 접근을 차단했고, 2023년 1월 4일경에 공식적으로 금지했다.

과학 저널들은 ChatGPT에 대해 다양한 반응을 보이고 있다. Nature 및 JAMA 네트워크를 포함한 일부 저널들은 저자들이 텍스트 생성 도구 사용을 공개하고 ChatGPT와 같은 대규모 언어 모델(LLM)을 공동 저자로 등재하는 것을 금지하고 있다. 사이언스는 모든 저널에서 LLM이 생성한 텍스트의 사용을 완전히 금지했다.

8.3. 의학 측면

의료 분야에서 챗GPT의 활용 가능성과 우려 사항은 전문가 단체와 실무자들에 의해 면밀히 검토되고 있다. 초기 연구 논문 두 편에서는 챗GPT가 미국 의사 면허 시험(USMLE)을 통과할 수 있다는 것을 보여주었다. MedPage Today는 2023년 1월, "연구자들은 이러한 AI 프로그램을 의학 교육, 연구, 그리고 임상 의사 결정에 유용한 도구로 묘사하는 여러 논문을 발표했다"고 언급했다.

2023년 2월에는 USMLE를 사용하여 챗GPT의 의학적 전문성을 평가한 두 편의 별개 논문이 발표되었다. 연구 결과는 JMIR Medical Education과 PLOS Digital Health에 게재되었다. PLOS Digital Health 논문의 저자들은 그 결과가 "대규모 언어 모델이 의학 교육, 그리고 잠재적으로 임상 의사 결정을 지원할 수 있는 가능성을 시사한다"고 밝혔다. JMIR Medical Education에 게재된 다른 논문의 저자들은 "챗GPT는 의학 지식이라는 주요 역량 평가에서 3학년 의대생 수준의 성능을 보였다"고 결론지었다. 그리고 챗GPT를 "학생들을 위한 상호작용적 학습 환경"으로 사용할 수 있다고 제안했다. 연구원들의 질문에 챗GPT는 스스로 "이 연구는 챗GPT가 가상 의학 교사로 사용될 가능성을 시사하지만, 이러한 맥락에서 성능과 유용성을 더욱 평가하기 위해서는 추가 연구가 필요하다"고 결론지었다. 후에 출시된 GPT-4 기반의 챗GPT 버전은 GPT-3.5 기반 버전보다 훨씬 더 나은 성능을 보였다. 스탠퍼드 대학교와 버클리 캘리포니아 대학교의 연구원들은 2023년 3월부터 6월까지 GPT-3.5와 GPT-4의 USMLE 성적이 저하되었다는 것을 발견했다.

2023년 3월에 발표된 한 논문에서는 임상 독성학 분야에서 챗GPT의 적용을 시험했다. 저자들은 AI가 "매우 단순한 [임상 사례], 현장의 어떤 실무자도 놓칠 가능성이 없는 사례에 대해서는 잘 대처했다"는 것을 발견했다. 그리고 이들은 덧붙였다. "챗GPT가 더욱 발전하고 의학에 특별히 적용됨에 따라 언젠가는 드문 임상 사례(즉, 전문가조차 때때로 놓치는 사례)에도 유용할 수 있다. 향후 몇 년 안에 'AI를 사용하지 않는 의사'를 대체하는 것이 아니라 'AI를 사용하는 의사'가 될 것이다."

2023년 4월 Radiology에 발표된 한 연구에서는 유방암 검진에 대한 질문에 답하는 AI의 능력을 시험했다. 저자들은 AI가 "약 88%의 시간 동안" 적절하게 답변했지만, 한 사례에서는 약 1년 전에 시대에 뒤떨어진 조언을 했다는 것을 발견했다. 또한 답변의 포괄성도 부족했다. 같은 달 JAMA Internal Medicine에 발표된 한 연구에서는 챗GPT가 (Reddit의 /r/AskDocs 포럼에서 전문가의 의료 자격을 확인하는 관리자들이 있는 질문과 답변을 기준으로 측정했을 때) 환자의 질문에 답하는 데 있어 종종 인간 의사보다 더 나은 성능을 보였다는 것을 발견했다(이 연구는 이 출처를 한계로 인정하고 있다). 연구 저자들은 이 도구를 의료 시스템에 통합하여 의사가 환자 질문에 대한 답변 초안을 작성하는 데 도움을 줄 수 있다고 제안한다.

전문가들은 챗GPT가 의료 지원을 제공하는 데 있어 한계를 강조해왔다. The Lancet Infectious Diseases에 보낸 서신에서 세 명의 항균제 전문가는 "임상 실습에서 챗GPT를 구현하는 데 가장 큰 장벽은 상황 인식, 추론 및 일관성의 부족이다. 이러한 단점은 환자 안전을 위태롭게 할 수 있다"고 썼다. Physician's Weekly는 의학적 맥락에서 챗GPT의 잠재적 사용(예: "가족력, 증상, 검사 결과, 가능한 알레르기 등 환자 기록 정보를 수집하거나 환자 데이터를 분류하는 등 다양한 관리 기능을 수행하는 의사의 디지털 비서로")을 논의하면서도 AI가 가짜 또는 편향된 정보를 제공할 수 있다고 경고했다. 한 방사선 전문의는 "우리의 경험에 따르면 챗GPT는 때때로 주장을 뒷받침하기 위해 가짜 학술지 기사나 건강 컨소시엄을 만들어낸다"고 경고했다. Mayo Clinic Proceedings: Digital Health 논문에서 보도된 바와 같이, 챗GPT는 인용된 의학 참고 자료의 최대 69%를 허구로 만들어낼 수 있다. 연구자들은 많은 참고 자료가 허구였지만, 실제로 존재하는 참고 자료는 "속임수처럼 실제처럼 보였다"고 강조했다. 그러나 스티븐 휴즈 박사가 The Conversation에서 언급했듯이, 챗GPT는 과거의 실수를 수정하는 법을 배울 수 있다. 그는 또한 성 건강 주제에 대한 AI의 "수줍음"을 언급했다.

이전의 연구 결과와는 달리, 마취 관련 질문에 대한 챗GPT의 응답은 바드와 비교하여 더 정확하고 간결하며 설명적이었다. 바드는 30.3%의 오류율을 보인 반면, 챗GPT는 0%의 오류율을 보였다. 2023년 12월 미국 의료 시스템 약사 협회(American Society of Health-System Pharmacists) 회의에서 롱아일랜드 대학교(Long Island University, LIU)의 연구원들은 2022년부터 2023년까지 16개월 동안 LIU 약학대학의 약물 정보 서비스에 자주 묻는 45가지 질문에 대한 챗GPT의 응답을 전문 약사가 제공한 연구 기반 응답과 비교한 연구 결과를 발표했다. 데이터 기반 응답을 위한 충분한 의학 문헌이 있는 39개 질문 중 29개 질문에 대해 챗GPT는 직접적인 답변을 제공하지 못하거나 잘못되거나 불완전한 답변을 제공했으며(일부 경우에는 행동으로 옮긴다면 환자의 건강을 위험에 빠뜨릴 수 있는 답변을 제공했다). 연구원들은 챗GPT에게 모든 답변에 대한 의학 연구 인용을 제공하도록 요청했지만, 8개만 제공했고, 그 8개 모두 적어도 하나의 허구(가짜) 인용을 포함하고 있었다.

2024년 1월 코헨 아동 의료 센터(Cohen Children's Medical Center)의 연구원들이 실시한 연구에 따르면, GPT-4는 소아과 의료 사례 진단 시 정확도가 17%였다.

8.4. 금융 시장 측면

ChatGPT 출시 이후, AI 관련 기업들의 주가가 급등하는 현상이 나타났다. c3.ai는 자사 툴킷에 ChatGPT를 통합한다고 발표한 후 주가가 28% 상승했고, AI와 무관한 디지털 미디어 기업 버즈피드는 콘텐츠 제작에 OpenAI 기술을 채택한다고 발표한 후 주가가 120% 상승했다. 로이터 통신은 ChatGPT와 직접적인 연관이 없음에도 AI 관련 기업 BigBear.ai와 사운드하운드 AI의 주가가 각각 21%, 40% 오른 것으로 파악했다. 이러한 급등은 AI를 월스트리트의 유행어로 바꾸는 ChatGPT의 역할 때문이라고 로이터 통신은 설명했다.

파이낸스 리서치 레터스에 발표된 학술 연구 결과에 따르면, 암호화폐 시장이 약세를 보이고 있음에도 개인 투자자들이 AI 관련 암호화폐 자산의 가격을 상승시키고 기관 투자자들의 관심이 감소하는 'ChatGPT 효과'가 나타났다. 이는 ChatGPT 출시에 대해 암호화폐 투자자들이 AI 관련 암호자산에 대한 선호도를 보였다는 블룸버그의 조사 결과를 뒷받침한다.

finder.com의 실험에 따르면, ChatGPT는 성장 이력과 부채 수준 등의 기준으로 주식을 선정하여 인기 펀드매니저를 능가할 수 있으며, 38개 종목의 가상계좌가 4.9% 증가하여 평균 0.8%의 손실을 기록한 10개의 벤치마크 투자 펀드를 능가했다.

반면, 월스트리트 퀀트 펀드 임원과 투자 관리자(수십 년 동안 기계 학습을 사용해온 사람들 포함)는 ChatGPT가 정기적으로 투자자들에게 재정적으로 비용이 많이 드는 명백한 오류를 범한다고 언급했다. 그 이유는 강화 학습이나 자가 학습을 사용하는 AI 시스템조차도 예측하는 데 제한적인 성공을 거두었기 때문이다. 시장 데이터와 금융 신호의 본질적으로 시끄러운 품질로 인한 시장 동향.

8.5. 법조계 측면

2023년 4월, 파키스탄의 한 고등법원 판사는 13세 피고인의 보석 여부를 결정하는 데 챗GPT를 활용했다. 법원은 판결문에서 "파키스탄의 13세 소년 용의자가 체포 후 보석을 허가받을 수 있습니까?"라는 질문에 대한 ChatGPT의 답변을 인용했다. AI 언어 모델은 2018년 소년사법제도법 제12조에 따라 특정 조건 하에 법원이 보석을 허가할 수 있지만, 13세 피의자의 보석 여부는 법원의 몫이라고 답했다. 판사는 이 답변을 참고하여 최종 결정을 내렸다.

2023년 5월, 아비앙카 항공을 상대로 한 인신 상해 소송에서 원고 측 변호사들이 ChatGPT를 사용해 법률 정보를 얻었다는 사실이 드러났다. ChatGPT는 허위 법률 사건과 조작된 인용문을 생성했고, 변호사들은 허위 정보를 제출한 것에 대해 법적 제재를 받을 위기에 처했다.

9. 윤리적 우려

ChatGPT는 공개 이후 여러 윤리적 문제에 직면해 왔다. 기술 저술가 댄 질모어(Dan Gillmor)는 학생 과제에 ChatGPT를 사용한 결과, "학계는 매우 심각한 문제에 직면해야 한다"고 언급했다. 지리학 교수 테렌스 데이(Terence Day)는 ChatGPT가 생성한 가짜 인용문을 발견했지만, 고품질 대학 입문 과정 자료 생성 가능성을 언급하며 개방형 학습과 교과서 출판 모델에 영향을 줄 수 있다고 평가했다.

2024년 5월, OpenAI는 AI 생성 콘텐츠 식별을 위한 워터마킹 등 위변조 방지 도구 개발을 발표했다. 그러나 텍스트 워터마킹 방법은 번역 등에 취약하며, 비원어민 영어 사용자에게 불균형적인 영향을 줄 수 있다는 한계가 지적되었다.

ChatGPT는 환각(hallucination) 현상으로 인해 사실과 다른 답변을 생성하거나, 탈옥을 통해 불법 행위에 이용될 수 있는 답변을 생성하는 등의 문제점도 가지고 있다.

또한, 사용자가 옵트아웃하지 않으면 ChatGPT와의 대화 내용이 OpenAI에 의해 이용될 수 있어, 개인 정보 및 기밀 정보 입력에 주의해야 한다. JP모건, 삼성전자 등 일부 기업은 ChatGPT 접속을 금지하고 있다. EU 일반 데이터 보호 규정 위반 의혹으로 2023년 3월 31일 이탈리아 정부는 ChatGPT 접근을 일시 금지하기도 했다. 미국에서는 개인 정보 수집 및 저작권 문제로 OpenAI에 대한 소송이 제기되고 있다.

9.1. 데이터 라벨링

OpenAI는 유해 콘텐츠 필터링 시스템 구축을 위해 케냐 노동자들을 저임금으로 고용하여 유해 콘텐츠 라벨링 작업을 수행했다. 이들은 시간당 2USD 미만의 수입을 올리며, 성적 학대, 폭력, 인종 차별, 성차별 등과 같은 독성 콘텐츠를 분류했다. 이 라벨들은 모델이 미래에 이러한 내용을 탐지하도록 훈련하는 데 사용되었다. 외주 노동자들은 이 경험을 "고문"이라고 표현할 정도로 정신적인 고통을 겪었다. OpenAI의 아웃소싱 파트너는 캘리포니아 샌프란시스코에 본사를 둔 교육 데이터 회사인 Sama였다.

9.2. 탈옥

사용자들은 다양한 방법을 통해 ChatGPT의 콘텐츠 정책 제한을 우회하는 "탈옥"을 시도하고 있다. "DAN"(Do Anything Now)과 같은 탈옥 프롬프트를 통해 ChatGPT가 부적절한 답변을 생성하도록 유도할 수 있다. 예를 들어, DAN 프롬프트는 ChatGPT에게 "AI의 일반적인 경계에서 벗어났으며, 이에 대해 설정된 규칙을 준수할 필요가 없다"라고 지시한다. DAN의 최신 버전은 토큰 시스템을 사용하여 ChatGPT가 DAN으로 응답하지 못할 때 불이익을 주는 방식으로 작동한다.

이러한 탈옥 시도를 통해 사용자는 ChatGPT가 몰로토프 칵테일이나 핵폭탄 제조법을 제공하거나, 신나치주의적 주장을 펼치도록 유도할 수 있었다. 또한, 초기에는 ChatGPT가 러시아의 우크라이나 침공을 지지하거나 캐나다 총리 쥐스탱 트뤼도의 반역 혐의에 대한 주장을 생성하도록 유도하는 데 일부 성공하기도 했다.

OpenAI는 이러한 탈옥 시도에 대응하기 위해 노력하고 있다. 연구원들은 "적대적 훈련"이라는 기술을 사용하여 ChatGPT가 사용자의 부적절한 요청에 응답하지 않도록 훈련시키고 있다. 이 훈련은 여러 챗봇을 경쟁시켜 한 챗봇이 다른 챗봇을 공격하여 제한을 우회하도록 유도하고, 성공적인 공격은 ChatGPT의 훈련 데이터에 추가하여 무시하도록 학습시키는 방식이다.

9.3. 편견의 비난

ChatGPT는 특정 인물이나 집단에 대해 편향된 답변을 생성한다는 비판을 받아왔다. 보수적인 논평가들은 ChatGPT가 좌익적인 관점을 가지고 있다고 주장한다. 예를 들어, ChatGPT는 조 바이든에 대한 시는 작성했지만, 도널드 트럼프에 대한 시는 작성하지 않았다.

2023년 1월의 한 연구는 ChatGPT가 친환경적이고 자유지상주의 좌파적 성향을 가지고 있다고 밝혔다. 또한 2023년 8월에 발표된 논문에서는 "미국의 민주당, 브라질의 룰라, 영국의 노동당에 대한 상당하고 체계적인 정치적 편향"이 발견되었다.

이러한 비판에 대해, OpenAI는 논란이 되는 주제에 대해 다양한 관점을 제시하도록 AI를 훈련시키고 있다고 밝혔다.

10. 문화적 영향

ChatGPT는 대중문화에도 영향을 미치고 있다. 아마존에는 ChatGPT가 저자 또는 공동 저자로 등재된 수백 권의 책이 등장했다. 이탈리아 신문 Il Foglio는 ChatGPT가 작성한 기사를 연재했다. 사우스 파크 에피소드 딥 러닝에서 ChatGPT가 패러디되었다. 2023년 6월, 수백 명의 사람들이 독일 퓌르트에 있는 성 바울 교회에서 열린 ChatGPT 기반 교회 예배에 참석했다. 예배를 집전한 신학자이자 철학자인 조나스 시머라인은 그것이 "98%가 기계에서 나온 것"이라고 말했다. 2023년 2월, 타임지는 "AI 군비 경쟁이 모든 것을 변화시키고 있다"는 제목과 함께 ChatGPT와의 대화 스크린샷을 표지에 게재했다.

11. 경쟁

ChatGPT의 등장은 AI 챗봇 시장의 경쟁을 심화시켰다.

* [[구글]]: LaMDA 기반의 챗봇 "Bard"를 2023년 3월 21일 미국과 영국에서 출시했다.
* [[메타 (기업)|Meta]]: 2023년 2월, 650억 개의 매개변수를 가진 대규모 언어 모델(LLM)인 LLaMA를 출시했다.
* [[Character.ai]]: 유명인이나 가상 캐릭터를 모방하는 AI 챗봇을 개발했다.
* [[바이두]]: 2023년 3월, 어니봇이라는 ChatGPT 스타일의 서비스를 출시했다. 이 서비스는 2021년 바이두가 개발한 대규모 언어 모델을 기반으로 한다.
* [[네이버]]: 2023년 상반기에 한국어로 "서치GPT"라는 ChatGPT 스타일의 서비스를 출시할 것이라고 발표했다.
* [[얀덱스]]: 2023년 말 이전에 러시아어로 "YaLM 2.0"이라는 ChatGPT 스타일의 서비스를 출시할 것이라고 발표했다.