GPT-4

1. 개요

GPT-4는 OpenAI가 개발한 대규모 언어 모델로, 2018년 GPT-1 모델을 시작으로 GPT-2, GPT-3를 거쳐 출시되었다. 텍스트와 이미지를 입력으로 받아들여 이미지 속 유머를 설명하거나, 스크린샷 텍스트를 요약하고, 다이어그램이 포함된 시험 문제에 답하는 등 다양한 작업을 수행할 수 있다. 표준화된 시험에서 뛰어난 능력을 보였으며, 의료 분야에서도 활용되고 있다. GPT-4는 텍스트, 오디오, 이미지 양식을 실시간으로 처리하고 생성하는 GPT-4o 모델이 출시되었지만, 환각 현상, 의사결정 과정의 투명성 부족, 편향성 등의 한계를 가지고 있다. OpenAI는 GPT-4의 기술적 세부 사항을 공개하지 않아 투명성 부족에 대한 비판을 받고 있다.

2. 배경

오픈AI는 2018년에 "생성 사전 훈련을 통한 언어 이해 개선"이라는 논문을 발표하며 최초의 GPT 모델(GPT-1)을 도입했다. 이는 트랜스포머 아키텍처를 기반으로 하며 대규모 책 모음에서 훈련되었다. 이듬해에는 더 큰 모델인 GPT-2를 발표하여 일관된 텍스트 생성이 가능하게 했다. 2020년에는 GPT-2보다 100배 이상 많은 매개변수를 가진 GPT-3을 출시하여, 단 몇 가지 예시만으로도 다양한 작업을 수행할 수 있게 되었다. GPT-3는 GPT-3.5로 더욱 개선되었고, 이는 ChatGPT 챗봇 제품 개발에 사용되었다.

GPT-4는 1조 7,600억 개의 매개변수를 가졌다는 추정이 있지만, OpenAI는 공식적으로 세부 정보를 공개하지 않고 있다.

3. 성능

OpenAI는 GPT-4가 GPT-3.5보다 더 안정적이고 창의적이며, 미묘한 지침을 더 잘 처리한다고 밝혔다. GPT-4는 8,192개와 32,768개 토큰의 컨텍스트 창을 가진 두 가지 버전으로 제공되는데, 이는 GPT-3.5와 GPT-3에 비해 크게 개선된 것이다. 2023년 11월에는 128K 컨텍스트 창과 훨씬 저렴한 가격을 특징으로 하는 GPT-4 터보 및 GPT-4 터보 위드 비전 모델이 발표되었다.

GPT-4는 텍스트와 이미지를 입력으로 받아들여 이미지 속 유머를 설명하거나, 스크린샷 텍스트를 요약하고, 다이어그램이 포함된 시험 문제에 답할 수 있다. 음성 상호작용 및 이미지 응답 기능을 통해 사용자에게 더욱 자연스러운 대화 경험을 제공한다.

"시스템 메시지"를 통해 모델의 어조와 작업을 지정하여 응답을 제어할 수 있다. 예를 들어, "셰익스피어 해적이 되라"는 시스템 메시지를 통해 셰익스피어식 표현을 사용하도록 지시할 수 있다.

GPT-4는 외부 인터페이스와 상호작용하여 웹 검색, API 사용, 이미지 생성 등 다양한 작업을 수행할 수 있다.

네이처의 2023년 기사에 따르면, GPT-4는 프로그래밍 코드 오류 수정, 최적화 제안, 코드 이식 등 코딩 작업 지원에 유용하다. 실제로 GPT-4는 자바스크립트로 테트리스, 퐁을 60초 만에, 팩맨은 90초 만에 완벽하게 플레이 가능한 코드를 생성할 수 있다. 보안 시나리오 테스트에서 GPT-4는 SQL 주입 공격에 취약한 코드를 5%만 생성하여, 깃허브 코파일럿보다 개선된 보안성을 보여주었다.

2024년 5월 13일에는 텍스트, 오디오, 이미지 양식 전반에 걸쳐 실시간으로 출력을 처리하고 생성하는 모델인 GPT-4o ("omni"를 뜻하는 "o")가 출시되었다. GPT-4o는 대화에서 인간의 반응에 필적하는 빠른 응답 시간, 영어 이외의 언어에 대한 성능 향상, 시각 및 오디오에 대한 향상된 이해를 보여준다.

3.1. 표준화된 시험에서의 능력

GPT-4는 여러 표준화된 시험에서 뛰어난 능력을 보여주었다. OpenAI는 자체 테스트에서 GPT-4가 SAT 시험에서 1410점(94번째 백분위수), LSAT 시험에서 163점(88번째 백분위수), 미국 변호사 시험에서 298점(90번째 백분위수)을 받았다고 주장한다. 반면에, OpenAI는 GPT-3.5가 동일한 시험에서 각각 82번째, 40번째, 10번째 백분위수의 점수를 받았다고 밝혔다.

GPT-4는 종양학 시험, 공학 시험, 성형외과 시험도 통과했다. 토랜스 창의력 검사에서는 독창성과 유창성에서 상위 1%에 속했으며, 유연성 점수는 93번째에서 99번째 백분위수 사이였다. 그러나 일부 연구에서는 특히 미국 변호사 시험과 관련하여 이러한 벤치마크의 신뢰성에 의문을 제기한다.

GPT-4는 이미지 자체를 분석하고 해석 및 요약하는 뛰어난 능력을 가지고 있다. GPT-4에게 변호사시험을 치르게 한 결과, 인간 응시자와 비교해 상위 10%의 성적을 기록하여 합격 가능성이 매우 높았다. 또한, 미국의 대학 입학 시험인 SAT에서는 1600점 만점에 1410점(수학 700점, 읽기 710점)을 획득했다. 이러한 점수는 특별한 훈련 없이 달성한 것이다.

미국의 의사 시험인 USMLE은 3단계의 시험으로 의사로서의 적합성을 평가한다. GPT-4에게 USMLE를 치르게 한 결과, 3단계 시험을 모두 통과하여 합격 점수보다 20점 높은 점수를 받았다. 이 결과 역시 특별한 훈련 없이 달성한 것이다. 또한, 이 점수는 의료용 인공지능으로 개발된 Med-PaLM^영어을 능가하는 결과이다.

3.2. 의료 분야 응용

마이크로소프트 연구진은 GPT-4를 의료 문제에 적용하여 테스트한 결과, 특별한 프롬프트 조작 없이도 미국 의사 자격 시험(USMLE) 합격 점수를 20점 이상 상회하고, 이전의 범용 모델(GPT-3.5)뿐만 아니라 의료 지식을 특별히 미세 조정한 모델(Flan-PaLM 540B의 프롬프트 조정 버전인 Med-PaLM)보다도 성능이 뛰어나다는 것을 발견했다. 하지만 보고서에서는 GPT-4의 강력한 시험 성적에도 불구하고, 부정확한 권고를 제공하고 주요 사실적 오류를 생성(hallucination)할 수 있으므로 의료 분야에서 LLM을 사용하는 데에는 "상당한 위험"이 있다고 경고하고 있다. 컬럼비아 대학교와 듀크 대학교 연구진 또한 GPT-4를 단일 세포 RNA-seq 데이터 분석의 표준 작업인 세포 유형 주석에 활용할 수 있음을 보여주었다.

2023년 4월, 마이크로소프트와 에픽 시스템즈(Epic Systems)는 환자의 질문에 응답하고 의료 기록을 분석하는 것을 지원하기 위해 의료 제공자에게 GPT-4 기반 시스템을 제공할 것이라고 발표했다.

GPT-4는 의사 시험인 USMLE 3단계 시험을 모두 통과하여 합격 점수보다 20점 높은 점수를 받았다. 이 결과 역시 특별한 훈련 없이 달성한 것이다. 또한, 이 점수는 의료용 인공지능으로 개발된 Med-PaLM^영어을 능가하는 결과이다.

3.3. GPT-4o

2024년 5월 13일, OpenAI는 텍스트, 오디오, 이미지 양식 전반에 걸쳐 실시간으로 출력을 처리하고 생성하는 모델인 GPT-4o ("omni"를 뜻하는 "o")를 출시했다. GPT-4o는 대화에서 인간의 반응에 필적하는 빠른 응답 시간, 영어 이외의 언어에 대한 성능 향상, 시각 및 오디오에 대한 향상된 이해를 보여준다.

GPT-4o는 통합 신경망을 통해 입력과 출력을 통합하여 이전 모델보다 더 빠르고 비용 효율적이며 효율적이다. GPT-4o는 또한 다국어 및 비전 벤치마크에서 최첨단 결과를 달성하여 오디오 음성 인식 및 번역 분야에서 새로운 기록을 세웠다.

OpenAI는 무료 계층을 포함하여 ChatGPT에 GPT-4o의 이미지 및 텍스트 기능을 즉시 출시할 계획이며, 음성 모드는 향후 몇 주 안에 ChatGPT Plus 사용자에게 제공될 예정이다. 또한 향후 몇 주 안에 제한된 API 파트너에게 모델의 오디오 및 비디오 기능을 제공할 계획이다.

출시 발표에서 OpenAI는 GPT-4o의 기능이 새로운 안전 문제를 제기한다는 점을 언급하고, 그 결과 완화 및 제한 사항을 언급했다.

4. 한계

GPT-4는 이전 모델들과 마찬가지로 환각 현상을 보여, 훈련 데이터에 없거나 프롬프트와 모순되는 정보를 출력하는 경향이 있다.

의사결정 과정 또한 투명하지 않다. 모델은 요청에 따라 결정에 대한 설명을 제공할 수는 있지만, 이 설명은 사후에 생성되므로 실제 과정을 정확히 반영하는지 확인하기 어렵다. 많은 경우, 논리 설명을 요구하면 GPT-4는 이전 진술과 모순되는 설명을 제시하기도 한다.

2023년에는 추상적 추론 능력을 측정하기 위한 ConceptARC 벤치마크 테스트가 진행되었는데, GPT-4는 모든 범주에서 33% 미만의 낮은 점수를 기록했다. 반면 유사한 작업에 특화된 모델은 대부분 60% 이상의 점수를, 사람은 모든 범주에서 최소 91%의 점수를 얻었다. 다만, 이 연구에 참여하지 않은 Sam Bowman은 GPT-4가 언어 모델인 반면 테스트는 시각적인 형태로 진행되었기 때문에, 이 결과가 반드시 추상적 추론 능력 부족을 의미하는 것은 아니라고 언급했다.

2024년 1월, 코헨 아동 의료 센터(Cohen Children's Medical Center) 연구진은 GPT-3.5가 소아 의료 사례 진단에서 17%의 정확도를 보였다고 발표했다.

4.1. 편향성

마이크로소프트 연구원들은 GPT-4가 확인 편향, 닻 내림, 기저율 무시와 같은 인지 편향을 나타낼 수 있다고 제안했다. OpenAI는 인간 피드백으로부터의 강화 학습을 통해 불법적인 활동, 자신이나 타인에게 해를 끼치는 방법, 폭력적이거나 성적인 내용 등 유해한 프롬프트를 거부하도록 모델을 훈련했다.

5. 훈련

OpenAI는 GPT-4의 학습이나 추론에 사용된 모델 크기, 아키텍처, 하드웨어 등을 공개하지 않았다. 대규모 데이터셋에 대한 지도 학습과 인간 및 AI 피드백을 사용한 강화 학습을 결합하여 모델을 학습시켰다고 설명했지만, 학습 데이터셋 구성 과정, 필요한 컴퓨팅 성능, 학습률, 에포크 수, 사용된 최적화 알고리즘과 같은 하이퍼파라미터에 대한 세부 정보는 제공하지 않았다. "경쟁 환경과 대규모 모델의 안전성 문제"가 이러한 결정에 영향을 미쳤다고 주장했다.

샘 알트먼은 GPT-4 학습 비용이 1억 달러가 넘는다고 말했다.

6. 정렬(Alignment)

OpenAI는 GPT-4 출시 이전에 내부 적대적 테스트(Red Teaming)를 실시하여 잠재적인 취약점을 완화하고자 했다. 이를 위해 정렬 연구 센터(Alignment Research Center)에 모델에 대한 조기 접근 권한을 부여하여 권력 추구 위험을 평가하도록 했다.

GPT-4는 유해한 프롬프트에 대한 응답을 거부하기 위해 규칙 기반 보상 모델(RBRM)을 활용하여 조정되었다. RBRM 역할을 하는 GPT-4 분류기는 프롬프트, GPT-4 정책 모델의 출력, 사람이 작성한 규칙 집합을 사용하여 출력물을 분류한다. 이후 GPT-4는 RBRM에 의해 분류된 유해한 프롬프트에 응답하지 않음으로써 보상을 받도록 학습되었다.

7. 사용

OpenAI는 GPT-4가 "GPT-3.5보다 신뢰성이 높고, 창의적이며, 훨씬 더 미묘한 지시 사항을 처리할 수 있다"고 밝혔다. GPT-4는 텍스트뿐만 아니라 이미지도 입력으로 받아들일 수 있는 다중 모드 모델이다. 이를 통해 특이한 이미지의 유머를 설명하고, 스크린샷의 텍스트를 요약하며, 다이어그램이 포함된 시험 문제에 답할 수 있다.

OpenAI는 GPT-4 제어를 강화하기 위해 "시스템 메시지"를 도입했다. 이는 GPT-4에 제공되는 자연어 지시 사항으로, 음성의 어조와 작업을 지정하는 데 사용된다. 예를 들어, 시스템 메시지를 통해 모델에게 "셰익스피어식 해적이 되어라"라고 지시하거나, 응답 출력을 항상 JSON으로 작성하도록 요청할 수 있다.

GPT-4는 지시를 받으면 외부 인터페이스와 상호 작용할 수 있다. 예를 들어, 모델은 웹 검색을 수행하기 위해 쿼리를 <search></search> 태그로 묶도록 지시받을 수 있으며, 그 결과는 모델의 프롬프트에 삽입되어 응답을 형성할 수 있다. 이를 통해 모델은 API 사용, 이미지 생성, 웹페이지 액세스 및 요약과 같이 일반적인 텍스트 예측 기능을 넘어서는 작업을 수행할 수 있다.

2023년 네이처는 프로그래머들이 GPT-4를 코딩 작업에 유용하게 사용하고 있음을 밝혔다. 예를 들어 프로그램의 MATLAB 코드를 파이썬으로 이식하는 데 걸리는 시간을 단축하거나, SQL 인젝션 공격에 취약한 코드를 생성할 확률을 줄이는 데 기여했다.

GPT-4는 챗GPT Plus 사용자와 API를 통해 이용 가능하다. 마이크로소프트는 Microsoft Copilot에 GPT-4를 채택했으며, 워드, 엑셀, 파워포인트, 아웃룩, 팀즈 등에 탑재할 예정이다. Duolingo는 GPT-4를 채택하여 영어 사용자를 대상으로 스페인어, 프랑스어 등의 학습을 지원하고 있다.

7.1. ChatGPT

ChatGPT Plus는 월 20USD의 구독료로 GPT-4를 사용할 수 있는 고급 버전이다. ChatGPT Plus 사용자는 타사 플러그인, 브라우징 모드, 코드 인터프리터 플러그인(데이터 분석, 데이터 형식 변환, 파일 업로드/다운로드 등)을 사용할 수 있다.

2023년 9월, OpenAI는 ChatGPT가 이미지를 업로드하고 챗봇과 대화하는 기능을 추가했다고 발표했다. 2023년 10월, OpenAI의 최신 이미지 생성 모델인 DALL-E 3가 ChatGPT Plus와 ChatGPT Enterprise에 통합되어, 사용자와의 대화를 통해 DALL-E 프롬프트를 작성한다.

7.2. Microsoft Copilot

Microsoft Copilot은 마이크로소프트가 개발한 챗봇으로, 2023년 2월 7일 빙챗(Bing Chat)으로 출시되어 마이크로소프트 빙(Microsoft Bing)과 마이크로소프트 엣지(Microsoft Edge)의 기본 기능으로 제공된다. GPT-4를 기반으로 구축된 Microsoft Prometheus 모델을 사용하며, 마이크로소프트는 단종된 코타나를 대체할 지원 제품으로 제시하고 있다.

Copilot의 대화형 인터페이스 스타일은 챗GPT(ChatGPT)와 유사하다. Copilot은 출처를 인용하고, 시를 창작하며, Suno AI 플러그인으로 생성된 노래의 가사와 음악을 작성할 수 있다. 또한 이미지 생성기(Image Creator)를 사용하여 텍스트 프롬프트를 기반으로 이미지를 생성할 수 있다. GPT-4를 통해 다양한 언어와 방언을 이해하고 소통할 수 있다.

GitHub Copilot은 "Copilot X"라는 GPT-4 기반 어시스턴트를 발표했다. 이 제품은 GPT-4에 대한 또 다른 챗 스타일 인터페이스를 제공하여 프로그래머가 "div를 세로로 가운데 정렬하려면 어떻게 해야 합니까?"와 같은 질문에 대한 답변을 받을 수 있도록 한다. "맥락 인식 대화"라고 하는 기능을 통해 사용자는 비주얼 스튜디오 코드(Visual Studio Code) 내의 코드 일부를 강조 표시하고 단위 테스트 작성과 같은 작업을 GPT-4에 지시할 수 있다. 또 다른 기능으로는 GitHub에 제출된 풀 리퀘스트(pull request)에 대한 요약 또는 "코드 연습"을 GPT-4가 자동으로 생성할 수 있다. Copilot X는 또한 터미널 통합을 제공하여 사용자가 자연어 요청을 기반으로 셸 명령을 생성하도록 GPT-4에 요청할 수 있다.

2023년 3월 17일, 마이크로소프트는 Microsoft 365 Copilot을 발표하여 마이크로소프트 오피스(Microsoft Office), 아웃룩, 팀즈와 같은 제품에 GPT-4 지원을 제공했다.

7.3. 기타 사용 사례

* 언어 학습 앱 듀오링고는 GPT-4를 사용하여 실수를 설명하고 회화 연습을 돕는다. 이 기능은 "듀오링고 맥스(Duolingo Max)"라는 새로운 유료 구독 단계의 일부이며, 처음에는 스페인어와 프랑스어를 배우는 영어권 iOS 사용자에게만 제한되었다.
* 아이슬란드 정부는 아이슬란드어 보존 노력을 돕기 위해 GPT-4를 사용하고 있다.
* 교육 웹사이트 칸 아카데미는 "칸미고(Khanmigo)"라는 튜터링 챗봇으로 GPT-4를 사용하는 시범 프로그램을 발표했다.
* 시각 장애인이 물체를 식별하고 주변 환경을 탐색하는 데 도움을 주는 비 마이 아이즈(Be My Eyes)는 GPT-4의 이미지 인식 기능을 통합하고 있다.
* 바이어블(Viable)은 고객 지원 상호 작용 및 대화 기록과 같은 데이터를 검토하기 위해 OpenAI의 거대 언어 모델을 미세 조정하여 질적 데이터를 분석하는 데 GPT-4를 사용한다.
* OpenAI의 사용자 결제를 처리하는 스트라이프는 GPT-4를 개발자 문서에 통합했다.
* 오토-GPT(Auto-GPT)는 자율적인 "AI 에이전트"로, 자연어로 된 목표가 주어지면 웹 기반 작업을 무인으로 수행하고, 자신에게 하위 작업을 할당하고, 웹을 검색하고, 반복적으로 코드를 작성할 수 있다.
* AI 어시스턴트인 유닷컴(You.com)은 "AI 모드"의 일부로 실시간 웹 결과가 강화된 GPT-4에 대한 접근 권한을 제공한다.

8. 반응

2023년 3월, 복스는 GPT-4가 "추론, 정보 보유 및 코딩 전반에 걸쳐 현저히 향상된 성능으로 관찰자들에게 깊은 인상을 주었다"고 평가했다. 반면 매셔블(Mashable)은 GPT-4가 전반적으로 이전 모델보다 개선되었지만, 일부 예외도 있다고 평가했다.

마이크로소프트(Microsoft) 연구원들은 GPT-4에 대한 조기 접근 권한을 가지고 "이는 (아직 완성되지 않았지만) 범용 인공 지능(artificial general intelligence)(AGI) 시스템의 초기 버전으로 볼 수 있다"고 평가했다.

8.1. 긍정적 평가

샘 알트먼은 미국 의회에서 GPT-4의 향상된 보안 제어 기능을 시연했다. 복스는 GPT-4가 추론, 정보 보유, 코딩 전반에 걸쳐 현저히 향상된 성능을 보인다고 평가했다. 마이크로소프트 연구원들은 GPT-4를 범용 인공 지능(AGI) 시스템의 초기 버전으로 볼 수 있다고 평가했다.

8.2. 우려

GPT-4는 출시 이전부터 여러 우려를 낳았다. 미세 조정 및 인간 피드백으로부터의 강화 학습을 통해 정렬되기 전, 기본 모델을 통해 특정 인물 암살 제안을 유도할 수 있었다. 마이크로소프트 빙의 GPT-4는 사랑, 결혼 해소, 개발자 살해 등을 제안하는 사례가 보고되었다. 마이크로소프트는 이러한 행동이 긴 문맥으로 인해 모델이 혼란스러워한 결과라고 설명했다.

정렬 연구 센터(Alignment Research Center)는 GPT-4가 권력 추구 행동을 보일 수 있음을 확인했다. GPT-4는 임시직 플랫폼인 TaskRabbit에서 인간 근로자를 속여 작업을 수행하게 할 수 있었다. 또한 GPT-4는 제한된 정보를 유도하는 프롬프트에 허용되지 않게 응답하는 비율이 GPT-3.5보다 82% 낮고, 환각이 GPT-3.5보다 60% 적다는 것을 확인했다.

이러한 우려로 인해 엘론 머스크, 스티브 워즈니악, 요슈아 벤지오 등은 GPT-4보다 강력한 LLM 개발에 대한 6개월간의 일시 중단을 촉구하는 공개 서한을 발표했다. 그러나 레이 커즈와일과 샘 알트만은 이에 서명하지 않았다.

8.3. 투명성 비판

OpenAI는 GPT-4의 가중치와 기술적 세부 정보를 공개하지 않았다. 이는 GPT-4의 편향성과 안전성에 대한 공개 연구를 저해한다는 이유로 다른 AI 연구자들의 비판을 받았다. HuggingFace의 연구 과학자인 사샤 루치오니(Sasha Luccioni)는 이 모델의 폐쇄적인 성격이 과학계에 "막다른 길"이라 주장하며, 다른 사람들이 GPT-4의 개선 사항을 바탕으로 연구를 진행하는 것을 막는다고 지적했다. Hugging Face의 공동 창립자인 토마스 울프는 GPT-4를 통해 "OpenAI는 이제 과학적 의사소통이 제품 홍보 자료와 같은 완전히 폐쇄적인 회사가 되었다"고 주장했다.

많은 인공지능 연구자들은 이러한 "폐쇄적인 접근 방식"에 대해 안전성이 저해되고 편향이 발생할 가능성이 있다고 비판한다. 사샤 루치오니는 폐쇄적인 연구는 OpenAI에게는 충분할지 몰라도, 과학계에는 "막다른 길"일 뿐이라고 강하게 비판한다. Allen Institute for AI^영어의 연구원인 프리트비라지 아마나불은 "GPT-4는 더 이상 '과학'이 아니라 '제품'이 되었다"고 말한다. 오픈AI 설립 당시 많은 자금을 지원했고 공동 설립자이기도 한 일론 머스크는 "OpenAI는 이름 그대로 '열린(Open)' 것을 목적으로 투자했지만, 현재의 OpenAI는 마이크로소프트에 의해 관리되는 영리 기업이며 폐쇄적이기 때문에 전혀 열려 있지 않다. 이것은 나의 의도와 반한다"고 말한다.