맨위로가기

딥페이크

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.
목차

1. 개요

딥페이크는 인공지능 기술을 사용하여 기존 영상이나 이미지를 조작, 합성하여 실제와 구별하기 어렵게 만드는 기술이다. 1990년대부터 학술 연구를 통해 개발되었으며, 2017년 "deepfakes"라는 이름으로 온라인 커뮤니티에서 유행하기 시작했다. 딥페이크는 학술 연구, 아마추어 개발, 상업적 활용 등 다양한 분야에서 사용되며, 특히 연기, 예술, 협박, 사기, 신원 위장 등에서 악용될 수 있다. 딥페이크 기술의 발전에 따라 가짜 뉴스의 확산, 명예훼손, 정치적 악용 등의 문제점이 발생하며, 이에 대한 탐지 기술 개발과 법적 규제 마련 등의 대응이 이루어지고 있다.

더 읽어볼만한 페이지

  • 논란 - 특허분쟁
    특허 분쟁은 기술 발전과 함께 변화해 온 지식 재산권 관련 갈등으로, 정보화 시대 기술 혁신 속도 증가와 함께 심화되어 특허 괴물 등장, 스마트폰 특허 전쟁 등 다양한 양상으로 나타나 혁신 저해, 소송 비용 발생, 특허 남용 등의 문제점을 야기하며 해결 방안에 대한 논의를 불러일으키고 있다.
  • 딥페이크 - 딥페이크 포르노그래피
    딥페이크 포르노그래피는 딥 러닝 기술로 인물의 얼굴이나 신체를 합성한 음란물로, 동의 없는 제작 및 유포는 초상권 침해, 명예훼손 등 심각한 인권 침해를 야기하여 법적 규제와 기술적 대응이 요구되는 사회적 문제이다.
  • 딥페이크 - 페이스앱
    페이스앱은 성별 변환, 인상, 메이크업, 헤어스타일 편집 등 다양한 얼굴 편집 기능을 제공하는 모바일 애플리케이션이지만, 인종차별 논란, 개인 정보 보호 문제, 과금 방식 및 이용 약관 관련 논란이 있었다.
  • 2020년 인터넷 밈 - 김여정
    김여정은 조선민주주의인민공화국의 정치인으로, 김정일과 고용희 사이에서 태어나 김정은의 여동생이며, 조선로동당 핵심 실세로 부상하여 남북 및 북미 정상회담 등 주요 외교 행사에 중요한 역할을 담당하고 대외적으로 강경한 어조의 담화를 발표하며 대남·대미 압박을 주도하기도 한다.
  • 2020년 인터넷 밈 - 어몽 어스
    어몽 어스는 Innersloth에서 개발한 멀티플레이어 게임으로, 4~15명의 플레이어가 우주선 안에서 크루원과 임포스터로 나뉘어 임무 수행 및 암살을 진행하며, 소셜 미디어를 통해 인기를 얻어 지속적인 업데이트를 통해 다양한 게임 플레이를 제공한다.
딥페이크
기본 정보
딥페이크 예시
딥페이크 예시
유형합성 미디어
조작된 미디어
기술심층 학습
기계 학습
특징
생성 방법자동 인코더
GAN(생성적 적대 신경망)
사용 분야허위 정보 유포
사기
선전
엔터테인먼트
정치
대상 미디어영상
이미지
음성
텍스트
위험성 및 윤리적 문제
위험성개인 사생활 침해
명예훼손
허위 뉴스 유포
정치적 혼란
사회적 불안 야기
윤리적 문제동의 없는 콘텐츠 생성
조작된 정보 유포
가짜 현실 생성
책임 소재 불분명
기술적 대응
탐지 기술인공지능 기반 탐지 기술
이미지 포렌식
메타데이터 분석
대응 기술워터마킹 기술
블록체인 기반 정보 추적
법적, 사회적 대응
법적 규제명예훼손죄 적용
사이버 명예훼손 법 제정
딥페이크 제작 및 유포 처벌 법안
사회적 대응미디어 리터러시 교육 강화
팩트체크 운동
허위 정보 감별 노력
역사
생성 시점2017년경
초기 사용 목적합성 포르노
얼굴 교체
문제점 부각 시점2018년 초
논란
유명인 대상 딥페이크정치인 대상 선전
연예인 대상 사이버 폭력
악의적 사용 사례사기 행각
허위 사실 유포
가짜 뉴스 생성
기타
관련 단체RepresentUs
참고 자료Synthetic media: The real trouble with deepfakes
Artificial Intelligence: Deepfakes in the Entertainment Industry

2. 역사

딥페이크 기술은 1990년대부터 학술 기관의 연구자들에 의해 개발되었고, 이후 온라인 커뮤니티의 아마추어들에 의해서도 발전했다.[384][385] 2017년 말, 'deepfakes'라는 레딧 사용자가 딥페이크라는 용어를 처음 사용하면서 유명해졌다. 초기에는 주로 유명인의 얼굴을 합성한 포르노 영상이 많았으나, 점차 다양한 분야로 활용 범위가 넓어졌다.

2018년 1월에는 사용자가 쉽게 얼굴을 바꿀 수 있는 사유 데스크톱 애플리케이션인 FakeApp이 출시되었다.[392] 이후 Faceswap, DeepFaceLab 등 오픈 소스 소프트웨어와 DeepfakesWeb.com와 같은 웹 기반 앱들이 등장했다.[393][394][395]

Synthesia와 같이 딥페이크 기술을 상업적으로 활용하는 기업들이 등장하기 시작했다.[386] Synthesia는 아바타와 그들의 목소리를 사용한 딥페이크 기술로 맞춤형 기업 교육 영상을 제작한다.[396] 모바일 앱 Momo는 Zao라는 애플리케이션을 만들어 사용자가 한 장의 사진만으로 TV와 영화 클립에 자신의 얼굴을 합성할 수 있게 했다.[386]

스테이블 디퓨전으로 생성된 여배우 시드니 스위니의 딥페이크 모습

2. 1. 학술 연구

딥페이크 관련 학술 연구는 크게 컴퓨터 과학 분야와 인문사회과학 분야로 나뉜다. 컴퓨터 비전[14] 분야에서는 딥페이크 생성 및 식별 기술을 개발하는 연구가 주로 이루어진다. 인문사회과학 분야에서는 딥페이크의 사회적, 윤리적, 미적 의미를 탐구한다.

영화 연구 분야에서 딥페이크는 "디지털 시대에 인간의 얼굴이 모순적인 중심 대상으로 부상하고 있음"을 보여준다.[17] 비디오 아티스트들은 딥페이크를 사용하여 "기존 영화에 새로운 스타 배우를 추가하여 영화 역사를 재미있게 다시 쓰고 있다".[18] 영화 학자 크리스토퍼 홀리데이는 친숙한 영화 장면에서 배우의 성별과 인종을 바꾸는 것이 성별 분류와 범주를 불안정하게 만드는 방식을 분석한다.[18] 올리버 M. 깅그리치는 딥페이크를 사용하여 성별을 재구성하는 미디어 작품에 대한 "퀴어링(queering)" 개념을 논의하며,[19] 여기에는 영국 아티스트 제이크 엘위스의 작품 ''Zizi: Queering the Dataset''이 포함된다. 딥페이크의 미적 가능성도 탐구되기 시작하고 있다. 연극 역사가 존 플레처는 초기 딥페이크 시연이 공연으로 제시되었으며, 이를 연극의 맥락에서 위치시키면서 딥페이크가 공연 장르로서 나타내는 "더욱 불안정한 패러다임 전환" 중 일부를 논의한다.[20]

철학자와 미디어 학자들은 특히 포르노와 관련하여 딥페이크의 윤리에 대해 논의해 왔다.[21] 미디어 학자 에밀리 반 데어 나겔은 조작된 이미지에 대한 사진 연구를 바탕으로 여성이 자신의 이미지 사용에 동의할 수 있도록 하는 검증 시스템에 대해 논의한다.[22]

포르노 외에도, 딥페이크는 철학자들에 의해 지식과 사회에 대한 "인식론적 위협"으로 규정되었다.[23] 기업, 정치인 등에게 "착취, 협박 및 개인적 파괴 행위"[24]를 야기하는 딥페이크의 위험을 해결하기 위한 제안과 법적, 규제적 대응에 대한 학술적 논의가 이루어지고 있다.[25] 심리학 및 미디어 연구에서 학자들은 딥페이크를 사용하는 가짜 정보(disinformation)의 영향[26][27]과 딥페이크의 사회적 영향에 대해 논의한다.[28]

대부분의 영어권 학술 연구가 가짜 정보와 포르노에 대한 서구의 불안감에 초점을 맞추는 반면, 디지털 인류학자 가브리엘레 드 세타는 "환련(huanlian)"으로 알려진 딥페이크에 대한 중국의 반응을 분석했는데, 이는 "얼굴 바꾸기"로 번역된다. 중국어 용어에는 영어 딥페이크의 "가짜"가 포함되어 있지 않으며, 드 세타는 이러한 문화적 맥락이 중국의 반응이 "사기 위험, 이미지 권리, 경제적 이익 및 윤리적 불균형"에 대한 실용적인 규제적 대응에 더 초점을 맞춘 이유를 설명할 수 있다고 주장한다.[29]

초기 주요 연구로는 1997년 발표된 비디오 재작성(Video Rewrite) 프로그램이 있다.[30] 이 프로그램은 다른 오디오 트랙에 담긴 말을 사람이 입 모양으로 말하는 것처럼 영상을 수정했다.[30] 이는 얼굴 재현을 완전히 자동화한 최초의 시스템이었으며, 머신 러닝 기술을 사용했다.[30]

현대 학술 프로젝트는 보다 사실적인 비디오를 만들고 기술을 개선하는 데 중점을 둔다.[31][32] 2017년 발표된 "오바마 합성(Synthesizing Obama)" 프로그램은 버락 오바마(Barack Obama)의 영상을 수정하여 별도의 오디오 트랙에 담긴 말을 입 모양으로 말하는 것처럼 묘사한다.[31] 이 프로젝트는 오디오에서 입 모양을 합성하기 위한 포토리얼리스틱(photorealistic) 기술을 주요 연구 성과로 제시한다.[31] 2016년 발표된 Face2Face 프로그램은 사람의 얼굴 영상을 수정하여 다른 사람의 얼굴 표정을 실시간으로 따라 하는 것처럼 묘사한다.[32] 이 프로젝트는 깊이를 캡처하지 않는 카메라로 실시간 얼굴 표정 재현을 가능하게 한 최초의 방법이다.[32]

2018년 8월, 캘리포니아 대학교 버클리캠퍼스(University of California, Berkeley) 연구원들은 AI를 사용하여 뛰어난 춤 실력을 연출하는 가짜 댄스 앱을 소개하는 논문을 발표했다.[33] 이 프로젝트는 딥페이크의 적용 범위를 전신으로 확장했다.[34]

연구원들은 딥페이크가 의료 이미지 조작과 같은 다른 영역으로 확장되고 있음을 보여주었다.[35] 이 연구에서는 공격자가 환자의 3D CT 스캔에 폐암을 자동으로 주입하거나 제거하는 방법을 보여주었다. 그 결과는 세 명의 방사선 전문의와 폐암 감지 AI를 속일 만큼 설득력이 있었다. 위협을 보여주기 위해 저자들은 화이트햇 침투 테스트에서 병원에 대한 공격을 성공적으로 수행했다.[36]

2020년 5월 발표된 딥페이크 관련 조사에서는 딥페이크 생성 및 탐지 기술 발전 타임라인을 제시한다.[37] 이 조사는 딥페이크 생성의 다음과 같은 과제 해결에 연구가 집중되고 있음을 밝혔다.

과제설명해결책
일반화 (Generalization)고품질 딥페이크는 대상의 수 시간 분량 영상으로 학습해야 한다. 고품질 이미지 생성에 필요한 학습 데이터와 시간을 최소화하고, 학습 중 보지 못한 새로운 신원에 대해 훈련된 모델을 실행하는 것이 과제이다.해당 사항 없음
쌍 학습 (Paired Training)감독 학습 모델은 고품질 결과를 생성하지만 데이터 쌍(입력과 원하는 출력 예시)이 필요하다. 여러 신원과 얼굴 행동에 대해 학습 시 데이터 쌍 생성은 많은 노력과 시간이 소요된다.자기 지도 학습(동일 비디오 프레임 사용), Cycle-GAN과 같은 쌍 없는 네트워크 사용, 네트워크 임베딩 조작
신원 누출 (Identity leakage)운전자(재현에서 얼굴을 제어하는 배우)의 신원이 생성된 얼굴에 부분적으로 전달되는 현상.어텐션 메커니즘, 몇 번의 학습, 분리, 경계 변환, 건너뛰기 연결
폐색 (Occlusions)손, 머리카락, 안경 등으로 얼굴 일부가 가려지면 인공물이 발생한다. 닫힌 입은 입 안과 치아를 가리는 일반적인 폐색이다.학습 중 이미지 분할 및 인페인팅
시간적 일관성 (Temporal coherence)딥페이크 비디오에서 네트워크가 이전 프레임의 맥락을 가지지 못해 깜박임, 떨림 등 인공물이 발생한다.맥락 제공, 새로운 시간적 일관성 손실을 사용한 현실감 향상. 기술 발전에 따라 간섭은 감소 추세.



전반적으로 딥페이크는 미디어, 사회, 미디어 제작, 표현, 청중, 성별, 법률, 규제, 정치에 다양한 영향을 미칠 것으로 예상된다.[38]

2. 2. 아마추어 개발

"딥페이크"라는 용어는 2017년 말 "deepfakes"라는 레딧 사용자가 만들었다.[39] 그와 r/deepfakes 레딧 커뮤니티의 다른 사용자들은 자신들이 만든 딥페이크를 공유했는데, 많은 영상들은 유명인의 얼굴을 포르노 영상 속 배우의 몸에 합성한 것이었다.[39] 포르노가 아닌 콘텐츠로는 배우 니콜라스 케이지의 얼굴을 여러 영화에 합성한 영상이 많았다.[40]

r/SFWdeepfakes("업무에 적합한 딥페이크"의 약자)처럼 포르노를 공유하지 않는 다른 온라인 커뮤니티도 있었다. 이곳에서는 커뮤니티 회원들이 유명인, 정치인 등을 포르노가 아닌 상황에 합성한 딥페이크를 공유했다.[41] 다른 온라인 커뮤니티에서는 딥페이크 포르노를 금지하지 않은 플랫폼에서 계속해서 포르노를 공유하고 있다.[42]

2. 3. 상업적 개발

2018년 1월, 사용자가 쉽게 얼굴을 바꿀 수 있는 사유 데스크톱 애플리케이션인 FakeApp이 출시되었다.[392] 이후 Faceswap, DeepFaceLab 등 오픈 소스 소프트웨어와 DeepfakesWeb.com와 같은 웹 기반 앱들이 등장했다.[393][394][395]

대기업들도 딥페이크 기술을 활용하기 시작했다.[386] Synthesia는 아바타와 그들의 목소리를 사용한 딥페이크 기술로 맞춤형 기업 교육 영상을 제작한다.[396] 모바일 앱 Momo는 Zao라는 애플리케이션을 만들어 사용자가 한 장의 사진만으로 TV와 영화 클립에 자신의 얼굴을 합성할 수 있게 했다.[386] 2019년 일본의 AI 기업 DataGrid는 처음부터 사람 전신을 만들어낼 수 있는 딥페이크를 제작했다.[397]

2. 4. 부활

딥페이크 기술은 고인을 영상으로 다시 불러오는 데 사용되기도 한다. 2020년 10월 29일, 킴 카다시안은 Kaleida라는 회사가 움직임, 모션 트래킹, SFX, VFX, 그리고 딥페이크 기술을 조합하여 제작한 로버트 카다시안의 홀로그램 영상을 게시했다.[400][401][58][59]

2020년에는 파크랜드 총격 사건 희생자인 호아킨 올리버의 딥페이크 영상이 총기 안전 캠페인의 일환으로 제작되었다. 올리버의 부모는 비영리 단체 Change the Ref 및 McCann Health와 협력하여 올리버가 총기 안전 법안과 이를 지지하는 정치인들을 지지하도록 장려하는 영상을 제작했다.[60]

2022년에는 엘비스 프레슬리의 딥페이크 영상이 《아메리카 갓 탤런트 17》에서 사용되었다.[402][61]

한 TV 광고는 1980년에 살해당한 비틀즈 멤버 존 레논의 딥페이크 영상을 사용했다.[62]

3. 기술

딥페이크는 오토인코더라는 유형의 신경망에 의존한다.[63] 오토인코더는 이미지를 저차원 잠재 공간으로 축소하는 인코더와 잠재 표현으로부터 이미지를 재구성하는 디코더로 구성된다.[64] 딥페이크는 보편적인 인코더를 사용하여 사람을 잠재 공간으로 인코딩함으로써 이 아키텍처를 활용한다. 잠재 표현에는 얼굴 특징과 자세에 대한 주요 특징이 포함된다. 이것은 그런 다음 특정 대상을 위해 훈련된 모델로 디코딩될 수 있다. 즉, 대상의 세부 정보가 잠재 공간에 표현된 원본 비디오의 기본적인 얼굴 및 신체 특징에 겹쳐진다.

이 아키텍처에 대한 인기 있는 업그레이드는 디코더에 생성적 적대 신경망(GAN)을 추가하는 것이다. GAN은 생성기(이 경우 디코더)와 판별기를 적대적 관계로 훈련시킨다. 생성기는 원본 자료의 잠재 표현으로부터 새로운 이미지를 생성하는 반면, 판별기는 이미지가 생성된 것인지 아닌지 판별하려고 시도한다. 이는 판별기가 결함을 감지할 수 있기 때문에 생성기가 현실을 매우 잘 모방하는 이미지를 생성하게 한다.[65] 두 알고리즘 모두 제로섬 게임에서 지속적으로 개선된다. 이로 인해 딥페이크는 끊임없이 진화하기 때문에 대응하기 어렵다. 결함이 발견될 때마다 수정할 수 있기 때문이다.[65]

2018년 8월, 캘리포니아 대학교 버클리캠퍼스(University of California, Berkeley)의 연구원들은 AI를 사용하여 뛰어난 춤 실력을 연출할 수 있는 가짜 댄스 앱을 소개하는 논문을 발표했다.[33] 이 프로젝트는 딥페이크의 적용 범위를 전신으로 확장했으며, 이전 연구는 머리 또는 얼굴 일부에 초점을 맞췄다.[34]

연구원들은 또한 딥페이크가 의료 이미지 조작과 같은 다른 영역으로 확장되고 있음을 보여주었다.[35] 이 연구에서는 공격자가 환자의 3D CT 스캔에 폐암을 자동으로 주입하거나 제거하는 방법을 보여주었다. 그 결과는 매우 설득력이 있어 세 명의 방사선 전문의와 최첨단 폐암 감지 AI를 속였다. 위협을 보여주기 위해 저자들은 화이트햇 침투 테스트에서 병원에 대한 공격을 성공적으로 수행했다.[36]

2020년 5월에 발표된 딥페이크에 대한 조사는 지난 몇 년 동안 딥페이크 생성 및 탐지가 어떻게 발전했는지에 대한 타임라인을 제공한다.[37] 이 조사는 연구원들이 딥페이크 생성의 다음과 같은 과제 해결에 집중하고 있음을 밝혔다.


  • 일반화(Generalization): 고품질 딥페이크는 종종 대상의 수 시간 분량의 영상으로 학습하여 달성된다. 이 과제는 고품질 이미지를 생성하는 데 필요한 학습 데이터의 양과 모델을 학습하는 시간을 최소화하고 학습 중에 보지 못한 새로운 신원(미지의 대상)에 대해 훈련된 모델을 실행할 수 있도록 하는 것이다.
  • 쌍 학습(Paired Training): 감독 학습 모델은 고품질 결과를 생성할 수 있지만 데이터 쌍을 필요로 한다. 이것은 모델이 학습할 수 있도록 입력과 원하는 출력의 예를 찾는 과정이다. 여러 신원과 얼굴 행동에 대해 학습할 때 데이터 쌍을 만드는 것은 많은 노력이 필요하고 비실용적이다. 몇 가지 해결책으로는 자기 지도 학습(동일 비디오의 프레임 사용), Cycle-GAN과 같은 쌍 없는 네트워크 사용 또는 네트워크 임베딩 조작이 있다.
  • 신원 누출(Identity leakage): 이는 운전자(즉, 재현에서 얼굴을 제어하는 배우)의 신원이 생성된 얼굴에 부분적으로 전달되는 경우이다. 제안된 몇 가지 해결책으로는 어텐션 메커니즘, 몇 번의 학습, 분리, 경계 변환 및 건너뛰기 연결이 있다.
  • 폐색(Occlusions): 손, 머리카락, 안경 또는 기타 물체로 얼굴의 일부가 가려지면 인공물이 발생할 수 있다. 일반적인 폐색은 입 안과 치아를 가리는 닫힌 입이다. 몇 가지 해결책으로는 학습 중 이미지 분할 및 인페인팅이 있다.
  • 시간적 일관성(Temporal coherence): 딥페이크가 포함된 비디오에서 네트워크가 이전 프레임의 컨텍스트를 가지고 있지 않기 때문에 깜박임과 떨림과 같은 인공물이 발생할 수 있다. 일부 연구원들은 이러한 컨텍스트를 제공하거나 새로운 시간적 일관성 손실을 사용하여 현실감을 향상시킨다. 기술이 향상됨에 따라 간섭은 감소하고 있다.

4. 활용 분야

딥페이크는 다음과 같은 다양한 분야에서 활용되고 있다.


  • 연기: 영화 제작에 사용되어 배우의 모습을 젊게 만들거나, 이미 사망한 배우를 다시 등장시키는 데 활용된다.
  • 예술: 비디오 아트 작품을 만들거나, 유명인을 풍자 또는 패러디하는 데 사용된다.
  • 협박: 협박 자료를 조작하여 특정인을 협박하는 데 악용될 수 있다.
  • 엔터테인먼트: TV 프로그램에서 초현실적인 영상을 만들어 내거나, 가상 콘서트 등에 활용된다.
  • 사기: 유명인이나 정치인을 사칭하여 금융 사기를 저지르거나, 가짜 보증을 통해 사람들을 속이는 데 사용된다.
  • 신원 위장: 온라인 게임 등에서 자신의 실제 신분을 숨기고 다른 목소리를 사용하는 데 활용될 수 있다.
  • 밈: 인터넷 밈을 만드는 데 사용되어 재미를 유발한다.
  • 정치: 정치인의 모습을 조작하여 허위 정보를 퍼뜨리거나, 선거 운동에 영향을 미치는 데 사용될 수 있다.
  • 포르노: 딥페이크 포르노 제작에 사용되어 사회적 문제를 야기한다.
  • 소셜 미디어: 소셜 미디어 플랫폼에서 사용자의 얼굴을 영화나 드라마 등장인물과 합성하는 등의 방식으로 활용된다.


사진 조작 기술은 19세기에 개발되어 영화에 적용되었으며, 20세기 동안 꾸준히 발전했고, 디지털 비디오의 등장과 함께 더욱 빠르게 발전했다. 1990년대부터 학계 연구자들에 의해 개발되었고, 나중에는 온라인 커뮤니티의 아마추어들에 의해서도 개발되었다.[14][15] 최근에는 이러한 방법들이 업계에서 채택되고 있다.[16]

철학자와 미디어 학자들은 특히 포르노와 관련하여 딥페이크의 윤리에 대해 논의해 왔으며,[21] 미디어 학자 에밀리 반 데어 나겔은 조작된 이미지에 대한 사진 연구를 바탕으로 여성이 자신의 이미지 사용에 동의할 수 있도록 하는 검증 시스템에 대해 논의한다.[22]

포르노 외에도 딥페이크는 철학자들에 의해 지식과 사회에 대한 "인식론적 위협"으로 규정되었다.[23] 기업, 정치인 등에게 "착취, 협박 및 개인적 파괴 행위"[24]를 야기하는 딥페이크의 위험을 해결하기 위한 제안이 있고, 법학 및 미디어 연구에서 잠재적인 법적, 규제적 대응에 대한 여러 학술적 논의가 있다.[25] 심리학 및 미디어 연구에서 학자들은 딥페이크를 사용하는 가짜 정보의 영향[26][27]과 딥페이크의 사회적 영향에 대해 논의한다.[28]

대부분의 영어권 학술 연구가 가짜 정보와 포르노에 대한 서구의 불안감에 초점을 맞추는 반면, 디지털 인류학자 가브리엘레 드 세타는 "환련(huanlian)"으로 알려진 딥페이크에 대한 중국의 반응을 분석했는데, 이는 "얼굴 바꾸기"로 번역된다. "딥페이크"라는 용어는 2017년 말 "deepfakes"라는 레딧 사용자에 의해 생겨났다.[39] 그와 레딧 커뮤니티 r/deepfakes의 다른 사용자들은 자신들이 만든 딥페이크를 공유했는데, 많은 영상들은 유명인의 얼굴을 포르노 영상 속 배우의 몸에 합성한 것이었다.[39] 포르노가 아닌 콘텐츠로는 배우 니콜라스 케이지의 얼굴을 여러 영화에 합성한 영상이 많았다.[40]

2018년 1월, FakeApp이라는 독점적인 데스크톱 애플리케이션이 출시되었다.[43] 이 앱을 사용하면 사용자는 서로의 얼굴을 바꾼 비디오를 쉽게 만들고 공유할 수 있었다.[44] 2019년 현재 FakeApp은 Faceswap, 명령줄 기반 DeepFaceLab, DeepfakesWeb.com과 같은 웹 기반 앱 등 오픈소스 대안으로 대체되었다.[45][46][47]

대기업들이 딥페이크를 사용하기 시작했다.[16] 예를 들어, 신세시아는 딥페이크 기술과 아바타를 사용하여 개인화된 비디오를 만드는 기업 교육 비디오를 만들 수 있다.[48] 모바일 앱 모모는 사용자가 단 한 장의 사진으로 TV 및 영화 클립에 자신의 얼굴을 합성할 수 있는 Zao 애플리케이션을 만들었다.[16]

2020년 기준으로 오디오 딥페이크와 5초의 음성 청취 후 딥페이크를 감지하고 인간의 목소리를 복제할 수 있는 AI 소프트웨어도 존재한다.[50][51][52][53][54][55] 2020년 3월에는 Impressions라는 모바일 딥페이크 앱이 출시되었는데, 이는 휴대전화로 유명인의 딥페이크 비디오를 만드는 최초의 앱이었다.[56][57]

4. 1. 연기

딥페이크 기술은 전문 배우의 디지털 분신을 영화에 등장시키는 데 사용되었으며, 이 기술의 발전으로 이러한 분신의 접근성과 효과가 더욱 높아질 것으로 예상된다.[66] 월트 디즈니 컴퍼니는 고해상도 딥페이크 얼굴 바꾸기 기술을 사용하여 시각 효과를 향상시켰다.[68] 디즈니는 얼굴 표정을 식별하도록 프로그래밍된 점진적 훈련을 통해 기술을 개선하고, 얼굴 바꾸기 기능을 구현하고, 반복하여 출력물을 안정화하고 세련되게 만들었다.[68] 이 고해상도 딥페이크 기술은 상당한 운영 및 제작 비용을 절감한다.[69] 디즈니의 딥페이크 생성 모델은 일반적인 모델이 256 x 256 해상도의 미디어를 생성하는 것과 달리 1024 x 1024 해상도의 AI 생성 미디어를 생성할 수 있다.[69] 이 기술을 통해 디즈니는 사망한 배우를 부활시킬 수 있다.[70]

이와 유사한 기술은 처음에는 팬들이 비공식적으로 기존 미디어에 얼굴을 삽입하는 데 사용되었는데, 예를 들어 ''스타워즈: 한 솔로''에서 해리슨 포드의 젊은 시절 얼굴을 한 솔로의 얼굴에 겹쳐 놓은 경우가 있다.[71] 디즈니는 ''로그 원: 스타워즈 스토리''에서 레이아 공주와 그랜드 모프 타킨 캐릭터에 딥페이크를 사용했다.[72][73]

AI 기술의 사용은 2023년 미국 배우조합 쟁의행위의 주요 쟁점이었는데, 새로운 기술을 통해 배우 대신 사용할 디지털 초상을 생성하고 저장하는 기능이 가능해졌기 때문이다.[67] 크리에이티브 아티스트 에이전시는 배우의 초상을 "하루 만에" 캡처하여 배우의 디지털 분신을 개발하는 시설을 개발했는데, 이는 배우 또는 배우의 상속인이 다른 인격권과 함께 관리한다.[75]

4. 2. 예술

딥페이크는 비디오 아트 작품 제작에 사용된다. 예를 들어, 조셉 에얼레(Joseph Ayerle)는 2018년 3월 ''Un'emozione per sempre 2.0''(영어 제목: ''The Italian Game'')이라는 비디오 아트 작품을 발표했다. 이 작품에서 작가는 딥페이크 기술을 사용하여 1980년대 영화 배우 오르넬라 무티(Ornella Muti)의 합성 버전인 "AI 배우"를 만들었다.[79] 이 작품은 1978년부터 2018년까지 시간 여행을 하는 내용을 담고 있으며, 매사추세츠 공과대학교(MIT)는 "집단 지혜" 연구에서 언급했다.[79] 작가는 오르넬라 무티의 시간 여행을 통해 세대 간의 반성을 탐구하고 예술 세계에서 도발의 역할에 대한 질문을 제기했다.[80]

또한, 딥페이크는 풍자나 유명인과 정치인을 패러디하는 데 널리 사용된다. 트레이 파커(Trey Parker)와 맷 스톤(Matt Stone)이 제작한 2020년 웹 시리즈 ''Sassy Justice''는 딥페이크된 공인들을 대거 등장시켜 시사 문제를 풍자하고 딥페이크 기술에 대한 인식을 높였다.[81]

일본의 한 유튜버는 딥페이크를 사용하여 할리우드 명작 영화의 배우를 바꾸는 방식으로 활용하여 웃음을 주기도 하였다. 예를 들어, '컨트롤러 쉬프트 페이스'라는 유튜버는 영화 ‘나 홀로 집에’의 주연 배우인 매컬리 컬킨을 실베스터 스탤론으로 바꾼 영상을 제작하였고, '딥페이크스'라는 유튜버는 영화 ‘사운드 오브 뮤직’부터 ‘파이트 클럽’까지 출연자의 얼굴을 니콜라스 케이지의 얼굴로 바꾼 영화들을 모은 “니콜라스 케이지 메가 믹스”를 제작했다.

4. 3. 협박

딥페이크는 피해자를 허위로 고발하는 협박 자료를 생성하는 데 사용될 수 있다. 미국 의회조사처(Congressional Research Service)의 보고서는 딥페이크가 선출직 공무원이나 기밀 정보(classified information)에 접근할 수 있는 사람들을 간첩(espionage)이나 외세 개입 목적으로 협박하는 데 사용될 수 있다고 경고했다.[82]

위조물을 진짜 자료와 확실하게 구분할 수 없기 때문에, 실제 협박의 피해자는 진짜 자료가 위조물이라고 주장하여 자신을 부인할 수 있는 그럴듯한 명분을 얻을 수 있다. 그 결과 기존 협박 자료의 신뢰성이 무효화되어 협박범에 대한 충성심이 사라지고 협박범의 통제력이 파괴된다. 이 현상은 진짜 협박의 "가치"를 떨어뜨려 무가치하게 만들기 때문에 "협박 인플레이션"이라고 부를 수 있다.[83] 소규모 소프트웨어 프로그램과 일반적인 GPU 하드웨어를 사용하여 수많은 대상에 대해 이러한 협박 콘텐츠를 대량으로 생성하여 가짜 협박 콘텐츠의 공급을 무한정으로, 그리고 매우 확장 가능한 방식으로 증가시킬 수 있다.[84]

4. 4. 엔터테인먼트

딥페이크 기술은 초현실적인 영상을 제작하는 데 사용된다. 2022년 《아메리카 갓 탤런트 시즌 17》에서 엘비스 프레슬리의 딥페이크 영상이 사용되었다.[402] 2022년 6월 8일, 전 아메리카 갓 탤런트(AGT) 참가자였던 다니엘 에멧은 인공지능(AI) 스타트업 기업[86][87] 메타피직 AI와 협력하여 사이먼 코웰처럼 보이는 초현실적인 딥페이크를 만들었다. 에멧은 무대에서 노래를 불렀고, 그의 뒤편 화면에는 사이먼 코웰의 이미지가 완벽한 동기화로 나타났다.[89] 2022년 8월 30일, 메타피직 AI는 사이먼 코웰, 하위 맨델, 테리 크루즈의 '딥페이크'를 만들어 무대에서 오페라를 부르게 했다.[90] 2022년 9월 13일, 메타피직 AI는 아메리카 갓 탤런트 결승전에서 엘비스 프레슬리의 합성 버전과 함께 공연했다.[91]

2023년에는 ABBA(ABBA Voyage)와 KISS 밴드가 ILM(Industrial Light & Magic)과 팝하우스 엔터테인먼트(Pophouse Entertainment)와 파트너십을 맺고 가상 콘서트를 공연할 수 있는 딥페이크 아바타를 개발했다.[95]

4. 5. 사기

사기꾼들은 딥페이크를 이용하여 사람들을 속여 가짜 투자 사기, 금융 사기, 암호화폐, 송금 및 보증을 따르게 한다. 유명인과 정치인의 초상이 대규모 사기에 사용되었을 뿐만 아니라, 개인의 초상도 스피어 피싱 공격에 사용된다. 미국 소비자보호단체(Better Business Bureau)에 따르면, 딥페이크 사기가 점점 더 만연해지고 있다.[96] 이러한 사기는 전 세계적으로 약 120억 달러의 사기 손실을 초래한 것으로 추산된다.[97] 최근 보고서에 따르면 이러한 수치는 향후 3년 동안 400억 달러에 이를 것으로 예상된다.[98]

가짜 보증은 테일러 스위프트[99][96], 톰 행크스[279], 오프라 윈프리[100], 일론 머스크[101]와 같은 유명인의 신원을 악용했다. 뉴스 앵커[102]인 게일 킹[279]과 샐리 번독[103], 그리고 이헌룡[104]과 짐 챌머스[105][106]와 같은 정치인들의 영상이 온라인 광고에 등장했다. 유튜브, 페이스북, 틱톡은 합성 및 조작된 미디어에 대한 정책을 가지고 있다.[107][99] 이러한 동영상을 사용하는 광고는 수백만 명의 사람들에게 노출된다. 단일 메디케어 사기 캠페인은 수천 개의 동영상에서 1억 9,500만 회 이상 조회되었다.[107][109] 딥페이크는 제품을 받지 않고 "배송비"를 지불하는 르 크루제 조리기구의 가짜 증정 행사, 말했던 것보다 훨씬 더 많은 비용이 청구되는 체중 감량 젤리, 가짜 아이폰 증정 행사, 그리고 사기성 돈 빨리 벌기, 투자 및 암호화폐 계획에 사용되었다.[104][112]

많은 광고는 AI 음성 복제를 "유명인의 맥락에서 벗어난 비디오"와 결합하여 진정성을 모방한다. 다른 광고는 다른 배우나 목소리로 넘어가기 전에 유명인의 전체 클립을 사용한다.[107] 일부 사기에는 실시간 딥페이크가 포함될 수 있다.[108]

유명인들은 이러한 가짜 보증에 대해 사람들에게 경고하고, 이에 대해 더욱 경계할 것을 당부해 왔다.[96][99][100] 유명인들은 "익명의 소셜 미디어 사용자를 찾아 고소하는 것은 자원 낭비"이기 때문에 모든 딥페이크 사기 운영자를 고소할 가능성이 적지만, 소셜 미디어 회사에 중지 및 포기 서한을 보내면 동영상과 광고를 삭제하는 데 효과적이다.[113]

오디오 딥페이크는 사회 공학 사기의 일환으로 사용되어 사람들이 신뢰할 수 있는 사람으로부터 지시를 받고 있다고 생각하게 만들었다.[114] 2019년 영국에 본사를 둔 에너지 회사의 CEO는 오디오 딥페이크 기술을 사용하여 모회사 CEO의 목소리를 사칭한 사람으로부터 헝가리 은행 계좌로 220000EUR를 송금하라는 지시를 받고 사기를 당했다.[115][116]

2023년 현재, 몇 초에서 1분 분량의 녹음으로 개인의 목소리를 복제할 수 있는 딥페이크 기술의 발전과 새로운 텍스트 생성 도구의 결합으로 자동화된 사칭 사기가 가능해져 친구나 친척의 설득력 있는 디지털 복제본을 사용하여 피해자를 노리고 있다.[117]

4. 6. 신원 위장

Audio deepfake영어는 사용자의 실제 신원을 가리는 데 사용될 수 있다. 예를 들어, 온라인 게임에서 게임 이용자는 다른 이용자와 대화할 때 자신의 게임 내 캐릭터와 같은 목소리를 선택하고 싶어할 수 있다. 여성, 아동, 트랜스젠더와 같이 괴롭힘을 당하는 사람들은 이러한 "목소리 스킨"을 사용하여 자신의 성별이나 나이를 숨길 수 있다.[118]

4. 7. 밈

2020년, 딥페이크를 이용하여 비디오 게임 시리즈 ''라이크 어 드래곤''의 ''용과 같이 제로''에 나오는 노래 ばかみたい|바카미타이일본어 후렴구를 부르는 사람들의 영상을 생성하는 인터넷 밈이 등장했다. 이 시리즈에서 이 서글픈 노래는 플레이어가 가라오케 미니게임에서 부른다. 이 밈의 대부분은 Dobbsyrules라는 사용자가 2017년에 올린 영상(해당 사용자가 노래에 맞춰 입 모양을 따라하는 영상)을 템플릿으로 사용한다.[119][120]

4. 8. 정치

딥페이크는 유명 정치인들을 영상에서 잘못 묘사하는 데 사용되어 왔다.

  • 2018년 2월, 아르헨티나 대통령 마우리시오 마크리의 얼굴이 아돌프 히틀러의 얼굴로, 앙겔라 메르켈의 얼굴이 도널드 트럼프의 얼굴로 바뀌는 영상이 제작되었다.[121][122]
  • 2018년 4월, 조던 필은 버즈피드와 협력하여 버락 오바마의 딥페이크 영상을 제작, 딥페이크에 대한 인식을 높이는 공익 광고로 활용했다.[123]
  • 2019년 1월, 폭스 방송 계열사 KCPQ는 오벌 오피스 연설 중 트럼프의 외모와 피부색을 조롱하는 딥페이크를 방영했다. 해당 비디오 제작에 책임이 있는 직원은 해고되었다.[124]
  • 2019년 6월, 미국 하원 정보위원회는 선거에 영향을 미칠 수 있는 딥페이크의 악의적 사용 가능성에 대한 청문회를 개최했다.[125]
  • 2020년 4월, 벨기에 멸종 저항 지부는 벨기에 총리 소피 윌름의 딥페이크 비디오를 페이스북에 게시했다.[126] 이 비디오는 산림 벌채와 COVID-19 간의 연관성을 홍보했으며, 많은 사용자들이 딥페이크 비디오를 실제 영상으로 오인했다.[127]
  • 2020년 미국 대통령 선거 기간 동안, 조 바이든이 인지 기능 저하를 겪는 것처럼 묘사하는 딥페이크 영상들이 등장하여 그의 쇠퇴에 대한 소문을 부추겼다.[128][129]
  • 2020년 델리 주의회 선거 기간 동안, 델리 인도국민당은 딥페이크 기술을 사용하여 당 지도자 마노즈 티와리의 영어 선거 광고를 하리아나어로 번역, 하리아나 유권자를 공략했다.[130]
  • 2020년, 브루노 사르토리는 자이르 보우소나루와 도널드 트럼프와 같은 정치인들을 패러디한 딥페이크를 제작했다.[131]
  • 2021년 4월, 여러 유럽 국가 정치인들이 러시아 야당 지도자 알렉세이 나발니 선거 운동 비서실장 레오니드 볼코프를 사칭한 장난꾼들에게 속았다. 이들은 딥페이크 기술을 사용한 것으로 알려졌으나, ''더 버지''에 딥페이크를 사용하지 않고 닮은 사람을 사용했다고 밝혔다.[132][133][134][135][136]
  • 2023년 5월, 카멀라 해리스 부통령이 횡설수설하는 것처럼 보이는 딥페이크 비디오가 소셜 미디어에서 확산되었다.[137][138]
  • 2023년 6월, 론 디샌티스의 대통령 선거 운동은 딥페이크를 사용하여 도널드 트럼프를 부정적으로 묘사했다.[139]
  • 2024년 3월, 인도 주 의회 선거 기간 동안, 정치 후보들은 유권자들에게 다가가기 위해 딥페이크 기술을 널리 사용했다. 많은 정치인들이 The Indian Deepfaker가 만든 AI 생성 딥페이크[140]를 사용하여 연설을 여러 지역 언어로 번역했다.[141][142]


4. 9. 포르노

2017년, 딥페이크 포르노가 인터넷, 특히 레딧에 두드러지게 등장했다.[143] 2019년 기준으로 인터넷에 있는 많은 딥페이크는 여성 유명인의 포르노였으며, 대개는 그들의 동의 없이 얼굴을 사용했다.[144] 네덜란드 사이버 보안 스타트업 딥트레이스(Deeptrace)가 2019년 10월에 발표한 보고서에 따르면 온라인에 있는 딥페이크의 96%가 포르노그래피였다.[145]

2018년 기준으로 데이지 리들리 딥페이크가 처음으로 주목을 받았다.[143] 다른 유명인들도 마찬가지였다.[146][147][148] 2019년 10월 기준으로 인터넷에 있는 딥페이크 피해자 대부분은 영국과 미국 배우였다.[144] 그러나 피해자의 약 4분의 1은 한국인이며, 그 대부분은 K팝 스타였다.[144][149]

2019년 6월, 신경망, 특히 생성적 적대 신경망을 사용하여 여성의 이미지에서 옷을 제거하는 DeepNude라는 윈도우 및 리눅스용 애플리케이션이 출시되었다. 이 앱은 유료와 무료 버전이 있었으며, 유료 버전은 50USD였다.[150][151] 6월 27일, 제작자는 해당 애플리케이션을 삭제하고 소비자에게 환불했다.[152]

딥페이크 포르노의 주요 표적은 종종 여성 유명인이다. 2023년에는 얼굴 바꾸기 앱을 이용한 엠마 왓슨과 스칼렛 요한슨의 딥페이크 포르노 영상이 온라인에 등장했다.[153] 2024년에는 테일러 스위프트의 딥페이크 포르노 이미지가 온라인에서 유포되었다.[154]

학술 연구에 따르면 여성, LGBT, 유색인종(특히 활동가, 정치인, 권력에 의문을 제기하는 사람들)이 딥페이크 포르노 유포의 표적이 될 위험이 더 높다고 보고되었다.[155]

4. 10. 소셜 미디어

딥페이크는 중국의 딥페이크 앱인 자오(Zao)를 통해 인기를 얻은 소셜 미디어 플랫폼에서 사용되기 시작했다. 자오는 사용자가 영화 및 텔레비전 프로그램 장면(예: ''로미오와 줄리엣'' 및 ''왕좌의 게임'')의 등장인물 얼굴을 자신의 얼굴로 바꿀 수 있게 해준다.[156] 이 앱은 초기에는 과도한 사용자 데이터 수집 및 개인정보 보호 정책으로 비판을 받았으며, 이후 회사는 정책을 개정하겠다는 성명을 발표했다.[16] 2020년 1월 페이스북은 자사 플랫폼에서 이러한 문제에 대응하기 위한 새로운 조치를 발표했다.[157]

2021년에는 배우 톰 크루즈의 사실적인 딥페이크 영상이 틱톡에 공개되어 수천만 회 이상의 조회수를 기록하며 화제가 되었다. 이 딥페이크 영상에는 인공지능으로 생성된 크루즈의 "분신"이 골프장에서 티샷을 하는 모습, 동전 마술을 선보이는 모습, 막대 사탕을 베어 무는 모습 등이 담겨 있었다. 해당 영상 제작자인 벨기에의 시각 효과 아티스트 크리스 우메(Chris Umé)[158]는 2018년 처음 딥페이크에 관심을 갖게 되었고, 딥페이크의 "창의적인 잠재력"을 발견했다고 말했다.[159][160]

5. 문제점 및 대응

딥페이크는 정보의 신뢰성을 떨어뜨리고 가짜뉴스를 퍼뜨리며, 명예훼손, 사기, 협박 등 범죄에 악용될 수 있다.[292] 또한 정치 선전이나 가짜 인물 생성에도 사용된다.[303][304] 딥페이크는 사회의 민주적 기능을 방해할 가능성이 있으며, 진위 판단이 어려운 미디어를 만들어내 여론에 악영향을 줄 수 있다.[283][293][294]

유명인이나 정치인의 초상을 이용한 딥페이크는 투자 사기, 금융 사기의 신뢰성을 높이는 데 악용될 수 있으며,[295] 음성을 포함한 개인 정보는 피싱과 보이스피싱 등에 악용될 수 있다.[296] Audio deepfake|오디오 딥페이크영어는 사기 등에 악용되고 있다.[297] 2023년 현재, 짧은 시간의 음성 데이터로 개인의 목소리를 복제할 수 있는 딥페이크 기술과 텍스트 생성 도구의 조합을 통해 친구나 가족의 디지털 클론을 만들어 피해자를 노리는 가장 사기를 자동화할 수 있게 되었다.[298]

딥페이크는 명예훼손을 유발하거나, 간첩 행위 등을 목적으로 정치인이나 기밀 정보에 접근할 수 있는 사람을 협박하기 위해 사용될 가능성이 있다.[302] 또한 온라인을 포함한 미디어에서 허구의 데이터나 미디어를 사용하여 가짜뉴스나 허구의 인물(소셜봇)을 만들어내는 데 사용되며, 정치적 허위보도나 악의적인 날조를 만들어내는 데에도 사용된다.[303] [304] 선거운동에서 경쟁 후보를 함정에 빠뜨리는 흑색선전, 여당에 대한 비판, 전시 중의 선동 등의 공작에도 사용되고 있다.

알렉스 샴페인달, 남캘리포니아 대학교의 컴퓨터 과학자 하오 리, 구글에서 사기 방지 업무에 종사했던 슈만 고세마줌더 등은 딥페이크 기술의 위험성과 사회적 문제점에 대해 경고했다.[291][363][364] 스위스 신문사 아르가우어 차이퉁은 인공지능을 이용한 이미지 및 비디오 조작의 위험성을 지적하며, 딥페이크의 새로운 측면은 바로 그 사실성에 있다고 주장했다.[328]

딥페이크 탐지 기술은 빠르게 발전하고 있다. 마이크로소프트는 2020년 9월에 딥페이크 탐지 소프트웨어 개발을 발표했고,[169] 학계에서는 딥페이크 영상 탐지에 대한 연구가 활발하다.[171] 딥페이크 탐지 알고리즘은 영상 속 불규칙한 깜빡임 패턴이나 조명 오류 등을 찾아내지만,[172][14] 딥페이크 생성 기술 또한 계속 발전하기 때문에, 딥페이크 탐지는 "움직이는 골대"와 같다는 비판도 있다.[171]

주요 기술 기업들은 딥페이크 탐지 챌린지를 개최하여, 조작된 콘텐츠 식별 기술 개발을 가속화하고 있다.[173] 2020년 10월, 버펄로 대학교 연구팀은 AI 탐지 도구 없이도 사람 눈에 비치는 빛의 반사를 이용하여 딥페이크를 발견하는 기술을 발표했다.[176] 남캘리포니아 대학교 정보과학연구소의 시각 지능 및 멀티미디어 분석 연구소는 순환 신경망을 이용하여 딥페이크를 탐지하는 기술을 개발했다.[178][179]

블록체인을 이용하여 미디어 출처를 확인하거나,[180] 스마트폰 카메라 등 모든 비디오 및 이미지에 디지털 서명을 추가하여 딥페이크에 대응하자는 제안도 있다.[181] 딥페이크 화상 통화는 발신자에게 옆으로 돌아보라고 요청하면 쉽게 판별할 수 있다.[182]

트위터(이후 X)는 합성 및 조작된 미디어에 대한 정책을 마련하여, 딥페이크가 포함된 트윗에 경고를 표시하고 있다.[209] 페이스북은 딥페이크 탐지 챌린지(DFDC)를 개최하고, 인공 지능을 사용하여 개인의 발언을 변경하는 미디어를 삭제할 것이라고 밝혔다.[214][215] Gfycat, 레딧, Pornhub 등도 딥페이크를 금지하는 정책을 시행했다.[216][217][218][219][220][221][222][226]

미국, 중국, 영국, 유럽 등 각국 정부와 유럽 연합은 딥페이크 관련 법안 및 규제를 마련하고 있다.[232][233][235][241][245][246][247][254] 방위고등연구계획국(DARPA)은 이미지와 비디오의 디지털 조작을 자동으로 감지하는 것을 목표로 하는 프로그램을 운영하고 있다.[256][257][258][261]

5. 1. 문제점

딥페이크는 정보의 신뢰성을 떨어뜨리고, 가짜뉴스를 퍼뜨릴 수 있다.[292] 또한, 명예훼손, 사기, 협박 등 범죄에 악용될 수 있으며,[292] 정치 선전이나 가짜 인물 생성에도 사용될 수 있다.[303][304]

딥페이크는 사회의 민주적 기능을 방해할 가능성이 있다고 지적된다.[283] 이는 딥페이크가 진위 판단이 어려운 미디어를 만들어내 여론에 악영향을 줄 수 있기 때문이다.[293][294]

유명인이나 정치인의 초상을 이용한 딥페이크는 투자 사기, 금융 사기의 신뢰성을 높이는 데 악용될 수 있다.[295] 또한, 음성을 포함한 개인 정보는 피싱과 보이스피싱 등에 악용될 수 있다.[296]

Audio deepfake|오디오 딥페이크영어는 사기 등에 악용되고 있다.[297] 2023년 현재, 짧은 시간의 음성 데이터로 개인의 목소리를 복제할 수 있는 딥페이크 기술과 텍스트 생성 도구의 조합을 통해 친구나 가족의 디지털 클론을 만들어 피해자를 노리는 가장 사기를 자동화할 수 있게 되었다.[298]

유명인의 초상을 악용한 딥페이크 포르노 영상이 제작되는 경우가 있다. 엠마 왓슨, 스칼렛 요한슨, 테일러 스위프트 등 여성 유명인이 딥페이크 포르노 피해를 입고 있다.[299][300] 딥페이크 기술을 이용해 기존의 아동 포르노에서 새로운 아동 성적 학대 콘텐츠(CSAM)를 제작하거나, 존재하지 않는 CSAM을 만들 수도 있다. 딥페이크로 제작된 아동 포르노는 명예훼손, 그루밍, 협박, 괴롭힘에 악용되어 아이들에게 악영향을 미치고 있다.[301]

딥페이크는 명예훼손을 유발하는 데 사용될 가능성이 있다. 미국 의회 조사국 보고서는 간첩 행위 등을 목적으로 정치인이나 기밀 정보에 접근할 수 있는 사람을 협박하기 위해 딥페이크가 사용될 가능성이 있다고 경고했다.[302]

딥페이크는 온라인을 포함한 미디어에서 허구의 데이터나 미디어를 사용하여 가짜뉴스나 허구의 인물(소셜봇)을 만들어내는 데 사용되며, 정치적 허위보도나 악의적인 날조를 만들어내는 데에도 사용된다.[303] [304] 선거운동에서 경쟁 후보를 함정에 빠뜨리는 흑색선전, 여당에 대한 비판, 전시 중의 선동 등의 공작에도 사용되고 있다.

  • 2019년, 영국의 에너지 기업 CEO가 음성 딥페이크 기술을 이용해 모회사 최고경영자의 목소리를 가장한 사람으로부터 전화를 받고, 헝가리의 한 은행 계좌로 220000EUR를 송금했다.[305][306]
  • 2023년, 일본TV는 자사에서 제작·방송하는 뉴스 프로그램과 소속 아나운서를 생성형 AI로 가공하여 투자를 유도하는 가짜 영상(사칭 광고)이 확인되었다며, 자사는 해당 영상 제작에 관여하지 않았고 투자를 권유한 적도 없다고 발표했다.[307][308][309]
  • 2024년, 홍콩에서 딥페이크를 이용한 사기 사건이 발생했다. 딥페이크를 이용하여 상사 및 여러 회사원을 사칭하여 직원들에게 송금을 요구하는 데 성공했다.[310]
  • 2023년경부터 모리나가 타쿠로, 호리에 타카후미 등 유명인이 주최하는 것처럼 속여 허위의 인터넷투자 강좌 광고를 내보내고, 딥페이크로 만든 유명인의 가짜 음성으로 투자 앱으로 유도하여 입금된 금전을 횡령하는 사기가 증가했다. 이 투자 앱은 표면적으로는 이익을 내는 것처럼 보이지만 실제로는 투자가 이루어지지 않고 있다고 여겨진다.[311][312]
  • 테일러 스위프트[313][295], 톰 행크스[314], 오프라 윈프리[315], 일론 머스크[316] 등 유명인이 제시된 금액보다 훨씬 높은 가격의 다이어트 젤리[315], 가짜 아이폰 증정 행사[313][317], 사기적인 정보 상품[316][318], 투자 정보[319], 암호화폐 투자 이야기[320][321] 등을 추천하는 것처럼 보이는 가짜 영상이 사기 광고로 유튜브, 페이스북, 틱톡 광고에 게재되었다.[322][313][317] 이러한 유명인을 이용한 딥페이크 중 하나는 수천 개의 비디오가 제작되어 1억 9500만 회 이상 시청되는 등 널리 확산되었다.[322][323]
  • 보안 소프트웨어 제조업체 맥아피가 2023년 5월 15일에 발표한 조사에 따르면, 조사 대상 7,000명 중 4명 중 1명꼴로 자신 또는 지인이 피해를 입은 경험이 있다고 응답했으며, 피해자의 77%가 속아서 돈을 지불했다고 답했다.[324][325]


올리버 테일러라는 가공 인물은 신문에 칼럼을 기고하고, 온라인 미디어를 통해 영국의 한 법학자 부부를 "테러리스트의 동조자"로 공격했다. 이 법학자는 2018년, 이스라엘의 스파이웨어 기업 NSO 그룹의 해킹 기술 피해자로 알려진 멕시코인들을 대표하여 이스라엘에서 NSO 그룹을 상대로 소송을 제기하여 국제적인 주목을 받았다. 로이터는 올리버 테일러에 대한 극히 적은 기록만을 찾았고, "그의" 대학에는 소속을 나타내는 기록이 없었다. 프로필 사진이 딥페이크라는 데 많은 전문가들의 의견이 일치했다. 신문사는 해당 인물이 작성했다고 알려진 기사를 철회하거나 웹사이트에서 삭제했다. 이러한 수법이 가짜 정보의 새로운 전장이 될 것이라는 우려가 제기되고 있다.[346]

소셜 네트워크상에 존재하지 않는 인물의 딥페이크는 이스라엘 우파 선전의 일환으로 전개되고 있다. 페이스북 페이지 "시온주의의 봄"에는 가공 인물이 어떻게 좌파에서 우파로 전향했는지 설명하는 것처럼 꾸며진 "증언"과 함께 실존하지 않는 인물의 사진이 게재되어 있으며, 해당 페이지에는 이스라엘 벤야민 네타냐후 총리와 그의 아들, 그리고 다른 이스라엘 우익 인사들의 정보가 다수 게재되어 있었다. 많은 사진들은 실존 인물의 사진에서 데이터를 얻어 존재하지 않는 인물의 사실적인 합성 이미지를 생성하는 딥페이크에 의한 것으로 보인다. "증언"의 많은 부분에서 우파를 지지하는 이유로 네타냐후에 대한 폭력 선동을 알게 된 충격을 들고 있다. 이스라엘 우파 언론은 실존하지 않는 인물임에도 불구하고 이러한 "증언"을 방송했다. 다른 페이스북의 가공 프로필에는 우파 정치인에 대한 공격을 부추기는 것으로 해석될 수 있는 내용이 포함되어 있으며, 이에 반응하여 네타냐후는 총리 암살 계획이 있었다고 주장했다.[347][348]

일본적십자사 도쿄지부가 관동대지진 100주년을 맞아 생존자들의 경험담 등을 생성형 AI에 학습시켜 새로운 "증언"을 만들어 전시하는 기획전을 계획했다. 그러나 이 계획에 대해 SNS상에서 "기록을 날조하는 것"이라는 등의 비판이 쇄도하여, 도쿄지부는 기획전을 취소하게 되었다.[349]

AI 연구자인 알렉스 샴페인달은 딥페이크 기술로 인해 세계가 얼마나 빨리 혼란에 빠질 수 있는지 알려져야 하며, 이 문제는 기술적인 문제가 아니라 정보와 저널리즘에 대한 신뢰를 통해 해결되어야 하는 문제라고 말했다.[291] 그는 사람들이 미디어 내용의 진실 여부를 판단할 수 없는 시대에 빠질 가능성이 문제라고 했다.[291]

남캘리포니아 대학교의 컴퓨터 과학자 하오 리는 딥페이크 기술에 대한 인식을 높이기 위한 조치를 취하지 않으면 가짜 뉴스와 같은 악의적인 용도로 만들어진 딥페이크는 더욱 해롭게 될 것이라고 말했다.[363] 그는 인공지능과 컴퓨터 그래픽스의 급속한 발전으로 2019년 10월 시점에서 빨라야 6개월 이내에 진짜 영상과 딥페이크를 구별할 수 없게 될 것이라고 예측했다.[363]

구글에서 사기 방지 업무에 종사했던 슈만 고세마줌더는 딥페이크를 "사회적 문제" 영역으로 분류하고, 딥페이크는 필연적으로 자동 생성 단계로 진화하여 개인이 이 기술을 이용해 수백만 개의 딥페이크 동영상을 제작할 가능성이 있다고 말했다.[364]

스위스에 본사를 둔 신문사인 아르가우어 차이퉁은 인공지능을 이용한 이미지 및 비디오 조작은 위험한 대량의 미디어가 넘쳐날 가능성이 있다고 말했다. 하지만 이미지와 비디오의 조작 자체는 비디오 편집 소프트웨어나 이미지 편집 소프트웨어의 등장보다 훨씬 오래된 것이며, 이번 딥페이크의 경우 새로운 측면은 바로 그 사실성에 있다고 주장했다.[328]

5. 2. 대응

딥페이크 탐지 기술은 빠르게 발전하고 있다. 마이크로소프트는 2020년 9월에 딥페이크 탐지 소프트웨어 개발을 발표했다.[169] 학계에서는 딥페이크 영상 탐지에 대한 연구가 활발하다.[171] 딥페이크 탐지 알고리즘은 영상 속 불규칙한 깜빡임 패턴이나 조명 오류 등을 찾아낸다.[172][14] 그러나 딥페이크 생성 기술 또한 계속 발전하기 때문에, 딥페이크 탐지는 "움직이는 골대"와 같다는 비판도 있다.[171]

주요 기술 기업들은 딥페이크 탐지 챌린지를 개최하여, 조작된 콘텐츠 식별 기술 개발을 가속화하고 있다.[173] 딥페이크 탐지 챌린지에서 우승한 모델은 4,000개의 비디오로 구성된 테스트 세트에서 65%의 정확도를 보였다.[174] 2020년 10월, 버펄로 대학교 연구팀은 AI 탐지 도구 없이도 사람 눈에 비치는 빛의 반사를 이용하여 딥페이크를 발견하는 기술을 발표했다.[176]

남캘리포니아 대학교 정보과학연구소(Information Sciences Institute)의 시각 지능 및 멀티미디어 분석 연구소(Visual Intelligence and Multimedia Analytics Laboratory, VIMAL)는 순환 신경망을 이용하여 시공간적 불일치를 발견하는 1세대 딥페이크 탐지기를 개발했다. 이 알고리즘은 FaceForensics++에서 96%의 정확도를 달성했다.[178] 2세대 탐지기는 인공물과 고차원 의미론적 얼굴 정보를 구별하는 네트워크를 사용하며, FaceForensics++ 및 Celeb-DF 벤치마크에서 최첨단 성능을 보였다.[179]

블록체인을 이용하여 미디어 출처를 확인하는 기술도 제안되고 있다.[180] 스마트폰 카메라 등 모든 비디오 및 이미지에 디지털 서명을 추가하여 딥페이크에 대응하자는 제안도 있다.[181] 딥페이크 화상 통화는 발신자에게 옆으로 돌아보라고 요청하면 쉽게 판별할 수 있다.[182]

트위터(이후 X)는 합성 및 조작된 미디어에 대한 정책을 마련하여, 딥페이크가 포함된 트윗에 경고를 표시하고 있다.[209] 페이스북은 딥페이크 탐지 챌린지(DFDC)를 개최하고, 인공 지능을 사용하여 개인의 발언을 변경하는 미디어를 삭제할 것이라고 밝혔다.[214][215]

Gfycat는 2018년 1월 31일에 자사 사이트에서 모든 딥페이크를 삭제하기 시작했다.[216][217] 레딧의 r/deepfakes 서브레딧은 2018년 2월 7일에 "비자발적 포르노그래피" 정책 위반으로 금지되었다.[218][219][220][221][222] Pornhub는 2018년 2월에 서비스 약관을 위반하는 "비동의 콘텐츠"인 딥페이크 비디오를 금지한다고 밝혔다.[226]

미국에서는 2018년에 악의적인 딥페이크 금지법(Malicious Deep Fake Prohibition Act)이 미 상원에 제출되었고,[232] 2019년에는 뉴욕주 제9선거구 대표인 이베트 클라크가 딥페이크 책임법(Deepfakes Accountability Act)을 제출했다.[233] 버지니아주, 텍사스주, 캘리포니아, 뉴욕 등 여러 주에서도 딥페이크 관련 법안을 제출했다.[235]

중국은 2019년 11월, 2020년부터 딥페이크 및 기타 합성으로 조작된 영상에 위조임을 명확히 알리는 고지를 표시해야 한다고 발표했다.[241] 중국 사이버 공간 관리국은 준수하지 않을 경우 범죄로 간주될 수 있다고 밝혔다.[241]

영국에서는 2023년 온라인 안전법이 통과되기 전까지는 딥페이크 제작 자체가 특정 범죄는 아니었다. 이 법으로 딥페이크가 불법화되었으며, 영국은 2024년에 "고통을 야기할 의도"로 제작된 딥페이크를 범죄화하는 법률을 확대할 계획이다.[245][246][247]

유럽에서는 유럽 연합의 2024년 인공지능법(AI 법)이 딥페이크를 포함한 AI 시스템 규제에 위험 기반 접근 방식을 취하고 있다.[254]

방위고등연구계획국(DARPA)(Defense Advanced Research Projects Agency)은 2016년에 미디어 포렌식(MediFor) 프로그램을 시작하여 이미지와 비디오의 디지털 조작을 자동으로 감지하는 것을 목표로 했다.[256][257][258] 2019년에는 의미론적 포렌식(SemaFor) 프로그램을 위한 "제안자의 날"을 개최했다.[261]

6. 예시 사건

딥페이크 기술은 타인의 메시지와 행동을 조작할 수 있으며, 심지어 사망한 사람까지도 조작할 수 있다. 이러한 기술은 여러 사건에서 다양한 방식으로 활용되었다.

2020년에는 파크랜드 총격 사건 희생자인 호아킨 올리버의 딥페이크 영상이 총기 안전 캠페인의 일환으로 제작되었다.[60] 올리버의 부모는 비영리 단체와 협력하여 올리버가 총기 안전 법안과 이를 지지하는 정치인들을 지지하도록 장려하는 영상을 만들었다.

2022년에는 엘비스 프레슬리의 딥페이크 영상이 ''아메리카 갓 탤런트 17''에서 사용되었고[61], 한 TV 광고에서는 1980년에 살해당한 비틀즈 멤버 존 레논의 딥페이크 영상이 사용되었다.[62]

딥페이크는 가짜뉴스 확산, 명예훼손, 사칭, 가짜뉴스, 리벤지 포르노와 같은 범죄에 악용될 수 있다.[292] 또한, 여론에 악영향을 미치고[293][294], 투자 사기, 금융 사기, 피싱, 보이스피싱 등에 악용되기도 한다.[295][296]

Audio deepfake영어은 사기 등에 악용되고 있다.[297] 2023년 현재, 짧은 음성 데이터로 개인의 목소리를 복제하는 딥페이크 기술과 텍스트 생성 도구를 조합하여 친구나 가족의 디지털 클론을 만들어 피해자를 노리는 사기를 자동화할 수 있게 되었다.[298]

다음은 딥페이크가 악용된 대표적인 사례들이다.

연도사건 내용비고
2019년영국의 에너지 기업 CEO가 음성 딥페이크 기술을 이용해 모회사 최고경영자의 목소리를 가장한 사람으로부터 전화를 받고, 헝가리의 한 은행 계좌로 220000EUR를 송금했다.[305][306]
2023년일본TV는 자사 뉴스 프로그램과 소속 아나운서를 생성형 AI로 가공하여 투자를 유도하는 가짜 영상(사칭 광고)이 확인되었다고 발표했다. 일본TV는 해당 영상 제작에 관여하지 않았고 투자를 권유한 적도 없다고 밝혔다.[307][308][309]한국 관련 사건
2023년경모리나가 타쿠로, 호리에 타카후미 등 유명인이 주최하는 것처럼 속여 허위의 인터넷투자 강좌 광고를 내보내고, 딥페이크로 만든 유명인의 가짜 음성으로 투자 앱으로 유도하여 입금된 금전을 횡령하는 사기가 증가했다.[311][312]한국 관련 사건
2024년홍콩에서 딥페이크를 이용한 사기 사건이 발생했다. 딥페이크를 이용하여 상사 및 여러 회사원을 사칭하여 직원들에게 송금을 요구하는 데 성공했다.[310]
2024년 9월 26일한국에서는 지인이나 동급생의 가짜 성착취물(딥페이크) 유포가 심각한 사회 문제로 대두되자, 이를 소지하거나 시청하는 경우에도 처벌하는 강화된 법안을 통과시켰다.[359] 위반 시에는 3년 이하의 징역 또는 3000만원 이하의 벌금이 부과된다.한국 관련 사건
2023년테일러 스위프트[313][295], 톰 행크스[314], 오프라 윈프리[315], 일론 머스크[316] 등 유명인을 이용한 딥페이크 영상 사기 광고가 유튜브, 페이스북, 틱톡 등에 게재되었다.[322][313][317]
2023년 5월 15일보안 소프트웨어 제조업체 맥아피의 조사에 따르면, 조사 대상 7,000명 중 4명 중 1명꼴로 자신 또는 지인이 피해를 입은 경험이 있다고 응답했으며, 피해자의 77%가 속아서 돈을 지불했다고 답했다.[324][325]


6. 1. 버락 오바마

2018년 4월 17일, 미국 배우 조던 필, 버즈피드 및 몽키포 프로덕션스(Monkeypaw Productions)는 버락 오바마가 욕설을 하고 도널드 트럼프를 비난하는 딥페이크 영상을 유튜브에 게시했다.[186] 이 영상에서 필의 목소리와 얼굴이 오바마의 것으로 변형 및 조작되었다. 이는 딥페이크의 위험성과 영향력, 그리고 누구든지 어떤 말이든 하게 만들 수 있다는 점을 보여주기 위한 목적이었다.[123]

6. 2. 도널드 트럼프

2019년 5월 5일, 더프페이크스(Derpfakes)는 지미 팰런이 "지미 팰런의 투나잇 쇼"에서 선보인 촌극을 바탕으로 도널드 트럼프의 딥페이크 영상을 유튜브에 게시했다.[187] 원본 촌극(2016년 5월 4일 방영)에서 지미 팰런은 도널드 트럼프로 분장하여 버락 오바마와의 전화 통화를 가장하며 인디애나주 예비선거 승리를 자랑하는 듯한 태도를 보였다.[187] 딥페이크 영상에서는 지미 팰런의 얼굴이 도널드 트럼프의 얼굴로 변형되었고, 오디오는 동일하게 유지되었다. 이 딥페이크 영상은 Derpfakes에 의해 코미디적인 의도로 제작되었다.

2023년 3월, 뉴욕 경찰국(NYPD) 경찰관들이 트럼프를 제압하는 일련의 이미지가 등장했다.[188] Midjourney를 사용하여 생성된 이 이미지는 처음에 엘리엇 히긴스(Eliot Higgins)가 트위터에 게시했지만, 나중에 문맥 없이 재공유되어 일부 시청자들은 실제 사진이라고 믿게 되었다.[185]


6. 3. 낸시 펠로시

2019년, 낸시 펠로시가 미국 진보센터에서 한 연설(2019년 5월 22일) 영상이 소셜 미디어에 널리 유포되었다. 해당 영상은 속도가 늦춰지고 오디오 음높이가 변경되어 마치 펠로시가 술에 취한 것처럼 보이도록 조작되었다.[189][190] 비평가들은 이것이 딥페이크가 아니라 얕은 조작(shallowfake), 즉 덜 정교한 형태의 동영상 조작이라고 주장한다.[189][190]

6. 4. 마크 저커버그

2019년 5월, CannyAI와 협력한 두 명의 아티스트가 페이스북 설립자 마크 저커버그가 수십억 명의 사람들로부터 데이터를 수집하고 통제하는 것에 대해 이야기하는 딥페이크 영상을 제작했다.[191][192] 이 영상은 인공지능의 위험성에 대해 대중을 교육하기 위한 전시회의 일부였다.[191][192]

6. 5. 김정은과 블라디미르 푸틴

2020년 9월 29일, 무소속 옹호 단체인 RepresentUs는 북한 지도자 김정은과 러시아 대통령 블라디미르 푸틴의 딥페이크 영상을 제작하여 유튜브에 공개했다.[193] 이 영상들은 이들 지도자가 미국의 대선에 개입하는 것이 미국의 민주주의에 해롭다는 것을 알리기 위한 광고로 기획되었다.[193] 또한 미국인들에게 민주주의가 얼마나 취약한지, 그리고 미디어가 신뢰성과 관계없이 국가의 방향에 얼마나 큰 영향을 미칠 수 있는지 경각심을 일깨우기 위한 목적도 있었다.[193]

김정은의 딥페이크 영상


푸틴이 미국인들에게 선거 개입과 정치적 분열에 대한 경고를 하는 딥페이크 영상


그러나 광고 영상이 실제가 아니라는 설명을 포함했음에도 불구하고, 미국인들의 반응에 대한 우려와 민감성 때문에 결국 방영되지는 않았다.[193]

6. 6. 볼로디미르 젤렌스키

2022년 3월 16일, 2022년 러시아의 우크라이나 침공 당시 우크라이나 대통령 볼로디미르 젤렌스키가 군인들에게 무기를 내려놓고 항복하라고 말하는 것처럼 보이는 1분짜리 딥페이크 영상이 소셜 미디어에 유포되었다.[167] 러시아 소셜 미디어가 이 영상을 확산했지만, 페이스북과 유튜브는 사실이 아닌 것으로 밝혀진 후 이 영상을 삭제했다. 트위터는 가짜임을 폭로하는 트윗에서는 해당 영상을 허용했지만, 사람들을 속이기 위해 게시될 경우 삭제한다고 밝혔다. 해커들은 우크라이나 24 방송국의 실시간 스크롤 텍스트 뉴스 크롤에 이 허위 정보를 삽입했으며, 해당 영상은 젤렌스키가 수도 키이우를 탈출했다는 허위 주장과 함께 방송국 웹사이트에 잠시 나타났다. 딥페이크 제작자는 즉시 밝혀지지 않았으며, 젤렌스키는 자신의 영상을 통해 "우리는 승리할 때까지 어떤 무기도 내려놓을 계획이 없습니다."라고 응답했다.[195]

6. 7. 프란치스코 교황

2023년 3월, 시카고의 익명의 건설 노동자가 Midjourney를 사용하여 흰색 발렌시아가(Balenciaga) 패딩 점퍼를 입은 프란치스코 교황의 가짜 이미지를 만들었다. 이 이미지는 2천만 회 이상 조회되며 널리 퍼졌다.[197] 작가 라이언 브로데릭(Ryan Broderick)은 이를 "최초의 실질적인 대규모 AI 허위 정보 사례"라고 불렀다.[198] ''슬레이트(Slate)''지가 자문한 전문가들은 이 이미지를 정교하지 않다고 평가하며, "5년 전에도 포토샵으로 만들 수 있었을 것"이라고 말했다.[199]

겨울용 패딩 점퍼를 입은 프란치스코 교황의 가짜 이미지(Midjourney 생성)

6. 8. 한국 관련 사건

2023년, 일본TV는 자사 뉴스 프로그램과 소속 아나운서를 생성형 AI로 가공하여 투자를 유도하는 가짜 영상(사칭 광고)이 확인되었다고 발표했다. 일본TV는 해당 영상 제작에 관여하지 않았고 투자를 권유한 적도 없다고 밝혔다.[307][308][309]

같은 해, 모리나가 타쿠로, 호리에 타카후미 등 유명인이 주최하는 것처럼 속여 허위의 인터넷투자 강좌 광고를 내보내고, 딥페이크로 만든 유명인의 가짜 음성으로 투자 앱으로 유도하여 입금된 금전을 횡령하는 사기가 증가했다. 이 투자 앱은 표면적으로는 이익을 내는 것처럼 보이지만 실제로는 투자가 이루어지지 않고 있다고 여겨진다.[311][312]

2024년 9월 26일, 한국에서는 지인이나 동급생의 가짜 성착취물(딥페이크) 유포가 심각한 사회 문제로 대두되자, 이를 소지하거나 시청하는 경우에도 처벌하는 강화된 법안을 통과시켰다.[359] 위반 시에는 3년 이하의 징역 또는 3000만원 이하의 벌금이 부과된다.

참조

[1] 뉴스 Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise https://www.foxnews.[...] 2018-02-16
[2] 서적 Deepfakes https://link.springe[...] Springer Cham
[3] 논문 Countering Malicious DeepFakes: Survey, Battleground, and Horizon https://doi.org/10.1[...] 2022-07-01
[4] 논문 Deepfakes: Trick or treat? https://irep.ntu.ac.[...]
[5] 논문 Synthetic media: The real trouble with deepfakes https://knowablemaga[...] Annual Reviews 2020-03-16
[6] 뉴스 You thought fake news was bad? Deep fakes are where truth goes to die https://www.theguard[...] 2018-11-12
[7] 논문 Image Forensics https://www.annualre[...] 2019-09-15
[8] 뉴스 What Are Deepfakes & Why the Future of Porn is Terrifying https://www.highsnob[...] 2018-02-20
[9] 웹사이트 Experts fear face swapping tech could start an international showdown https://theoutline.c[...]
[10] 뉴스 Here Come the Fake Videos, Too https://www.nytimes.[...] 2018-03-04
[11] arXiv Adversarial Learning of Deepfakes in Accounting 2019-10
[12] 서적 2021 IEEE International IOT, Electronics and Mechatronics Conference (IEMTRONICS) IEEE 2021-04-21
[13] 웹사이트 Artificial Intelligence: Deepfakes in the Entertainment Industry https://www.wipo.int[...]
[14] 뉴스 Top AI researchers race to detect 'deepfake' videos: 'We are outgunned' https://www.washingt[...] 2019-06-12
[15] 웹사이트 Thanks to AI, the future of 'fake news' is being pioneered in homemade porn https://www.nbcnews.[...] 2018-02-08
[16] 웹사이트 Another convincing deepfake app goes viral prompting immediate privacy backlash https://www.theverge[...] 2019-09-02
[17] 논문 The Digital Face and Deepfakes on Screen null 2021-07-29
[18] 논문 Rewriting the stars: Surface tensions and gender troubles in the online media production of digital deepfakes null 2021-07-26
[19] 논문 GENDER*UCK: Reframing gender & media art null 2021-07-05
[20] 논문 Deepfakes, Artificial Intelligence, and Some Kind of Dystopia: The New Faces of Online Post-Fact Performance https://muse.jhu.edu[...] 2018
[21] 논문 Introducing the pervert's dilemma: a contribution to the critique of Deepfake Pornography null 2020-06-01
[22] 논문 Verifying images: deepfakes, control, and consent https://www.tandfonl[...] 2020-10-01
[23] 논문 The Epistemic Threat of Deepfakes null 2021-12-01
[24] 논문 Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security https://www.ssrn.com[...] 2018
[25] 논문 Whose dystopia is it anyway? Deepfakes and social media regulation http://journals.sage[...] 2021-02
[26] 논문 Effects of Disinformation Using Deepfake: The Protective Effect of Media Literacy Education https://www.liebertp[...] 2021-03-01
[27] 논문 Deepfakes and documentary practice in an age of misinformation https://www.tandfonl[...] 2021-11-12
[28] 논문 The Social Impact of Deepfakes https://www.liebertp[...] 2021-03-01
[29] 논문 Huanlian, or changing faces: Deepfakes on Chinese digital media platforms http://journals.sage[...] 2021-07-30
[30] 서적 Proceedings of the 24th annual conference on Computer graphics and interactive techniques – SIGGRAPH '97 1997
[31] 논문 Synthesizing Obama: Learning Lip Sync from Audio https://dl.acm.org/d[...] 2017-07
[32] 서적 2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR) IEEE 2016-06
[33] 뉴스 Deepfakes for dancing: you can now use AI to fake those dance moves you always wanted https://www.theverge[...]
[34] 뉴스 An AI program will soon be here to help your deepface dancing – just don't call it deepfake https://www.business[...] 2018-08-27
[35] 서적 CT-GAN: Malicious Tampering of 3D Medical Imagery using Deep Learning https://www.usenix.o[...]
[36] 웹사이트 Researchers Demonstrate Malware That Can Trick Doctors Into Misdiagnosing Cancer https://gizmodo.com/[...] 2019-04-03
[37] 논문 The Creation and Detection of Deepfakes: A Survey 2020-05-12
[38] 논문 Artificial Intelligence in Digital Media: The Era of Deepfakes https://papers.duckd[...] 2020
[39] 웹사이트 We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now https://www.vice.com[...] 2018-01-24
[40] 웹사이트 People Are Using Face-Swapping Tech to Add Nicolas Cage to Random Movies and What Is 2018 https://mashable.com[...] 2018-01-31
[41] 웹사이트 r/SFWdeepfakes https://www.reddit.c[...]
[42] 웹사이트 Here's where 'deepfakes,' the new fake celebrity porn, went after the Reddit ban https://www.dailydot[...] 2018-02-08
[43] 웹사이트 What is a Deepfake and How Are They Made? https://www.online-t[...] 2019-05-23
[44] 웹사이트 I'm using AI to face-swap Elon Musk and Jeff Bezos, and I'm really bad at it https://www.theverge[...] 2018-02-11
[45] 웹사이트 Deepfakes web {{!}} The best online faceswap app https://deepfakesweb[...]
[46] 웹사이트 Faceswap is the leading free and Open Source multi-platform Deepfakes software. https://faceswap.dev 2019-10-15
[47] 웹사이트 DeepFaceLab is a tool that utilizes machine learning to replace faces in videos. Includes prebuilt ready to work standalone Windows 7,8,10 binary (look readme.md).: iperov/DeepFaceLab https://github.com/i[...] 2019-06-19
[48] 웹사이트 Why Deepfakes Are A Net Positive For Humanity https://www.forbes.c[...]
[49] 웹사이트 You've been warned: Full body deepfakes are the next step in AI-based human mimicry https://www.fastcomp[...] 2019-09-21
[50] 웹사이트 FTC says the tech behind audio deepfakes is getting better https://www.theverge[...] 2020-01-29
[51] 웹사이트 Audio samples from "Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis" https://google.githu[...]
[52] 논문 Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis 2019-01-02
[53] 웹사이트 TUM Visual Computing: Prof. Matthias Nießner http://www.niessnerl[...]
[54] 웹사이트 Full Page Reload https://spectrum.iee[...] 2019-12-11
[55] 웹사이트 Contributing Data to Deepfake Detection Research http://ai.googleblog[...] 2019-09-24
[56] 웹사이트 You can now deepfake yourself into a celebrity with just a few clicks https://www.dailydot[...]
[57] 웹사이트 Fun or Fear: Deepfake App Puts Celebrity Faces In Your Selfies https://kool1079.com[...] 2020-03-06
[58] 뉴스 Kanye West, Kim Kardashian and her dad: Should we make holograms of the dead? https://www.bbc.com/[...] 2020-10-31
[59] 웹사이트 Kanye West Gave Kim Kardashian a Hologram of Her Father for Her Birthday https://www.themodem[...] 2020-10-30
[60] 웹사이트 Parkland victim Joaquin Oliver comes back to life in heartbreaking plea to voters https://adage.com/ar[...] 2020-10-02
[61] 간행물 Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch https://www.billboar[...] 2022-09-14
[62] 웹사이트 John Lennon 'One Laptop per Child' Commecial https://www.youtube.[...] 2008-12-26
[63] 웹사이트 Understanding the Technology Behind DeepFakes https://www.alanzucc[...] 2018-03-14
[64] 웹사이트 What is a Deepfake? https://blog.synthes[...] 2022-05-03
[65] 간행물 These New Tricks Can Outsmart Deepfake Videos—for Now https://www.wired.co[...]
[66] 뉴스 In the age of deepfakes, could virtual actors put humans out of business? https://www.theguard[...] 2019-07-08
[67] 뉴스 Digital clones made by AI tech could make Hollywood extras obsolete https://www.washingt[...] 2023-07-21
[68] 웹사이트 High-Resolution Neural Face Swapping for Visual Effects {{!}} Disney Research Studios https://studios.disn[...]
[69] 웹사이트 Disney's deepfake technology could be used in film and TV https://blooloop.com[...] 2020-07-21
[70] 웹사이트 Disney Ventures Into Bringing Back 'Dead Actors' Through Facial Recognition https://www.techtime[...] 2020-07-02
[71] 웹사이트 Harrison Ford is the star of Solo: A Star Wars Story thanks to deepfake technology https://www.polygon.[...] 2018-10-17
[72] 웹사이트 How acting as Carrie Fisher's puppet made a career for Rogue One's Princess Leia https://www.technolo[...]
[73] 웹사이트 Deepfake Luke Skywalker is another step down a ghoulish CGI path https://www.gq-magaz[...] 2022-02-10
[74] 웹사이트 Will deepfakes rewrite history as we know it? https://www.dazeddig[...] 2022-02-10
[75] 웹사이트 Behind the Making of My AI Digital Double https://www.wsj.com/[...] 2023-12-21
[76] 웹사이트 Celebrities Use AI to Take Control of Their Own Images https://www.wsj.com/[...] 2023-06-18
[77] 뉴스 The man who creates fake people – like David Beckham speaking nine languages https://www.thetimes[...] 2024-08-23
[78] 웹사이트 Not Vijay, Here's Who Played the Younger Version of Him in The GOAT https://english.tupa[...] 2024-09-08
[79] 웹아카이브 Collective Wisdom https://wip.mitpress[...] Massachusetts Institute of Technology
[80] 웹사이트 ANSA Ornella Muti in cortometraggio a Firenze http://www.ansa.it/t[...] 2017-11-03
[81] 웹사이트 'South Park' creators launch new deepfake satire series 'Sassy Justice' https://www.nme.com/[...] 2020-10-27
[82] 보고서 Deep Fakes and National Security https://crsreports.c[...] Congressional Research Service 2021-06-08
[83] 웹사이트 Blackmail Inflation https://cultstate.co[...] 2020-05-24
[84] 웹사이트 For Kappy https://t.me/forKapp[...] 2020-05-24
[85] 웹사이트 The AGT Judges Had Priceless Reactions to That Simon Cowell Singing Audition https://www.nbc.com/[...] 2022-06-08
[86] 웹사이트 Can A Metaverse AI Win America's Got Talent? (And What That Means For The Industry) https://www.forbes.c[...]
[87] 웹사이트 Deepfakes Go Mainstream: How Metaphysic's AGT Entry Will Impact Entertainment https://www.makeuseo[...] 2022-06-10
[88] 웹사이트 BGT viewers slam Simon Cowell for 'rude' and 'nasty' remark to contestant https://www.entertai[...] 2019-06-01
[89] 웹사이트 Simon Cowell Sings on Stage?! Metaphysic Will Leave You Speechless AGT 2022 https://www.youtube.[...]
[90] 웹사이트 'AGT' judges Simon Cowell, Howie Mandel get 'deepfake' treatment by AI act Metaphysic: Watch here https://www.usatoday[...]
[91] 잡지 Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch https://www.billboar[...] 2022-09-14
[92] 웹사이트 Website Lets You Make GLaDOS Say Whatever You Want https://kotaku.com/t[...] 2021-01-18
[93] 잡지 Make Portal's GLaDOS And Other Beloved Characters Say The Weirdest Things With This App https://www.gameinfo[...] 2021-01-18
[94] 웹사이트 Make the cast of TF2 recite old memes with this AI text-to-speech tool https://www.pcgamer.[...] 2021-01-19
[95] 웹사이트 Kiss say farewell to live touring, become first US band to go virtual and become digital avatars https://apnews.com/a[...] Associated Press 2023-12-03
[96] 뉴스 AI-generated ads using Taylor Swift's likeness dupe fans with fake Le Creuset giveaway https://www.cbsnews.[...] 2024-01-09
[97] 웹사이트 AI Deepfakes On The Rise Causing Billions In Fraud Losses https://www.forbes.c[...]
[98] 웹사이트 AI Deepfakes On The Rise Causing Billions In Fraud Losses https://www.forbes.c[...]
[99] 뉴스 No, That's Not Taylor Swift Peddling Le Creuset Cookware https://www.nytimes.[...] 2024-01-09
[100] 뉴스 Arizona woman falls victim to deepfake scam using celebrities on social media https://www.abc15.co[...] 2023-12-11
[101] 뉴스 Deepfake videos of Elon Musk used in get-rich-quick scam https://factcheck.af[...] 2024-01-04
[102] 뉴스 PH needs multifaceted approach vs 'deepfake' videos used to scam Pinoys https://www.cnnphili[...] 2024-01-03
[103] 뉴스 MrBeast and BBC stars used in deepfake scam videos https://www.bbc.com/[...] 2023-10-04
[104] 뉴스 Singapore PM Lee warns of 'very convincing' deepfakes 'spreading disinformation' after fake video of him emerges https://www.scmp.com[...] 2023-12-29
[105] 뉴스 Scammer paid Facebook 7c per view to circulate video of deepfake Jim Chalmers and Gina Rinehart https://www.theguard[...] 2023-11-30
[106] 뉴스 Deepfake of Australian treasury, central bank officials used to promote investment scam https://factcheck.af[...] 2024-01-10
[107] 뉴스 Deepfaked Celebrity Ads Promoting Medicare Scams Run Rampant on YouTube https://www.404media[...] 2024-01-10
[108] 뉴스 MrBeast calls TikTok ad showing an AI version of him a 'scam' https://www.nbcnews.[...] 2024-01-10
[109] 뉴스 YouTube Deletes 1,000 Videos of Celebrity AI Scam Ads https://www.404media[...] 2024-02-02
[110] 뉴스 Dick Smith criticises Facebook after scammers circulate deepfake video ad https://www.theguard[...] 2024-01-10
[111] 뉴스 Martin Lewis warns over 'first' deepfake video scam ad circulating on Facebook https://techcrunch.c[...] 2024-01-10
[112] 뉴스 Fun new deepfake consequence: more convincing crypto scams https://www.theverge[...] 2024-01-10
[113] 뉴스 MrBeast, Tom Hanks Stung by AI Scams as Law Rushes to Keep Pace https://news.bloombe[...] 2024-01-10
[114] 뉴스 Thieves are now using AI deepfakes to trick companies into sending them money https://www.theverge[...] 2019-09-13
[115] 웹사이트 A Voice Deepfake Was Used To Scam A CEO Out Of $243,000 https://www.forbes.c[...] 2019-11-09
[116] 웹사이트 Deepfakes, explained https://mitsloan.mit[...] 2024-03-06
[117] 웹사이트 Voice deepfakes are calling – here's what they are and how to avoid getting scammed https://theconversat[...] 2024-01-04
[118] 웹사이트 Deepfakes, explained https://mitsloan.mit[...] 2024-03-06
[119] 웹사이트 Coffin Dance and More: The Music Memes of 2020 So Far https://www.musictim[...] 2020-08-22
[120] 뉴스 Someone deepfaked Singapore's politicians to lip-sync that Japanese meme song https://www.asiaone.[...] 2020-08-07
[121] 웹사이트 Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos https://www.aargauer[...] az Aargauer Zeitung 2018-04-09
[122] 웹사이트 Deepfakes: Auf dem Weg in eine alternative Realität? http://faktenfinder.[...] 2018-04-09
[123] 웹사이트 Jordan Peele's simulated Obama PSA is a double-edged warning against fake news https://www.vox.com/[...] 2018-09-10
[124] 뉴스 A Seattle TV station aired doctored footage of Trump's Oval Office speech. The employee has been fired. https://www.washingt[...] 2019-01-11
[125] 웹사이트 Congress to investigate deepfakes as doctored Pelosi video causes stir https://www.cnn.com/[...] 2019-11-09
[126] 웹사이트 #TellTheTruthBelgium https://www.extincti[...] 2020-04-21
[127] 웹사이트 Extinction Rebellion s'empare des deepfakes https://journalism.d[...] 2020-04-21
[128] 웹사이트 Faked videos shore up false beliefs about Biden's mental health http://theconversati[...] 2022-04-09
[129] 웹사이트 Trump and allies ramp up efforts to spread disinformation and fake news https://www.independ[...] 2022-04-09
[130] 웹사이트 We've Just Seen the First Use of Deepfakes in an Indian Election Campaign https://www.vice.com[...] 2020-02-19
[131] 뉴스 Amabie: the mythical creature making a coronavirus comeback https://www.economis[...] 2021-06-03
[132] 뉴스 European MPs targeted by deepfake video calls imitating Russian opposition https://www.theguard[...] 2021-04-22
[133] 뉴스 Hello, this is Leonid Volkov* Using deepfake video and posing as Navalny's right-hand man, Russian pranksters fool Latvian politicians and journalists into invitation and TV interview https://meduza.io/en[...] 2021-04-22
[134] 뉴스 Dutch MPs in video conference with deep fake imitation of Navalny's Chief of Staff https://nltimes.nl/2[...] 2021-04-24
[135] 뉴스 'Deepfake' Navalny Aide Targets European Lawmakers https://www.themosco[...] 2021-04-23
[136] 뉴스 'Deepfake' that supposedly fooled European politicians was just a look-alike, say pranksters https://www.theverge[...] 2022-03-29
[137] 뉴스 Viral Video Of Kamala Harris Speaking Gibberish Is Actually A Deepfake https://www.forbes.c[...] 2023-07-18
[138] 뉴스 PolitiFact - Kamala Harris wasn't slurring about today, yesterday or tomorrow. This video is altered https://www.politifa[...] 2023-07-18
[139] 웹사이트 DeSantis Campaign Ad Shows Fake AI Images Of Trump Hugging Fauci https://www.huffpost[...] 2023-06-08
[140] 뉴스 AI Deepfakes Pose Major Threat to Elections in US and India https://www.washingt[...] 2024-10-22
[141] 잡지 Indian Voters Are Being Bombarded With Millions of Deepfakes. Political Candidates Approve https://www.wired.co[...] 2024-03-00
[142] 뉴스 What an Indian Deepfaker Tells Us About Global Election Security https://www.bloomber[...]
[143] 뉴스 Porn Producers Offer to Help Hollywood Take Down Deepfake Videos https://variety.com/[...] 2018-02-21
[144] 잡지 Deepfake Porn Is Still a Threat, Particularly for K-Pop Stars https://www.rollings[...] 2019-10-07
[145] 웹사이트 The State of Deepfake - Landscape, Threats, and Impact https://regmedia.co.[...] 2019-10-01
[146] 웹사이트 From porn to 'Game of Thrones': How deepfakes and realistic-looking fake videos hit it big https://www.business[...] 2019-06-07
[147] 뉴스 'Fake porn' has serious consequences https://www.bbc.com/[...] 2018-02-03
[148] 웹사이트 Gfycat's AI Solution for Fighting Deepfakes Isn't Working https://www.vice.com[...] 2018-06-19
[149] 웹사이트 Deepfake Porn Is Here To Stay https://medium.com/@[...] 2019-11-24
[150] 웹사이트 This Horrifying App Undresses a Photo of Any Woman with a Single Click https://www.vice.com[...] 2019-06-26
[151] 뉴스 GitHub Removed Open Source Versions of DeepNude https://www.vice.com[...] Vice Media 2019-07-09
[152] 웹사이트 pic.twitter.com/8uJKBQTZ0o https://twitter.com/[...] 2019-06-27
[153] 웹사이트 Hundreds of sexual deepfake ads using Emma Watson's face ran on Facebook and Instagram in the last two days https://www.nbcnews.[...] 2023-03-07
[154] 뉴스 Anyone could be a victim of 'deepfakes'. But there's a reason Taylor Swift is a target https://www.theguard[...] 2024-01-31
[155] 학술지 Configuring Fakes: Digitized Bodies, the Politics of Evidence, and Agency 2021-10-00
[156] 웹사이트 Chinese Deepfake App Zao Goes Viral, Faces Immediate Criticism Over User Data And Security Policy https://www.forbes.c[...]
[157] 웹사이트 Ahead of Irish and US elections, Facebook announces new measures against 'deepfake' videos https://www.independ[...] 2020-01-07
[158] 웹사이트 How Belgian visual expert Chris Ume masterminded Tom Cruise's deepfakes https://www.thestate[...] 2021-03-06
[159] 뉴스 How a deepfake Tom Cruise on TikTok turned into a very real AI company https://edition.cnn.[...]
[160] 웹사이트 This is not Tom Cruise. That's what has security experts so worried https://www.abc.net.[...] 2021-06-23
[161] 뉴스 Deepfake Used to Attack Activist Couple Shows New Disinformation Frontier https://www.reuters.[...] Reuters 2020-07-15
[162] 간행물 "'Leftists for Bibi'? Deepfake Pro-Netanyahu Propaganda Exposed: According to a Series of Facebook Posts, the Israeli Prime Minister is Winning over Left-Wing Followers--Except that None of the People in Question Exist" https://www.972mag.c[...] 972 Magazine 2020-08-12
[163] 간행물 https://www.the7eye.[...] The Seventh Eye 2020-06-09
[164] 웹사이트 Perfect Deepfake Tech Could Arrive Sooner Than Expected https://www.wbur.org[...] 2019-10-02
[165] 웹사이트 As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring https://www.business[...]
[166] 학술지 Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News 2020-01-00
[167] 학술지 Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions. 2022-00-00
[168] 학술지 Summary https://www.jstor.or[...] 2020-00-00
[169] 뉴스 Deepfake detection tool unveiled by Microsoft https://www.bbc.com/[...] 2020-09-00
[170] 학술지 A study on data augmentation in voice anti-spoofing 2022-06-00
[171] 웹사이트 Researchers use facial quirks to unmask 'deepfakes' https://news.berkele[...] 2019-06-18
[172] 학술지 Digital Doctoring: How to Tell the Real from the Fake 2006-12-01
[173] 웹사이트 Join the Deepfake Detection Challenge (DFDC) https://deepfakedete[...] deepfakedetectionchallenge.ai
[174] 웹사이트 Deepfake Detection Challenge Results: An open initiative to advance AI https://ai.facebook.[...]
[175] 학술지 Deepfake detection by human crowds, machines, and machine-informed crowds
[176] arXiv Exposing GAN-Generated Faces Using Inconsistent Corneal Specular Highlights 2020-10-12
[177] journal Protecting world leaders against deep fakes using facial, gestural, and vocal mannerisms. 2022-11-29
[178] 웹사이트 Google Scholar https://scholar.goog[...]
[179] 서적 Two-branch recurrent network for isolating deepfakes in videos https://scholar.goog[...] 2020
[180] 잡지 The Blockchain Solution to Our Deepfake Problems https://www.wired.co[...]
[181] 웹사이트 Why Digital Signatures Won't Prevent Deep Fakes But Will Help Repressive Governments https://www.forbes.c[...]
[182] 웹사이트 To Uncover a Deepfake Video Call, Ask the Caller to Turn Sideways https://metaphysic.a[...] 2022-08-08
[183] 뉴스 Kate Middleton's ring mysteriously vanishes, raises more AI concerns https://www.msn.com/[...] MSN 2024-03-25
[184] 뉴스 'Kate's cancer admission is fake', Meghan Markle's fan and UCLA director, Johnathan Perkins, floats conspiracy theory https://www.hindusta[...] The Hindustan Times 2024-04-05
[185] 뉴스 AI-generated images of Trump being arrested circulate on social media https://apnews.com/a[...] AP News 2023-03-21
[186] 웹사이트 A viral video that appeared to show Obama calling Trump a 'dips---' shows a disturbing new trend called 'deepfakes' https://www.business[...]
[187] 웹사이트 The rise of the deepfake and the threat to democracy http://www.theguardi[...]
[188] 웹사이트 Trump shares deepfake photo of himself praying as AI images of arrest spread online https://www.independ[...] 2023-03-24
[189] 웹사이트 Mona Lisa And Nancy Pelosi: The Implications Of Deepfakes https://www.forbes.c[...]
[190] 웹사이트 What Is The Difference Between A Deepfake And Shallowfake? https://deepfakenow.[...] 2020-04-21
[191] 웹사이트 Gallery: 'Spectre' Launches ( Press Release) https://billposters.[...] 2019-05-29
[192] 뉴스 This Deepfake of Mark Zuckerberg Tests Facebook's Fake Video Policies https://www.vice.com[...] 2019-06-11
[193] 웹사이트 Deepfake Putin is here to warn Americans about their self-inflicted doom https://www.technolo[...]
[194] 뉴스 Fake Putin Speech Calling for Martial Law Aired in Russia https://www.nytimes.[...] 2023-06-05
[195] 웹사이트 Deepfake video of Zelenskyy could be 'tip of the iceberg' in info war, experts warn https://www.npr.org/[...] NPR 2022-03-16
[196] 뉴스 The People Onscreen Are Fake. The Disinformation Is Real. https://www.nytimes.[...] 2023-02-07
[197] 뉴스 Pope Francis in Balenciaga deepfake fools millions: 'Definitely scary' https://nypost.com/2[...] 2023-03-28
[198] 뉴스 Misinformation, mistakes and the Pope in a puffer: what rapidly evolving AI can – and can't – do https://www.theguard[...] 2023-03-31
[199] 뉴스 The Pope in a Coat Is Not From a Holy Place https://slate.com/te[...] 2023-03-29
[200] 뉴스 Deepfake audio of Sir Keir Starmer released on first day of Labour conference https://news.sky.com[...]
[201] 뉴스 Woman in deepfake video with Rashmika Mandanna's face breaks silence: I'm deeply disturbed and upset by what is happening https://timesofindia[...] 2023-11-09
[202] 뉴스 Malacañang flags deepfake audio of Marcos ordering military attack https://www.rappler.[...] 2024-04-24
[203] 뉴스 'Foreign actor' seen behind President Marcos audio deepfake https://www.philstar[...] 2024-04-27
[204] 뉴스 Raps filed vs social media pages for libelous content, Marcos deepfake https://newsinfo.inq[...] 2024-05-14
[205] 뉴스 Face-swapped? Deepfake detector flags alleged Marcos video as 'suspicious' https://www.rappler.[...] 2024-07-23
[206] 뉴스 NBI, PNP findings show 'polvoron' video fake https://www.philstar[...] 2024-07-24
[207] 뉴스 US political consultant indicted over AI-generated Biden robocalls https://www.reuters.[...] 2024-05-23
[208] 뉴스 US political consultant indicted over AI-generated Biden robocalls https://apnews.com/a[...] 2024-05-23
[209] 웹사이트 Help us shape our approach to synthetic and manipulated media https://blog.twitter[...]
[210] 웹사이트 TechCrunch https://techcrunch.c[...] 2019-11-11
[211] 뉴스 Five US states push Musk to fix AI chatbot over election misinformation https://www.reuters.[...] Reuters 2024-08-19
[212] 뉴스 Noxious images spread after Elon Musk launches AI tool with few guardrails https://www.washingt[...] The Washington Post 2024-08-19
[213] 뉴스 How Elon Musk and X Became the Biggest Purveyors of Online Misinformation https://www.rollings[...] Rolling Stone 2024-08-19
[214] 웹사이트 Deepfake Detection Challenge Results: An open initiative to advance AI https://ai.facebook.[...] 2020-10-07
[215] 뉴스 Twitter to label deepfakes and other deceptive media https://www.reuters.[...] Reuters 2020-10-07
[216] 웹사이트 AI-Generated Fake Porn Makers Have Been Kicked Off Their Favorite Host https://www.vice.com[...] 2019-11-18
[217] 웹사이트 Twitter, Pornhub and other platforms ban AI-generated celebrity porn https://thenextweb.c[...] 2019-11-09
[218] 웹사이트 "Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor https://www.spiegel.[...] 2019-11-09
[219] 웹사이트 Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos https://futurezone.a[...] 2019-11-09
[220] 웹사이트 Deepfakes: Auch Reddit verbannt Fake-Porn https://www.heise.de[...] 2019-11-09
[221] 웹사이트 Reddit verbannt Deepfake-Pornos - derStandard.de https://www.derstand[...] 2019-11-09
[222] 웹사이트 Reddit bans 'deepfakes' AI porn communities https://www.theverge[...] 2019-11-09
[223] 웹사이트 Twitter Is the Latest Platform to Ban AI-Generated Porn https://www.vice.com[...] 2019-11-08
[224] 웹사이트 Discord just shut down a chat group dedicated to sharing porn videos edited with AI to include celebrities https://www.business[...] 2019-11-28
[225] 웹사이트 Twitter bans 'deepfake' AI-generated porn https://www.engadget[...] 2019-11-28
[226] 웹사이트 Pornhub Is Banning AI-Generated Fake Porn Videos, Says They're Nonconsensual https://www.vice.com[...] 2019-11-09
[227] 웹사이트 A guide to 'deepfakes,' the internet's latest moral crisis https://mashable.com[...] 2019-11-09
[228] 웹사이트 Facebook has promised to leave up a deepfake video of Mark Zuckerberg https://www.technolo[...] 2019-11-09
[229] 웹사이트 This Deepfake of Mark Zuckerberg Tests Facebook's Fake Video Policies https://www.vice.com[...] 2019-11-09
[230] 웹사이트 Google Has Banned the Training of Deepfakes in Colab https://www.unite.ai[...] 2022-05-28
[231] 웹사이트 It Takes 2 Clicks to Get From 'Deep Tom Cruise' to Vile Deepfake Porn https://www.vice.com[...] 2022-05-17
[232] 웹사이트 S. 3805–115th Congress (2017-2018): Malicious Deep Fake Prohibition Act of 2018 https://www.congress[...] 2019-10-16
[233] 웹사이트 H.R.3230 - 116th Congress (2019-2020): Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019 https://www.congress[...] 2019-10-16
[234] 웹사이트 'Deepfake' revenge porn is now illegal in Virginia https://techcrunch.c[...] 2019-10-16
[235] 웹사이트 Congress Wants to Solve Deepfakes by 2020. That Should Worry Us. https://slate.com/te[...] 2019-10-16
[236] 뉴스 Fake-porn videos are being weaponized to harass and humiliate women: 'Everybody is a potential target' https://www.washingt[...] The Washington Post 2019-01-01
[237] 웹사이트 Bill Text - AB-602 Depiction of individual using digital or electronic technology: sexually explicit material: cause of action. https://leginfo.legi[...] 2019-11-09
[238] 웹사이트 Bill Text - AB-730 Elections: deceptive audio or visual media. https://leginfo.legi[...] 2019-11-09
[239] 웹사이트 H.R. 5586: DEEPFAKES Accountability Act https://www.govtrack[...] 2024-08-15
[240] 웹사이트 H.R. 6943: No AI FRAUD Act https://www.govtrack[...] 2024-08-15
[241] 웹사이트 China seeks to root out fake news and deepfakes with new online content rules https://www.reuters.[...] Reuters 2019-12-17
[242] 웹사이트 China makes it a criminal offense to publish deepfakes or fake news without disclosure https://www.theverge[...] 2019-12-17
[243] 웹사이트 China to Regulate Deep Synthesis (Deepfake) Technology Starting 2023 https://www.china-br[...] 2024-08-15
[244] 웹사이트 China: Provisions on Deep Synthesis Technology Enter into Effect https://www.loc.gov/[...] 2024-08-15
[245] 뉴스 Call for upskirting bill to include 'deepfake' pornography ban https://www.theguard[...] The Guardian 2018-06-21
[246] 뉴스 Creating sexually explicit deepfakes to become a criminal offence https://www.bbc.com/[...] BBC 2024-08-15
[247] 뉴스 Creating sexually explicit deepfake images to be made offence in UK https://www.theguard[...] 2024-08-15
[248] 웹아카이브 https://web.archive.[...] 2019-11-22
[249] 웹사이트 How deepfakes could impact the 2019 Canadian election https://election.ctv[...] 2019-09-10
[250] 웹사이트 What Can The Law Do About Deepfake https://mcmillan.ca/[...] 2020-01-28
[251] 웹사이트 An Overview of Canada's Online Harms Act https://www.techpoli[...] 2024-08-15
[252] 간행물 BILL C-63 https://www.parl.ca/[...] House of Commons of Canada 2024-08-15
[253] 웹사이트 How deepfakes are used to scam You & Me? Current trends on detection using AI & legal regulations worldwide. https://cybermithra.[...] 2023-06-27
[254] 논문 Generative AI and deepfakes: a human rights approach to tackling harmful content 2024-03-29
[255] 뉴스 Elon Musk's X targeted with nine privacy complaints after grabbing EU users’ data for training Grok https://techcrunch.c[...] 2024-08-19
[256] 웹사이트 DARPA is funding new tech that can identify manipulated videos and 'deepfakes' https://techcrunch.c[...] 2018-05-01
[257] 웹사이트 Experts Bet on First Deepfakes Political Scandal - IEEE Spectrum https://spectrum.iee[...] 2018-06-22
[258] 웹사이트 Media Forensics https://www.darpa.mi[...]
[259] 웹사이트 The US military is funding an effort to catch deepfakes and other AI trickery https://www.technolo[...]
[260] 웹사이트 DARPA Tackles Deepfakes With AI https://govciomedia.[...] 2019-03-11
[261] 웹사이트 DARPA Is Taking On the Deepfake Problem https://www.nextgov.[...] 2019-08-06
[262] 웹사이트 DARPA Launches New Programs to Detect Falsified Media https://govciomedia.[...] 2021-09-16
[263] 웹사이트 DARPA Launches 2 New Efforts to Boost Defenses Against Manipulated Media https://executivegov[...] 2024-03-15
[264] 웹사이트 Semantic Forensics - Analytic Catalog https://semanticfore[...]
[265] 질문
[266] 웹사이트 Picaper http://www.isfdb.org[...] Internet Speculative Fiction Database
[267] 서적 A Philosophical Investigation National Geographic Books
[268] 뉴스 The disturbing truth behind The Capture and real life deepfakes https://www.telegrap[...] 2019-10-08
[269] 뉴스 The Capture: A BBC thriller of surveillance, distortion and duplicity https://www.irishtim[...] 2019-09-05
[270] 유튜브 John Travolta is Forrest Gump [DeepFake] https://www.youtube.[...]
[271] 웹사이트 John Travolta Turned Down 'Forrest Gump' & Other Stars Who Chose Not to Play Iconic Characters https://www.remindma[...] 2023-11-24
[272] 보도자료 ESPN Films Latest 30 for 30 Documentary ''Al Davis vs. The NFL'' to Premiere February 4 https://espnpressroo[...] ESPN 2021-01-15
[273] 웹사이트 ESPN Documentary 'Al Davis Vs The NFL' Uses Deepfake Technology To Bring Late Raiders Owner Back To Life https://www.forbes.c[...] 2021-02-01
[274] 웹사이트 Hudson and Rex https://www.citytv.c[...]
[275] 웹사이트 Watch Kendrick Lamar morph into O.J., Kanye, Kobe, Nipsey Hussle in new video https://www.latimes.[...] 2022-05-09
[276] 유튜브 Aloe Blacc - Wake Me Up (Universal Language Mix) https://www.youtube.[...] 2022-04-20
[277] 웹사이트 Watch Aloe Blacc Perform "Wake Me Up" in 3 Languages to Honor Avicii Using Respeecher AI Translation https://voicebot.ai/[...] 2022-05-05
[278] 웹사이트 Deep Fake Neighbour Wars: ITV's comedy shows how AI can transform popular culture http://theconversati[...] 2023-01-27
[279] 뉴스 Tom Hanks Warns of Dental Ad Using A.I. Version of Him https://www.nytimes.[...] 2023-10-02
[280] 서적 ディープフェイクの衝撃―ＡＩ技術がもたらす破壊と創造
[281] 서적 ディープフェイク　ニセ情報の拡散者たち
[282] 서적 AI vs.民主主義 : 高度化する世論操作の深層 NHK出版新書
[283] 논문 Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions. 2022-00-00
[284] 웹사이트 Twitter, Pornhub and other platforms ban AI-generated celebrity porn https://thenextweb.c[...] 2019-11-09
[285] 웹사이트 H.R.3230 - 116th Congress (2019-2020): Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019 https://www.congress[...] 2019-10-16
[286] 뉴스 What Are Deepfakes & Why the Future of Porn is Terrifying https://www.highsnob[...] 2018-02-20
[287] 웹사이트 Experts fear face swapping tech could start an international showdown https://theoutline.c[...] 2018-02-28
[288] 뉴스 Here Come the Fake Videos, Too https://www.nytimes.[...] 2018-03-24
[289] 논문 Adversarial Learning of Deepfakes in Accounting 2019-10-00
[290] 뉴스 You thought fake news was bad? Deep fakes are where truth goes to die https://www.theguard[...] 2018-11-14
[291] 웹사이트 Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos https://www.aargauer[...] az Aargauer Zeitung 2018-04-09
[292] 간행물 Künstliche Intelligenz: Selfies sind eine gute Quelle http://www.zeit.de/d[...] Die Zeit 2018-01-26
[293] 웹사이트 Summary https://www.jstor.or[...] 2020-10-28
[294] 웹사이트 Weaponised deep fakes: National security and democracy on JSTOR https://www.jstor.or[...] 2020-10-21
[295] 뉴스 AI-generated ads using Taylor Swift's likeness dupe fans with fake Le Creuset giveaway https://www.cbsnews.[...] 2024-01-10
[296] 뉴스 Thieves are now using AI deepfakes to trick companies into sending them money https://www.theverge[...] 2019-09-13
[297] 웹사이트 AI gave Val Kilmer his voice back. But critics worry the technology could be misused. https://www.washingt[...] 2023-05-19
[298] 웹사이트 Voice deepfakes are calling – here's what they are and how to avoid getting scammed https://theconversat[...] 2024-03-17
[299] 웹사이트 Hundreds of sexual deepfake ads using Emma Watson's face ran on Facebook and Instagram in the last two days https://www.nbcnews.[...] 2024-03-08
[300] 뉴스 Anyone could be a victim of 'deepfakes'. But there's a reason Taylor Swift is a target https://www.theguard[...] 2024-03-08
[301] 논문 Deepfakes and image manipulation: criminalisation and control. 2020-00-00
[302] 보고서 Deep Fakes and National Security https://crsreports.c[...] Congressional Research Service 2021-07-19
[303] 웹사이트 Experts fear face swapping tech could start an international showdown https://theoutline.c[...] 2018-02-28
[304] 뉴스 Here Come the Fake Videos, Too https://www.nytimes.[...] 2018-03-24
[305] 웹사이트 A Voice Deepfake Was Used To Scam A CEO Out Of $243,000 https://www.forbes.c[...] 2019-11-09
[306] 웹사이트 Deepfakes, explained https://mitsloan.mit[...] 2024-03-17
[307] 웹사이트 生成AIでニュース番組に似せた偽広告 日本テレビ“注意を” https://www3.nhk.or.[...] 2023-11-04
[308] 웹사이트 生成AIでニュースを偽造? 日テレ番組悪用の詐欺広告 一体どうやって？ #みんなのギモン https://news.ntv.co.[...] 2023-11-04
[309] 웹사이트 女子アナが「もう働く必要ない」と偽投資広告 生成AI悪用か、日テレのニュース番組を加工 https://www.sankei.c[...] 2023-11-04
[310] 웹사이트 Data Points: The latest in AI from Feb. 8 to Feb 14, 2024 https://www.deeplear[...] 2024-02-14
[311] 웹사이트 「全財産がパーに」偽のホリエモンにだまされ1900万円の被害 利益が上がったように見えても現金は引き出せず…有名人かたるニセ広告で広がる投資詐欺【news23】 TBS NEWS DIG (1ページ) https://newsdig.tbs.[...] 2024-03-19
[312] Youtube 森永卓郎さんの「フェイク音声」も… 株価4万円超や新NISA、高まる“投資熱”の裏で手口が巧妙化 有名人をかたる投資詐欺【news23】｜TBS NEWS DIG https://www.youtube.[...] 2024-03-19
[313] 뉴스 No, That's Not Taylor Swift Peddling Le Creuset Cookware https://www.nytimes.[...] 2024-01-10
[314] 간행물 "Fake-App": Mit diesem Programm kann jeder im Porno landen – ob er will oder nicht! https://www.berliner[...] Berliner-Kurier.de
[315] 뉴스 Arizona woman falls victim to deepfake scam using celebrities on social media https://www.abc15.co[...] 2024-01-10
[316] 뉴스 Deepfake videos of Elon Musk used in get-rich-quick scam https://factcheck.af[...] 2024-01-10
[317] 뉴스 MrBeast calls TikTok ad showing an AI version of him a 'scam' https://www.nbcnews.[...] 2024-01-10
[318] 뉴스 Dick Smith criticises Facebook after scammers circulate deepfake video ad https://www.theguard[...] 2024-01-10
[319] 뉴스 Martin Lewis warns over 'first' deepfake video scam ad circulating on Facebook https://techcrunch.c[...] 2024-01-10
[320] 뉴스 Singapore PM Lee warns of 'very convincing' deepfakes 'spreading disinformation' after fake video of him emerges https://www.scmp.com[...] 2024-01-10
[321] 뉴스 Fun new deepfake consequence: more convincing crypto scams https://www.theverge[...] 2024-01-10
[322] 뉴스 Deepfaked Celebrity Ads Promoting Medicare Scams Run Rampant on YouTube https://www.404media[...] 2024-01-10
[323] 뉴스 YouTube Deletes 1,000 Videos of Celebrity AI Scam Ads https://www.404media[...] 2024-02-02
[324] 웹사이트 Artificial Imposters—Cybercriminals Turn to AI Voice Cloning for a New Breed of Scam https://www.mcafee.c[...] 2023-05-15
[325] 웹사이트 AI悪用の音声詐欺が世界で急増、被害者の8割は金銭被害も https://www.itmedia.[...] 2023-05-19
[326] 웹사이트 https://eiga.com/new[...]
[327] 웹사이트 日本人アイドルも被害に。96％がポルノ動画の「ディープフェイク」政治的な悪用も https://www.buzzfeed[...] 2020-01-15
[328] 웹사이트 Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos https://www.aargauer[...] az Aargauer Zeitung 2019-01-26
[329] 웹사이트 Deepfakes: Auf dem Weg in eine alternative Realität? http://faktenfinder.[...] 2019-01-26
[330] 웹사이트 Here's a Creepy Video of Trump Speaking Chinese via AI https://www.thatsmag[...] 2019-09-03
[331] 웹사이트 China’s A.I. Advances Help Its Tech Industry, and State Security https://www.nytimes.[...] 2019-09-03
[332] 웹사이트 Jordan Peele’s simulated Obama PSA is a double-edged warning against fake news https://www.vox.com/[...] 2018-04-18
[333] 웹사이트 A Seattle TV station aired doctored footage of Trump’s Oval Office speech. The employee has been fired. https://www.washingt[...] 2019-01-11
[334] 웹사이트 Deepfake Putin is here to warn Americans about their self-inflicted doom https://www.technolo[...] 2020-10-07
[335] 뉴스 Deepfake video of Zelenskyy could be 'tip of the iceberg' in info war, experts warn https://www.npr.org/[...] NPR 2022-03-17
[336] 뉴스 投降呼びかけるゼレンスキー氏の偽動画　米メタが削除 https://www.nikkei.c[...] 日本経済新聞 2023-12-07
[337] 뉴스 【解説動画】ウクライナ情勢 拡散する「ディープフェイク」 https://www3.nhk.or.[...] NHK 2023-12-07
[338] 뉴스 ウクライナ大統領の偽動画は、ディープフェイクが戦争の“武器”となる世界を予見している https://wired.jp/art[...] WIRED 2023-12-07
[339] 뉴스 ウクライナ軍トップの偽動画がネット上で拡散…「ゼレンスキーは我が国の敵」とディープフェイク https://www.yomiuri.[...] 読売新聞 2023-12-07
[340] 웹사이트 みんなで語る未解決事件（旧名）on Twitter: "やったぜ。投稿者：変態糞総理 https://t.co/zxMnM5vVGT" / Twitter https://web.archive.[...] 2023-11-16
[341] 웹사이트 “岸田首相の声”のフェイク動画拡散…ニュース画面に見せかけ｜日テレNEWS NNN https://news.ntv.co.[...] 2023-11-16
[342] 뉴스 Fake Putin Speech Calling for Martial Law Aired in Russia https://www.nytimes.[...] 2023-06-05
[343] 뉴스 Pope Francis in Balenciaga deepfake fools millions: 'Definitely scary' https://nypost.com/2[...] 2023-03-28
[344] 뉴스 Misinformation, mistakes and the Pope in a puffer: what rapidly evolving AI can – and can't – do https://www.theguard[...] 2023-03-31
[345] 뉴스 The Pope in a Coat Is Not From a Holy Place https://slate.com/te[...] 2023-03-29
[346] 뉴스 Deepfake Used to Attack Activist Couple Shows New Disinformation Frontier https://www.reuters.[...] Reuters 2020-07-15
[347] 뉴스 "'Leftists for Bibi'? Deepfake Pro-Netanyahu Propaganda Exposed: According to a Series of Facebook Posts, the Israeli Prime Minister is Winning over Left-Wing Followers--Except that None of the People in Question Exist" https://www.972mag.c[...] 972 Magazine 2020-08-12
[348] 뉴스 הפורנוגרפיה של ההסתהתומכי נתניהו ממשיכים להפיץ פוסטים מזויפים בקבוצות במדיה החברתית • לצד הטרלות מעלות גיחוך מופצות תמונות שקריות על מנת להגביר את השנאה והפילוג בחברה הישראלית https://www.the7eye.[...] The Seventh Eye 2020-06-09
[349] 뉴스 生成AIで関東大震災「新証言」を作成…「捏造」批判受け日赤の企画展中止 https://www.yomiuri.[...] 読売新聞 2023-09-03
[350] 웹사이트 https://mainichi.jp/[...]
[351] 뉴스 中国で人気”偽動画作成アプリ” 米 選挙への影響懸念 https://web.archive.[...] 2019-09-05
[352] 웹사이트 S. 3805–115th Congress (2017-2018): Malicious Deep Fake Prohibition Act of 2018 https://www.congress[...] 2018-12-21
[353] 웹사이트 'Deepfake' revenge porn is now illegal in Virginia http://social.techcr[...] 2019-07-01
[354] 웹사이트 Congress Wants to Solve Deepfakes by 2020. That Should Worry Us. https://slate.com/te[...] 2019-07-15
[355] 웹사이트 Bill Text - AB-602 Depiction of individual using digital or electronic technology: sexually explicit material: cause of action. https://leginfo.legi[...]
[356] 웹사이트 Bill Text - AB-730 Elections: deceptive audio or visual media. https://leginfo.legi[...]
[357] 웹사이트 Fake-porn videos are being weaponized to harass and humiliate women: ‘Everybody is a potential target’ https://www.washingt[...] 2018-12-30
[358] 웹사이트 https://www.jetro.go[...]
[359] 웹사이트 https://www3.nhk.or.[...]
[360] 웹사이트 China seeks to root out fake news and deepfakes with new online content rules https://www.reuters.[...] Reuters 2019-11-29
[361] 웹사이트 China makes it a criminal offense to publish deepfakes or fake news without disclosure https://www.theverge[...] 2019-11-29
[362] 뉴스 Call for upskirting bill to include 'deepfake' pornography ban https://www.theguard[...]
[363] 웹사이트 Perfect Deepfake Tech Could Arrive Sooner Than Expected https://www.wbur.org[...] 2019-10-02
[364] 웹사이트 As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring https://www.business[...]
[365] 뉴스 Pornhub hasn't been actively enforcing its deepfake ban https://www.engadget[...]
[366] 뉴스 Pornhub Banned Deepfake Celebrity Sex Videos, But The Site Is Still Full Of Them https://www.buzzfeed[...]
[367] 간행물 "Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor http://www.spiegel.d[...] Spiegel Online 2018-02-07
[368] 간행물 Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos https://futurezone.a[...]
[369] 웹사이트 Reddit verbannt Deepfake-Pornos https://www.derstand[...] 2018-02-08
[370] 간행물 Künstliche Intelligenz: Auf Fake News folgt Fake Porn http://www.zeit.de/d[...] Die Zeit 2018-01-26
[371] 간행물 Deepfakes: Neuronale Netzwerke erschaffen Fake-Porn und Hitler-Parodien https://www.heise.de[...]
[372] 뉴스 An AI program will soon be here to help your deepfake dancing – just don't call it deepfake https://www.business[...] 2018-08-27
[373] 뉴스 Deepfakes for dancing: you can now use AI to fake those dance moves you always wanted https://www.theverge[...]
[374] 뉴스 China’s Red-Hot Face-Swapping App Provokes Privacy Concern https://www.bloomber[...] 2019-09-02
[375] 뉴스 顔写真1枚で簡単にディープフェイク映像を作成できる無料アプリ登場、中国で大人気に https://gigazine.net[...] 2019-09-03
[376] 논문 Countering Malicious DeepFakes: Survey, Battleground, and Horizon https://doi.org/10.1[...] 2022-07-01
[377] 논문 Deepfakes: Trick or treat? https://irep.ntu.ac.[...]
[378] 논문 Synthetic media: The real trouble with deepfakes https://knowablemaga[...] Annual Reviews 2020-03-16
[379] 논문 Image Forensics https://www.annualre[...] 2019-09-15
[380] 뉴스 What Are Deepfakes & Why the Future of Porn is Terrifying https://www.highsnob[...] 2018-02-20
[381] 뉴스 Here Come the Fake Videos, Too https://www.nytimes.[...] 2018-03-04
[382] 논문 Adversarial Learning of Deepfakes in Accounting 2019-10
[383] 뉴스 정부, '딥페이크 소지·구입·시청 시 처벌' 입법 추진(종합) https://www.yna.co.k[...] 2024-08-30
[384] 뉴스 Top AI researchers race to detect 'deepfake' videos: 'We are outgunned' https://www.washingt[...] 2019-06-12
[385] 웹사이트 Thanks to AI, the future of 'fake news' is being pioneered in homemade porn https://www.nbcnews.[...] 2018-02-08
[386] 웹사이트 Another convincing deepfake app goes viral prompting immediate privacy backlash https://www.theverge[...] 2019-09-02
[387] 웹사이트 We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now https://www.vice.com[...] 2018-01-24
[388] 웹사이트 People Are Using Face-Swapping Tech to Add Nicolas Cage to Random Movies and What Is 2018 https://mashable.com[...] 2018-01-31
[389] 웹사이트 r/SFWdeepfakes https://www.reddit.c[...]
[390] 웹사이트 Here's where 'deepfakes,' the new fake celebrity porn, went after the Reddit ban https://www.dailydot[...] 2018-02-08
[391] 웹사이트 I'm using AI to face-swap Elon Musk and Jeff Bezos, and I'm really bad at it https://www.theverge[...] 2018-02-11
[392] 웹사이트 What is a Deepfake and How Are They Made? https://www.online-t[...] 2019-05-23
[393] 웹사이트 Deepfakes web {{!}} The best online faceswap app https://deepfakesweb[...]
[394] 웹사이트 Faceswap is the leading free and Open Source multi-platform Deepfakes software. https://faceswap.dev 2019-10-15
[395] 웹사이트 DeepFaceLab is a tool that utilizes machine learning to replace faces in videos. Includes prebuilt ready to work standalone Windows 7,8,10 binary (look readme.md).: iperov/DeepFaceLab https://github.com/i[...] 2019-06-19
[396] 웹사이트 Why Deepfakes Are A Net Positive For Humanity https://www.forbes.c[...]
[397] 웹사이트 You've been warned: Full body deepfakes are the next step in AI-based human mimicry https://www.fastcomp[...] 2019-09-21
[398] 웹사이트 You can now deepfake yourself into a celebrity with just a few clicks https://www.dailydot[...]
[399] 웹사이트 Fun or Fear: Deepfake App Puts Celebrity Faces In Your Selfies https://kool1079.com[...] 2020-03-06
[400] 뉴스 Kanye West, Kim Kardashian and her dad: Should we make holograms of the dead? https://www.bbc.com/[...] 2020-10-31
[401] 웹사이트 Kanye West Gave Kim Kardashian a Hologram of Her Father for Her Birthday https://www.themodem[...] 2020-10-30
[402] 잡지 Simon Cowell Duets With Elvis in Metaphysic's Latest Deepfake 'AGT' Performance: Watch https://www.billboar[...] 2022-09-14


본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com