딥페이크(deepfake), 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 신경망(GAN)라는 기계 학습 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다. 딥페이크는 영화나 방송계 등에서 이미 사망하거나 나이가 든 배우를 스크린에 되살리거나 초상권 보호 등을 위해 사용할 수 있는 한편, 딥페이크 포르노그래피를 포함한 유명인의 가짜 섹스 동영상이나 가짜 리벤지 포르노, 가짜 뉴스나 악의적 사기를 만드는 데에 사용되어 논란이 되기도 했다.
사진 조작은 19세기에 개발되어 곧 영화에 적용되었다. 기술은 20세기에 꾸준히 발전했으며, 디지털 비디오의 출현으로 더욱 빠르게 발전했다.
딥페이크 기술은 1990년대부터 학술 기관의 연구원들에 의해 개발되었고 이후에는 온라인 커뮤니티의 아마추어들에 의해 개발되었다. 최근에는 업계에서 해당 방법들을 채택했다.
예시 사건
버락 오바마
2018년 4월 17일, 미국 배우 조던 필, 버즈피드 및 몽키포 프로덕션스(Monkeypaw Productions)는 버락 오바마가 도널드 트럼프의 이름을 저주하고 부르는 모습을 묘사한 버락 오바마의 딥페이크를 유튜브에 게시했다. 이 딥페이크에서는 필의 목소리와 얼굴이 오바마의 목소리와 얼굴로 변형되고 조작되었다. 이 영상의 목적은 딥페이크의 위험한 결과와 위력, 그리고 딥페이크가 어떻게 누군가를 말하게 만들 수 있는지를 묘사하는 것이었다.
도널드 트럼프
2019년 5월 5일, 더프페이크스(Derpfakes)는 NBC의 더 투나잇 쇼(The Tonight Show)에서 지미 팰런의 촌극을 바탕으로 도널드 트럼프의 딥페이크를 유튜브에 게시했다. 2016년 5월 4일 방영된 원작 촌극에서 지미 팰런은 도널드 트럼프 복장을 하고 버락 오바마와의 전화통화에 참여하는 척하며 인디애나에서의 첫 승리를 자랑하는 듯한 방식으로 대화를 나누었다. 딥페이크에서는 지미 팰런의 얼굴이 도널드 트럼프의 얼굴로 바뀌었지만 오디오는 동일하게 유지되었다. 이 딥페이크 영상은 더프페이크스가 코믹한 의도로 제작했다.
2023년 3월, 트럼프를 제지하는 뉴욕 경찰국의 모습을 보여주는 일련의 이미지가 등장했다. Midjourney를 사용하여 생성된 이미지는 처음에 엘리엇 히긴스(Eliot Higgins)가 트위터에 게시했지만 나중에 맥락 없이 다시 공유되어 일부 시청자는 이 사진이 실제 사진이라고 믿게 되었다.