[20.12.23] 딥페이크(deep learning + fake) 중 GANs

출처

www.boannews.com/media/view.asp?idx=93478

[2021 보안 핫키워드-5] 영상·음성까지 합성 ‘딥페이크’, 비대면 사회 침투하나

---

 

www.youtube.com/watch?v=Jm0s0CEEd3Q

해당 영상은 mnet의 ai음악프로젝트 다시한번에서 고 임성훈 씨(터틀맨)를 인공지능 기술로 재연하여 거북이 단체 무대를 한 내용이다. 

 

다시한번이라는 프로그램이 '대중들이 그리워하는 아티스트들의 발자취를 더듬어 보고, 그들의 목소리를 복원해 새로운 무대를 선보이고자 기획된 프로그램' 이라는 취지에서는 적합하다 생각했다. 생각보다 생동감이 있고 자연스러웠다.

 

여기에서 사용된 기술은 인공지는 학습법 중 하나인 GANs로, 딥페이크에서 사용되는 기술이다.

 

 

GANs 구조

생성적 적대 신경망(GANs, Generative Adversarial Networks) Generator(생성자)와 Discriminator(구분자)가 서로 경쟁(Adversarial)하며 데이터를 생성(Gernerative)하는 모델(Network)  예를 들어 z를 받아서 Generator(생성자)에서 z와 비슷한 데이터를 만들도록 학습한다. => Fake 와 Real 이후 Discriminator(식별자)를 통해서 실제 데이터 z와 가짜 데이터를 구별하도록 학습한다. GANs의 목표는 실제 데이터와 매우 근접한 데이터를 생성하는 것이며,  Generator는 실제 데이터와 상당히 가깝게 생성하도록 노력하며 이 과정을 통해 생성자와 구분자의 성능이 점점 개선되며 궁극적으로는 구분자가 실제 데이터와 가짜 데이터를 구분하지 못하게 만들정도로 가깝게 만드는 것이 궁극적 목표이다.

이렇게 계속적으로 보완 및 재생성을 반복하면서 더 완성도가 높은 작품을 생성한다. 

 

딥페이크 ( Deep learning + Fake )  심층학습(Deep learning)과 가짜(Fake)의 합성어로,  인공지능을 통해서 기존 영상에 다른 이미지를 자연스럽게 덧입히거나 아예 새롭게 생성하는 기술이다.

 

현재는 인공지능 기술이 발달하면서 위 프로그램처럼 누군가에게 추억을 회상하는 좋은 방향으로 기술을 활용하는 반면, 악용하는 사례도 급증할 것이라고 예상한다. 

예를 들어, 음란물에서 포르노 배우의 작품에서 유명 배우 및 스타들의 얼굴을 합성하여 유포해 피해를 입히는 경우이다.

 

이러한 딥페이크를 탐지하는 기술 역시 인공지능으로 개발되고 있다.

마이크로소프트(동영상 인증기) : 빛의 양 변화, 미묘한 화상 겹침 등으로 눈으로 확인 불가한 영역도 인공지능으로 분석 KAIST(카이캐치) : 사진 변형 여부를 인공지능으로 탐지