상세 컨텐츠

본문 제목

딥페이크(Deepfake)가 긍정적으로 활용될 수 있다고?

IT 보안/이슈·동향

by 신시웨이 공식 블로그 2022. 7. 28. 13:41

본문

 

딥페이크(Deepfake)란?

 

딥페이크(Deepfake)는 인공지능의 한 분야인 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 사람의 얼굴 혹은 신체를 대상으로 한 영상물 등을 인공지능(AI)기술을 이용하여 영화의 컴퓨터그래픽처럼 편집·합성한 가짜 콘텐츠를 의미합니다.  

딥페이크 기술은 가상현실, 증강현실에 활용될 수 있고 촬영 없이도 영상을 제작할 수 있는 뛰어난 기술이며 GAN(Generative Adversarial Network, 생정적 적대 신경망’)이라는 딥러닝 알고리즘이 이용됩니다. GAN은 인공지능끼리 경쟁하도록 하여 오차를 줄이고 진짜 같은 가짜를 만들어내는 기술로 이미지, 영상, 음성 등을 실제와 유사하게 구현할 수 있습니다. 

 

딥페이크 범죄, 혹시 내 얼굴도? 

 

딥페이크 기술은 우리에게 범죄 사례로 더 익숙할 것입니다. 딥페이크를 활용한 범죄 및 악용사례들이 전 세계적으로 끊이지 않고 발생하고 있으며 대상자 얼굴과 음란물을 합성하여 유포하는 성범죄가 사회문제로 떠오르고 있습니다.  

방송통신심의위원회에 따르면 2021년 1~9월 딥페이크 성적 허위영상의 처리 건수는 2020년 하반기보다 256% 증가하였습니다. 이에 법무부에서는 2020년도에 ‘성폭력범죄의 처벌 등에 관한 특례법’에 딥페이크 음란물에 대한 규정을 신설하였습니다. 개정된 주요 내용은 다음과 같습니다.  

① 반포‧판매 등의 목적으로 사람의 얼굴‧신체‧음성을 대상으로 한 촬영물‧영상물‧음성물을 대상자의 의사에 반하여 성적 욕망 또는 성적 수치심을 유발할 수 있는 형태로 편집‧합성‧가공한 자를 ‘5년 이하의 징역 또는 5천만원 이하의 벌금’에 처하도록 규정(제14조의2 제1항) 

 ② 제1항에 따른 편집물‧합성물‧가공물 또는 복제물을 반포‧판매‧임대‧제공 또는 공공연하게 전시‧상영(이하 ‘반포등’이라 한다)한 자 또는 제1항의 편집등을 할 당시에는 대상자의 의사에 반하지 아니한 경우에도 사후에 대상자의 의사에 반하여 반포등을 한 자를 ‘5년 이하의 징역 또는 5천만원 이하의 벌금’에 처하도록 규정(제2항) 

 

성적인 용도로 악용될 뿐만 아니라 딥페이크를 통해 가짜뉴스영상이 제작되어 혼란을 일으키기도 했습니다. 미국의 낸시 펠로시 하의원장이 진보센터 행사에 참석해 술에 취해 헛소리를 하는 듯한 장면이 담긴 영상이 확산되었습니다. 이는 조작된 영상이었으나 SNS를 통해 확산되어 이미지 훼손 및 정치적 분열과 갈등을 조장하였습니다.  

 

긍정적 활용사례는 없을까?

 

그러나 딥페이크 기술이 반드시 부정적으로 악용되는 것은 아니며 의료, 미디어 등 각종 산업에서 긍적적으로 활용될 수 있습니다.  

출처: Ground AI

의료계에서는 딥페이크 기술을 바탕으로 다양한 연구를 진행하고 있으며, 20197월 독일 뤼벡대학교 의료정보학연구소에서는 GAN인공지능 알고리즘을 활용하여 딥페이크 의료영상을 개발하였습니다. 원본 영상과 유사한 의료영상을 통해 인공지능이 질병을 학습하고 정확히 진단할 수 있도록 학습시킨 후 이를 통해 CT, MRI, X선이미지를 분석해 암의 징후와 이상신호를 탐지하는 데 도움을 주고 있습니다. 

 

출처: 그것이 알고싶다

SBS 그것이 알고싶다 에서는 딥페이크 범죄 피해자의 모습을 모자이크가 아닌 딥페이크 기술을 통해 재현하였습니다. 이처럼 신원보호가 필요한 피해자들의 모습을 딥페이크로 재현함으로써 익명성을 보장하면서도 시청자들에게 그들의 감정을 생생하게 전달할 수 있었습니다. 또한 MC 김상중의 모습을 딥페이크로 마치 쌍둥이처럼 보여주며 ‘진짜와 가짜를 구별할 수 없는 세상이 온다’는 메시지를 전달하기도 했습니다. 

 

출처: MyHeritage

독일의 AI업체에서 딥페이크기술을 활용하여 만든 My Heritage Nostalgia라는 프로그램을 통해 흑백사진으로만 남아있던 역사속 인물들을 그대로 구현할 수 있게되었습니다. 딥페이크 기술을 통해 정지된 사진이 마치 살아있는 듯이 표정이 자연스럽게 움직이는 영상으로 바뀌었습니다. 우리나라 독립운동가 유관순 열사와 안중근 의사, 윤봉길 의사의 모습이 영상으로 복원되어 화제가 되었습니다. 

관련글 더보기

댓글 영역