가짜영상기술 딥페이크

딥페이크 영상 (출처 : 유튜브 Ctrl Shift Face)

딥페이크 (Deepfake)

---

딥러닝(Deep Learning)과 페이크(Fake)의 합성어, 인공지능 기술을 이용해 합성한 가짜영상

 

쉽사리 알아차릴 수 없는 가짜뉴스를 경계해야한다는 소리가 힘을 얻어가고 있을즈음 간간히 '딥페이크'를 이용한 영상에 대한 소식들이 들려오곤 했었다. 

참고기사 : ... 가짜 포르노 부작용 주의

가짜뉴스 이어 '딥페이크' 비상...가짜 포르노 부작용 주의 [지식용어]

딥페이크에 대한 경계심이 부각된 것은 오브라이언 토크쇼에서 '빌 헤이더'(이하 빌)가 '아놀드 슈왈츠제네거'(이하 아놀드)의 성대모사를 하는 장면에서 '빌'의 얼굴이 자연스럽게 '아놀드'의 얼굴로 바뀌는 장면이 유튜브(Ctrl Shift Face)에 돌면서이다.

재미로 간단하게 얼굴만 조작한다면 별 문제가 안될거라 생각하는 사람들도 있겠지만 이런 종류의 기술이 개발되면 민간분야에서 가장 먼저, 많이 사용되는 곳은 포르노 시장일 것이다. 안타깝게도 그 예상은 크게 빗나가지 않고 현재 딥페이크 기술이 가장 많이 사용되는 분야가 합성포르노 부분이라고 한다. 

참고기사 : 합성포르노 피해자 25%가 K팝 아이돌

합성포르노 ‘딥페이크’ 영상 피해자 중 25%가 ‘한국 아이돌’ 문제 심각

위 기사에 따르면 딥페이크기술이 활용된 영상의 96%가 포르노 영상이었고, 피해자의 25%가 한국아이돌이며 영상의 출처는 대부분 중국이라고 한다. 

배우 알렉블드윈과 도널드 트럼프 대통령의 딥페이크 영상 (출처 : 유튜버 Derpfakes

처음 딥페이크 기술이 활용되는 영상의 조사를 시작할 때는 정치, 사기 등에 많이 사용될 것이라 예상했다는데 결과는 오히려 합성포르노 부분이었다. 누군가에겐 재미로 만든 영상이겠지만 피해자에겐 결코 회복할 수 없는 상처를 남기는 일일 텐데 윤리교육이 기술발전을 따라가지 못해서, 돈벌이를 위해 수단과 방법을 가리지 않는 일부 몰지각한 사람들로 인해 발생하는 문제가 아닐까 싶다. 

정작 큰 문제는 다른 분야에서도 이 기술이 활용되는 경우일 것이다. 위 기사에선 정치, 사기등에 사용될 것 같아 조사를 시작했다는 내용이 있었다. '딥페이크'의 활용이 사회에 어떤 영향을 미칠지 아래 영상을 통해 확인해보자. 

 

위 영상의 내용을 끝까지 봤다면 '딥페이크' 기술이 큰 재앙으로 다가올 수 있다는 점을 염두해두어야 할 것 같다. 노벨이 발명한 다이너마이트 처럼 용도에 따라 아주 다른 결과를 우리에게 줄 수 있는 기술이 '딥페이크'라 할 수 있겠다. 

최근 다시 이슈가 되는 것 중 하나가 대선을 앞둔 미국과 총선을 앞둔 한국엔 눈앞에 다가온 위협일 수도 있다. 출마자가 하지도 않은 행동, 말이 실제로 한 것 처럼 인터넷에 떠돌면서 선거의 판세를 바꿀 수도 있기 때문이다.

관련기사 : 새로운 가짜 뉴스의 위협, 딥페이크 

[IT용어사전] 새로운 가짜 뉴스의 위협, 딥페이크 | IT동아

미국에선 이러한 위협을 제거하기 위해 페이스북, 트위터, 구글 등이 '딥페이크'영상 확산을 방지하기 위해 애쓰고 있다고 한다. (관련기사 : 페이스북, 구글 '딥페이크' 적발.방지에 안간힘)

구글은 광고에서 딥페이크의 사용을 금지시켰고, 트위터도 조작된 영상물을 표시하는 방안을 컴토중이라 밝혔다. 페이스북, 마이크로소프트, 아마존은 '딥페이크 탐지 챌린지'를 통해 조작된 미디어 탐지 방안을 연구한다고 한다. 

'딥페이크'는 영화와 같은 재미를 위한 기술로 사용될 때는 무해하고 축복받은 기술이지만 악의적인 콘텐츠 제작에 사용되기 시작하면 그 파급효과는 상상하기도 힘들정도로 엄청날 것이다. 

선한 의도로 개발된 다이너마이트가 많은 사람으 살상하는 용도로 사용되었던 것 처럼 우리에게 새롭게 다가올 여러 가지 신기술들을 선한 의도로 사용하려는 의지와 노력이 우선되엉 할 것이고 바르게 사용할 수 있도록 기술적인 뒷받침도 중요한 것 같다.