논란의 중심이 된 '딥 페이크'

안녕하세요. 오늘은 논란의 중심이 되고있는 딥페이크에 대해 알아보겠습니다.

 

논란의 중심이 된 '딥 페이크'

딥 페이크는 무엇인가?

딥 페이크는 기존에 실존하는 인물의 외형, 즉 얼굴이나 몸 등의 부위를 인공지능 기술을 이용하여 영화에서 CG 효과를 주듯 합성한 편집물을 의미한다. 사실 이런 경우는 예전부터 존재해왔는데 과거에는 누가 봐도 합성한 편집물이라는 것을 알 수 있을 정도로 조잡한 실력으로 인물의 사진이나 영상을 합성했었다. 현시대에 들어서서 디지털 기술과 인공지능의 발전으로 인하여 예전보다 훨씬 정교해진 편집물을 딥페이크라고한다. 딥 페이크의 기본 원리는 딥러닝 기술을 이용하여 합성하고자하는 인물의 얼굴이 잘 나오는 화질이 좋은 동영상을 가져온다. 그다음 대상이 되는 동영상을 프레임 단위로 합성시키는 것이다. 딥페이크 편집물은 병렬 연산장치의 성능에 따라 속도와 품질이 결정된다.

딥페이크의 특징

딥 페이크는 우리가 아는 합성의 의미와는 조금 다르다. 인물의 얼굴 전체를 통째로 따오는 것이 아니라 얼굴의 형태, 피부톤만 기존의 영상에서 바꿔치기하는것이다. 즉, 눈코입 부분만 합성을 한다는 뜻이다. 사람의 인상에는 헤어스타일과 안면윤곽도 크게 작용하며, 합성 대상이 원본과 확연히 다른 안면윤곽을 가지고 있다면 합성 자체는 자연스럽게 이루어졌다 하더라도 전혀 동일인이 아닌 것처럼 보이게 된다. 또한, 딥 러닝 방식의 특성상 주어지지 않은 정보에 대해서는 제대로 대응하지 못한다. 이 말의 뜻은 내가 합성을 원하는 사진에 근처에 다른 물건이 존재한다거나, 얼굴이 조금이라도 프레임에서 벗어났다거나, 일반적이지않는 독특한 표정을 지은 사진을 이용하면 초보자가 합성을 시도한듯한 부자연스러운 결과가 나온다. 심한 경우에는 실패하여 원본 얼굴이 나올 수도 있다. 즉, 아무런 방해물이 없는 상태의 일반적인 얼굴표정만 잘 잡아낸다는 것이다. 프로그램이 많은 학습을 받지 못했을때도 부자연스러운 결과가 나오기도 한다. 이때의 모습이 기괴하기 때문에 불쾌한 골짜기 현상이 일어나기도 한다. 원본의 음성파일에는 전혀 손을 대지 않지만 입모양을 원본의 소리와 맞춰 작업하기 때문에 아예 목소리가 다른 인물이라 하더라도 발음과 입의 움직임이 똑같기때문에 우리가 봤을 때 자연스럽다고 인식할 수 있다. 이러한 특징을 잘 이용한다면 방송이나 광고에서는 좋은 방면으로 이용될 수도 있을 것이다.

딥 페이크의 문제점

아직까지는 우리가 딥페이크 영상을 봤을 때 조잡한 느낌이 많이 들기 때문에 가짜라는 것을 대충 알 수 있지만 영상의 화질이나 처리되는 테이터의 질에 따라 딥 페이크 영상과 원본 영상의 구분이 어려울 정도로 발전하는 추세이다. 제일 화제가 되고 있는 연예인 딥 페이크를 보면 우리가 가장 많은 데이터를 얻을 수 있는 사람들이기 때문에 영상 제작에 적합하다고 볼 수 있다. 하지만 본의 허락을 받지 않은 포르노 영상으로 사용된다는 것이 문제이다. 특히 폰 허브를 비롯한 다수의 프로노 사이트, 트위터와 같이 접근성이 높은 사이트에도 실제로 이런 영상들이 돌아다녔었다. 또한 정치적 목적으로 딥 페이크 영상을 만들어 정치인의 말조차 가짜로 만들어내어 정치적 공세를 가하는 경우도 존재한다. 그럼 우리는 생각하게 된다. 내 얼굴로 만들어진 영상을 봤다면 신고하면 되잖아? 안타깝게도 얼굴이 합성되기 전 원본 영상의 몸은 본인이 아니기 때문에 사생활 침해에 해당되지 않는다고 한다. 만약 동영상을 내리고 싶다면 할 수 있는 유일한 방법은 원본 영상에 대한 저작권 침해로 클레임을 거는 것 밖에 없다. 이와 같은 문제들이 수면 밖으로 드러나자 폰 허브와 같은 대형 플랫폼들은 사이트에 올라와있는 딥 페이크영상을 모두 내렸다. 하지만 또 다른 문제가 생겼다. 대형 플랫폼에서 영상을 삭제조치하자 딥페이크 전용 사이들이 생겨나기 시작한 것이다. 그 사이트들은 자신들을 '풍자화 예술' 콘텐츠라고 자칭해서 미국 헌법상 보호되고 있다. 그렇기 때문에 사이트에 올라와있는 영상들을 강제로 내리게 할 수도 없다.

개인적인 나의 견해

기술이 계속해서 발전함에 따라 좋은 점도 분명히 많겠지만 이런 '딥 페이크'와 같은 기술을 이용해서 나쁜 일을 하는 사람들이 늘어난다는게 무섭다. 분명 딥페이크도 처음에는 좋은 의도로 시작한 프로그램일텐데 어쩌다가 이렇게 사용되고있는건지 사람들이 조금만 더 생각해보았으면한다. 사실 지금 이 글을 올리는 순간에도 전 세계에서는 딥페이크 영상이 올라오고 있을 것이다. 생각을 살짝 틀어보면 내가 피해자가 될 수도 있을 텐데 이런 기술이 아직까지 이렇게 쓰이고 있다는 것은 이해가 잘 되지 않는다.