​

안녕하세요. 그린컴입니다!

딥페이크라고 들어보셨나요?

딥페이크는 실제처럼 보이는 가짜 영상 편집물을 말하는데요. 일반 사람들은 이 영상이 가짜인지 진짜인지 구분을 잘 못하기 때문에 현대 사회의 다양한 방면에서 위협이 되고 있다고 합니다. 그렇다면 딥페이크가 도대체 어떠한 원리로 만들어지고, 무슨 위협을 가하고 있는 지에 대해서 알아보도록 하겠습니다.

딥페이크란 딥(Deep)과 페이크(Fake)가 합쳐진 용어로 합성 영상을 처음으로 유통시킨 사람의 아이디에서 시작되었는데요. 인공지능 기술을 이용해 기존에 있던 인물의 얼굴이나 특정한 부위를 합성한 영상편집물을 말합니다. 예전부터 영상 편집에 있어서 합성은 많이 사용되어 왔지만 사람들이 합성이라는 것을 인지할 수 있는 수준이었는데요. 이제는 인공지능 등 기술의 발전으로 이 합성이 점점 더 정교해지면서 일반인은 구분하기 어려울 정도가 되었습니다.

딥페이크는 생성적 적대 신경망(GAN)을 이용하는데요. 생성자(Generator)와 감별자(Discriminator)로 구성된 알고리즘으로 생성자는 가짜 데이터를 만들어내고 감별자는 진짜인지를 감별해 서로 대립하는 과정을 거칩니다. 이 과정을 반복하며 점점 오차를 줄여가게 되고 결국 완벽한 딥페이크 영상이 만들어지게 되는 것입니다. 머신러닝을 기반으로 계속 학습하고 오차를 줄여가기 때문에 시간이 지날수록 더 완벽한 합성 영상을 완성시킬 수 있다고 하네요.

​

요즘은 온라인에 무료로 딥페이크 기술 오픈소스 코드가 공개되어 있기도 하다는데요. 그렇기 때문에 관련 지식을 가진 사람들이라면 누구나 딥페이크 영상을 쉽게 만들 수 있다는 점에서 두려움이 느껴지기도 합니다.

작년, 한 매체에서 오바마 미국 전 대통령이 엉뚱한 말을 하는 영상을 공개하여 화제가 된 적이 있는데요. 이 영상에 나오는 사람은 인공지능이 만들어낸 가짜 인물입니다. 영상을 공개한 매체에서는 딥페이크의 위험성을 경고하고자 본 영상을 제작하였다고 하는데요. 만약 딥페이크라고 인지하지 않은 상태에서 이 영상을 접한다면 진짜 오바마가 저런 발언을 했다라고 믿을 수밖에 없을 것 같습니다.

유명인이 잘못된 발언을 조금이라도 한다면 사회적으로 큰 파장을 일으키는 우리 사회에서 딥페이크 기술은 정치인이나 유명인사들, 연예인들에게는 두려운 존재일 것 같네요.

​

​

유명인사들뿐만 아니라 일반인들 또한 이 위협에 노출될 수 있는데요. SNS와 어플의 발달로 개인의 사진과 음성을 인터넷에서 쉽게 찾을 수 있어 그 데이터들을 통해 이상 영상물에 쉽게 합성할 수도 있기 때문입니다. 또한 오히려 유명인의 경우에는 전문가들도 같이 보고 대응을 빠르게 할 수 있는 반면, 일반인들은 그것이 어렵다는 부분에서 피해가 더 클 것이라고 예상됩니다.

​

지난번에 음성합성기술에 대해서 소개해드린 적이 있었는데요. 얼굴 합성과 더불어 이 음성합성기술까지 더해진다면 그 위협력은 상상도 할 수 없을 것 같습니다. 아직까지는 딥페이크 영상에 대해서 효과적인 대처방안이 나오지 않았는데요. 그렇기 때문에 피해를 만들지 않으려면 개인적으로 인터넷에 돌아다니는 모든 영상을 믿지 않고 출처를 확인하는 방법밖에는 아직 없는 것 같습니다. 모두 의심을 가지고 인터넷을 사용함과 동시에 하루 빨리 가짜 영상을 구분해 내는 기술이 개발 되어 딥페이크의 위협으로부터 자유로워질 수 있었으면 좋겠네요.

​