논란의 딥페이크 뜻, 정의, 논란 상황, 처벌 가능성 확인

이번주 계속 올라온 충격적인 뉴스인 딥페이크 범죄. 요즘 청소년들이 얼마나 무서운 범죄를 저지르고 있는지 말문이 막힌다. 기술이 발전하면서 겪는 문제로 봐야 할지 아니면 우리 때완 다르게 만들어진 세상 문제일지 모르겠다. 기술이 급격히 변해 좋아진 점도 많지만 그 반대의 불편한 점도 그리고 문제점도 많아지는 것 같다.
 

오늘은 딥페이크에 대해서 한번 찾아봤다.
 

딥페이크 (Deepfake) 뜻

---

 딥페이크(Deepfake)는 인공지능(AI)를 활용해 사람 얼굴이나 목소리를 기존의 이미지나 동영상에 진짜처럼 교묘하게 합성/편집하는 기술이다. 이 용어는 딥 러닝 (Deep Learning)과 페이크(Fake)의 합성어로 딥러닝을 이용해 정교하게 만들어진 가짜 콘텐츠다.
 
주로 2개의 딥러닝 기법을 사용해서 딥페이크 환경을 만드는데, 생성적 적대 신경망과 오토인코더를 활용한다.
 
1)생성적 적대 신경망 (GAN; Generative Adversarial Networks) : 두개의 신경망이 서로 경쟁하는 방식으로 작동하는데 하나는 가짜 이미지를 생성하고 하나는 이미지를 감별한다. 이 과정을 계속 반복하며 점점 더 정교한 딥페이크를 만들게 된다.
2)오토인코더 (Autoencoder) : 이미지를 저 차원으로 압축한 후 다시 복원하는 방식인데 두 사람의 영상 데이터를 학습시킨 뒤 한 사람의 얼굴을 다른 사람의 얼굴로 변환하는 데 사용한다.
 

딥페이크의 긍정적인 사용

---

이번주 내내 딥페이크의 안좋은 점을 뉴스를 통해 접했지만 사실 잘 활용하면 좋은 것으로 활용이 가능하다.
 
영화 및 TV 제작 또는 고인의 영상물 제작 : 딥페이크 기술은 배우를 이용해 늙거나 젊어지게 할 수 있어 배역에 맞는 연기를 가능하게 한다. 또한, 고인이 된 배우를 스크린에서 볼 수 있게도 해줄 수 있다. 일반인들에게도 고인이 된 분들을 딥페이크를 통해 생동감 있게 보여줄 수 있다.
예를 들어 우리나라 애국자들의 사진으로 이 분들이 생전 모습을 영상으로 담아낼 수 있어 좀 더 쉽게 역사에 다가갈 수 있다.
 
맞춤형 광고 및 마케팅 활용 : 소비자에게 개인화된 광고나 마케팅 콘텐츠를 제공할 수 있는데, 특정 인물이 개인의 이름을 직접 불러주며 메시지를 전달할 수 있는 광고를 만들 수 있어 소비자와의 상호작용을 극대화할 수 있다.
 
그 외 딥페이크 시뮬레이션을 통해 정신 치료를 받을 수도 있고 특정 인물의 발음을 딥페이크로 재현해 다양한 억양 또는 스타일을 학습할 수도 있다.
 
이런 긍정적인 측면이 있는데도 불구하고 나쁜 쪽으로 사용하는 경우가 많아 딥페이크 단어 자체에 부정적인 인식이 생겨버린 것 같다.
 

딥페이크의 부정적인 사용

---

최근 딥페이크를 이용해 범죄를 저지르는 사례가 점점 늘어나고 있다고 한다.
 
성적 영상 제작 및 유포 : 딥페이크 기술로 유명인 또는 일반인의 얼굴을 성적인 영상으로 합성한 후 유포하는 범죄가 지속적으로 발생하고 있다. 이 영상은 다시 피해자를 협박하는 수단으로도 사용하게 된다.
 
사기 및 사칭 : 딥페이크 기술로 얼굴 또는 목소리를 모방해 금융 사기나 신분 도용이 발생한다. 이전에는 특정 인물의 음성 및 영상을 합성해 가족이나 지인에게 돈을 요구하는 사기가 있었으며 최근에는 유명인들의 얼굴을 도용해 기부 같은 걸 요구하는 사례도 발생했다.
 
정치적 목적으로 사칭 : 딥페이크 기술을 이용해 정치인의 발언을 왜곡하거나, 가짜 영상을 만들어 선거등에서 여론을 조작하는 시도도 있다. 올해 초엔 조 바이든의 목소리를 흉내낸 딥페이크 오디오가 뉴햄프셔주 유권자들을 대상으로 자동 전화 메시지로 퍼지면서 큰 논란이 된 적 있다. 바이든 대통령의 목소리를 사칭하여 유권자들에게 선거에 참여하지 말라고 권유하는 내용이었는데 결국 허위 정보로 밝혀졌다.
 
이런 문제점들을 해결하기 위해 딥페이크 탐지 방법인 포렌식 기법 (조명, 그림자, 얼굴 움직임의 일관성 등을 이용한 가짜 이미지 탐색), AI 기반 탐지 (미세한 아티팩트나 사람 눈에 보이지 않는 불일치를 탐지하는 AI 모델) 등 대응하고 있지만 역부족인 듯 하다.
 

딥페이크의 법적 처벌 현황

---

딥페이크에 대해서 규제를 하기 위해 미국에서는 법안을 마련 중이지만 법적 대응만으로 딥페이크의 확산을 완전히 막기 어려울 것이라고 한다. 한국에서도 법적 대응이 가능한 부분이 있지만 주로 성폭력범죄의 처벌 등에 관한 특례법에 규제된다. 이런 영상물 관련 규제는 유포시 최대 5년 이하의 징역 또는 5천만원 이하의 벌금에 처해질 수 있고 상업적 사용일 경우 처벌이 더 강화될 수 있다.
하지만 그  외의 범죄에 대해서는 아직 미비한 수준이고 악용을 막기 위해 법적 제도를 강화하고 있지만 아직 부족한 부분이 많다고 한다.