양날의 검, 인공지능 AI 기술 '딥페이크(Deepfake)'ㅣSBS 그것이 알고싶다

 

12년 만에 부활한 터틀맨

 

학창 시절에 노래방을 가면 빠지지 않고 불렀던 노래, 비행기. 원곡 가수인 거북이의 완전체를 이제는 볼 수 없다고 생각했었지만, 몇 달 전 12년 만에 다시 볼 수 있었다. AI 딥페이크 기술로 부활한 터틀맨의 무대 영상이 만들어져 추억을 소환해 우리에게 새로운 감동을 안겼다. 

 

이어서 이미 고인이 된 사람의 얼굴을 재현해 가족들을 위로하는 영상도 공개되어 큰 화제가 된 바 있다.  

 

 

딥페이크란 무엇일까?

 

딥페이크(Deepfake)란 인공지능 기술 분야인 딥러닝(Deep learning)을 활용해 사람의 얼굴이나 특정 부위 등을 합성한 가짜 영상을 만들어내는 기술이다. 

 

IT부터 엔터테인먼트 산업까지 여러 분야에서 사용되고 있어 사회에서 다양한 순기능을 가지고 있음이 분명하다. 

 

 

보고, 듣고, 의심하라. 가짜와의 전쟁, 딥페이크

 

지난 27일 SBS 그것이 알고 싶다에서는 딥페이크가 범죄에 악용되는 이야기를 다뤘다. 분명 좋은 역할을 할 수 있는 기술이 어떻게 악용되고 있는 걸까? 그 궁금함을 참지 못하고 시청했다. 

 

제보자들은 SNS 디렉트 메시지로 어떤 성관계 영상을 받았고, 이를 빌미로 돈을 요구받았다. 영상 속 인물은 본인은 아니었지만 얼굴은 꽤 닮아있었다. 딥페이크를 이용한 성범죄였다. 

 

 

딥페이크 영상과 함께 온 협박 메시지

 

메시지를 보낸 이는 영상을 유포하겠다며 협박을 했고, 제보자는 자신의 영상이 아니라는 것을 알았기 때문에 그냥 무시했다. 하지만 가짜 영상이 유포되며 피해를 입었다.

 

비슷한 협박 메시지를 받은 피해자는 생각보다 많았다. 그들 중엔 극단적인 선택을 한 사례도 있었다. 

 

그것이 알고 싶다에서 제보자의 얼굴을 딥페이크로 합성했는데, 이처럼 신원 보호가 필요한 사람들을 위한 안전장치가 될 수도 있는 기술이 불법 영상으로 악용된다는 점이 안타까웠다. 조사 결과 전세계 딥페이크 기술 사용목적의 96% 이상이 가짜 성관계 영상인 것으로 확인된다고 하니 씁쓸할 뿐이다.  

 

딥페이크 대신 모자이크로 신원을 보호할 수 있지만, 딥페이크를 활용하면 보다 더 큰 공감을 줄 수 있다. 이 때 합성된 얼굴은 세상에 존재하지 않는 가상 얼굴이다. 

 

 

심각한 범죄 도구로 사용되는 딥페이크

 

이를 악용한 성범죄가 점점 늘고 있어 큰 이슈가 되고 있다. 특히 여성 연예인들을 고통받게 하는 딥페이크 불법 영상을 강력히 처벌해달라는 청원도 올라와 참여인원 39만명이 넘은 상황. (청원은 마감되었으며 20만명이 넘어 답변을 기다리고 있다.)   

 

연예인 얼굴로 만든 딥페이크 영상을 제작, 판매한 범죄자들이 검거되는 것을 뉴스로 봤었는데, SNS 사진을 악용해 연예인 뿐 아니라 일반인도 피해자가 될 수 있다는 것에 경악을 금치 못했다. 피해자가 모르는 사이에 영상이 유포된 사례도 있었다. 

 

심지어 앞으로는 딥페이크 영상을 활용한 보이스 피싱 범죄가 일어날 수 있어 큰 피해가 우려된다. 

 

그것이 알고 싶다에서 그에 대한 실험을 했는데, 3명 중 2명의 부모님이 자신의 신용카드를 사진 찍어 보냈다. 자신의 자식들 얼굴이 아닌 것 같다면서도. 

 

아직까지 자식의 얼굴을 기억하는 부모의 눈을 속일 순 없지만, 딥페이크를 구분하는 보안 기술보다 개발 기술이 더 빠르게 발전하고 있다고 한다. 가짜와 진짜가 거의 차이없는 제작이 가능해지는 것이다. 

 

더 충격적인 것은 딥페이크 사진과 영상을 불법으로 판매하는 사이트의 판매자와 통화를 했는데, 나이가 17세였다. 목적은 돈을 벌기 위함이란다.  

 

딥페이크 불법 영상 제작은 성범죄!

 

딥페이크 불법 영상을 제작하는 것은 정보통신망법상 음란물 유포죄에 해당하며, 허위영상물 편집, 반포 등으로 처벌받을 수 있다. 이는 성범죄에 속해 피해자가 직접 신고하지 않아도 처벌이 가능하며, 사이버상 올리는 범죄는 모두 흔적이 남는다고 하니 범죄자들은 지금이라도 제발 멈춰주길. 

 

스마트폰 대중화로 딥페이크 영상뿐 아니라 디지털 성범죄가 점점 늘고 있다. 만약 피해를 입은 사실을 알았다면 정부에서 운영하는 디지털 성범죄 피해자 지원센터를 통해 무료로 삭제 지원이 가능하다고 한다.  

 

이젠 생활 속에 서서히 들어오고 있는 딥페이크는 양날의 검을 쥐고 있음에 틀림없다. 피해를 최소화하기 위해서 우리가 해야 할 일은 이런 범죄에 대해 경각심을 갖고 주변 사람들에게 알리는 것이다. 이것이 이 글을 쓰게 된 이유이기도 하다.

 

 

 

도움이 되셨다면  공감을 눌러주세요. 

공감과 댓글은 큰 힘이 됩니다. :)

---

 

트래블로버 국내 여행자 보험 가입 방법 및 절차ㅣNo광고ㅣ디비(DB) 보험료 , 5% 이벤트 쿠폰

 

코로나 19가 만든 커피!?ㅣ'제이엠 커피로스터스' vs '하삼동 커피', 달고나 커피 비교

 

스타벅스 사이렌 오더 모바일 쿠폰 사용 가능!ㅣ스벅 돼지바 프라푸치노, 자몽 셔벗 블렌디드