[딥페이크 예방 영상] 당신이 몰랐던 당신은 안녕하십니까?

딥페이크, 원하지 않는 허위 영상물은 모두 범죄입니다.
딥페이크 예방법과 처벌 수위까지 알아봅시다.

제작: 강원시청자미디어센터 미사여구 제작단

<나레이션 및 주요 내용>

(자막. 누군가 또 다른 나를 만들었다)

(자막. "딥페이크, 장난아닌 형사처벌"... 피해자 의료시, 상담지원. 딥페이크 성범죄 피의자 8명 검거,,,절반이상 10대)
딥페이크 성범죄가 성행하면서 누구나 피해자가 될 수 있다는 불안감이 커지고 있습니다.

(자막. 당신이 몰랐던 당신은 안녕하십니까.)

(제목자막. 딥페이크 원하지 않는 허위 영상물은 모두 범죄입니다.)

(자막. 본 영상은 강원경찰청과 강원시청자미디어센터가 협업하여 제작한 딥페이크 디지털 성범죄 예방 교육을 위한 영상입니다.)

안녕하세요. 오늘 진행을 맡은 강원 경찰청 사이버수사 기획팀장 이태미 입니다.
(자막. 디지털 성범죄 딥페이크(Deep Fake) 허위영상물은 성범죄입니다.)

딥페이크라는 단어 들어보셨나요? 딥러닝과 페이크의 합성어라고 하는데요.이 기술이 디지털 성범죄 악용되면서 사회적인 이슈가 되고 있죠.
딥페이크가 무엇이고, 어떤 부분이 문제인지, 딥페이크로 안전할 방법은 무엇인지, 강원경찰청 박영진 사이버수사 대장님과 함께 자세히 알아보겠습니다.

박: 네. 안녕하세요. 강원경찰청 사이버범죄 수사대장 박영진입니다.

이: 먼저 이 페이크가 무엇인지 궁금하고요. 어떤 점이 문제가 되는 걸까요.

박: 네 쉽게 말씀드리면 페이크 그러니까 가짜로 만들어진 영상물입니다.
딥러닝이라는 인공지능 기술을 활용해서 딥페이라 합쳐서 부르는데요. 얼굴 사진 넣으면 재밌는 사진으로 합성해 주는 어플리케이션을 아마 많이 사용해 보셨을 겁니다. 이게 딥페이크 기술을 활용한 허위 영상물입니다.

(자막. 기술발전이 가져운 두 얼굴)
박: 지금 보시는 영상이 유관순 열사나 안중근 윤봉길 의사의 사진을 가지고 페이크 기술로 복원한 모습인데요. 공개되었을 때 너무나 생 생하는 반응과 함께 딥페이크 사용에 좋은 예로 많은 관심을 받았었죠. 문제는 페이크 기술을 각종 범죄에 악용한다는 겁니다. 발언이나 음성을 조작 해 사기나 허위 사실 유포하는 경우도 있지만 현재 기준으로는 디지털 성범죄에 악용하는 사례가 가장 많이 발견되고 있습니다.
실제 전국적으로 21년에 156건 수준이던 것이 올해 297건 증가했습니다. 연령으로는 10대 학생들이 가장 많은 비중으로 확인됐고요.

(지믹. 허위영상물은 성범죄 : 성적인 영상에 유명인니나 친구 선생님 등을 합성하여 허위영상물(영상뿐만 아니라 사진도 포함!) 만드는 범죄행위가 발생하고 있습니다. 이는 인터넷상의 장난이 아닌 분명한 범죄행위 입니다. 이러한 행동은 [성폭력처벌법] 상 5년 이하의 징역 또는 5천만원 이하의 벌금에 처하는 중범죄입니다.)

이: 제 주변에서도 호기심의 이런저런 합성 어플을 사용하고 있는데요. 어떤 부분이 범죄로 연결될 수 있는 것인지 모르시는 분들을 위해 설명해 주시죠;

박: 네 간단히 사진을 포함해서 성적인 영상에 사람의 영상을 합성하는 모든 행위가 허위 영상물로 성범죄입니다. 성폭력 처벌법이 청소년 성 보호법에서 상당히 행위 유형별로 중하게 처벌하고 있습니다.

(자막. 진화하는 허위영상물 범죄유형 : <제작> 1. 호기심??NO 2.그릇된 인식 3. 연예인, 지인, 제3자. <공유> 1. 친구들 단톡방 공유 2. 능욕방 3. 겹지인방 <판매> 개인 판매 2. 조직적 판매)

박: 범죄 유형을 살펴볼 텐데요. 기술도 계속 발전하고 당사자들의 경험도 축적이 되면서 유형이 다양해지고 있습니다, 전반적인 흐름은 우선 제작을 하고 제작된 창작물을 공유를 하고 그 다음에 경우에 따라서는 영리 목적으로 판매를 하는 구조입니다. 제작은 지금 전문가가 아니더라도 예전과 다르게 경로만 하면 상당히 쉽게 쉽고 빠르게 제작할 수 있습니다. 그래서 가지고 있는 지인들의 사진만 가지고 제작하는 경우에서 연예인이나 주변의 인플루언서 제 3자들 대상으로 그 피해 대상이 확대되고 있습니다.
이렇게 만들어진 결과물을 친구들 사이에 단톡방이나 SNS 올려서 공유하는 걸로 이제 발전이 되는데요. 친구들끼리 단톡방에 장난삼아 공유하는 것도 포함해서 이 그릇된 공유 심리가 확장되면 모르는 사람들끼리 모여서 허위 영상물을 공유하는 능욕방 또는 아예 특정한 피해자를 두고 정보까지 공유하는 겹지인방으로 까지 확장이 되는 겁니다. 이 정도까지 오게 되면 최초 유포자의 본래 의도가 어떻든 간에 스노우볼처럼 알수 없는 방향으로 피해가 확산되고 굴러가게 됩니다.
여기서 저 질문을 하나 드려볼게요? 이제 제작하거나 배포하는 과정에서 피해자들의 심리를 들여다 보면 이들이 공통적으로 빠뜨리고 있는게 있거든요. 그게 어떤게 될까요?

이: 무엇을 빠트리고 있을까요?

박: 네 정답은 피해자를 생각하지 않는다는 겁니다. 다시 말해 피해자의 입장을 전혀 고려하지 않는다는 건데요. 피해자를 직접 만나지 않았다는 생각 이게 쉽게 사진이 만들어진다는 생각이 더해지면서 이게 얼마나 각한 범죄인지, 얼마나 큰 피해를 초래하는 중 범죄인지 대한 인식이 현저히 떨어집니다. 그래서 수사를 해보면 주변 친구나 지인이 검거되는 사례도 상당합니다. 피해자를 생각한다면 장난이나 호기심에라도 앞으로는 만들어 보고 싶다거나 보고 싶다고 하시면 안 되겠습니다.

이: 이 영상을 보시는 분들께서는 '이게 상당히 심각한 범죄구나' 하는 점을 느끼셨을 텐데요. 어느 처벌이 되는지도 궁금하거든요.

(자막. 아동 청소년 대상 허위영상물 처벌 : 특히, 친구를 대상으로 딥페이크 영상 사진 등을 만들었다면 [청소년성보호법]상 '아동 청소년 성착취물'로 무기징역 또는 5년 이상의 징역에 처하고 있습니다. 이는 형법상 살인죄와 유사한 법정형입니다. [아동 청소년(만19세 미만) 성착취물. 아동 청소년으로 명백하게 인식 될 수 있는 사람이나 표현이 등장하여 성적행위를 하는 내용을 표현하는 것으로서 화상, 영상 등의 형태로 될 것]}

박: 네 피해 대상이 아동 청소년인지 성인인지 따라 규정이 나뉘어 있는데 상당히 강하게 처벌한다는 점은 같습니다. 아동 청소년이 대상인 허위 영상물의 경우에는 무기 징역 또는 5년 이상의 징역이 처하고 .  형법상 살인 제화 유사한 수준입니다. 사형을 제외하곤 살인 제화 유사한 수준인데 온라인상에 이런 행위를 소위 인격 살인으로 법에서도 보고 있는 것이죠.

(자막. 아동 청소년 대상 허위영상물 처벌 <판매> 돈을 받고 영상을 보내주는 행위 <배포> 돈을 받지 않고 영상을 보내주는 행위 <구입> 영상물을 사는 행위 <소지> 영상 사진을 가지고 있는 것  <시청> 영상 사진 을 보는 것}

박: 제작에 이어서 이제 판매하거나 배포한 경우 구입한 경우에도 3~5년 이상의 형을 규정하고 있고요. 여기서 또 질문 하나 드려볼게요.
경우에 따라 단순히 이렇게 소지만 하고 있는 경우도 있을 수 있겠고 나도 모르게 이제 시청을 하게 되는 경우도 있을 수 있잖아요. 이런 경우에도 처벌이 될까요?

이: 처벌되나요? 
(자막. <판매> <배포> <구입> <소지> <시청> 모두처벌!)

박: 정답은 '그렇다!' 입니다.
단순히 소지하거나 시청하는 것만으로도 경우에 따라 1년 이상의 형을 규정하고 있습니다. 단순 폭행죄가 2년 이하 상해죄가 7년 이하의 형을 규정하고 있는 점 보면 1년 이상의 유기 징역은 상당히 중한 범죄입니다. 아까 제가 피해자의 관점을 통해서이 범죄의 심각성을 말씀드렸는데요. 나 자신만을 생각했을 때도 저질러서는 안 되는 이유가 보다 명확해지는 겁니다.

(자막. 성인 대상 허위영상물 처벌 : 반포 등을 목적으로 영상물 등을 대상자의 의사에 반하여 성적 욕망 또는 수침심을 유발할 수 있는 형태로 편집, 합성, 가공한 경우 5년이하의 징역에 처하고 있습니다. 이를 건네받아 다른사람에세 전달(반포)한 경우에도 마찬가지 입니다.)
박: 성인을 대상으로 하는 허위 영상물 경우에도 제작 반포한 경우 마찬가지로 처벌 규정을 두고 있는데 양형 과정에서 상당히 중하게 처벌을 하고 있습니다. 현재 처벌을 강화하는 방향으로 계정 논의가 계속 진행 중입니다.

(자막. 성인 대상 허위영상물 처벌 : 1) 얼굴사진, 정보를 공유하면서 품평을 하는 경우에도 2)성적인 사진이 아니더라도,ㅣ 동의없이 허위의 영상 사진을 만드는 것도 경우에 따라 명혜훼손 모욕 등 법적 책임이 따릅니다. [관계법령. 정보통신망법 제 70조(벌칙) 1)사람을 비방할 목적으로 정보통신망을 통하여 공공연하게 거짓의 사실을 드러내어 다른사람의 명예를 훼손한 자는 7년이하의  징역 10년 이하의 자격정지 또는 5천만원 이하의 벌금에 처한다.])
성적인 영상물에 이르지 않더라도 얼굴 사지만 가지고 품평을 한다거나 모욕적인 언사를 섞는다던지, 동의없이 만드는 황의 영상물은 명예훼손 모욕 등 법적 책임이 따를 수 있다는 점도 명심하셨으면 좋겠습니다, 다니고 계시는 학교나 직장 소재지에 따라서도 경우에 따라 징계나 그에 합당한 처분도 별도로 뒤따를 수 있다는 점도 명심하시기 바랍니다.

(자막. 끝까지 추적해서 검거)

이: 텔레그램으로 대표되는 온라인 환경의 특성상 잡기가 어렵다고들 알려져 있는데요. 잡을 수 있는 건가요?

박: 네 전국적으로 저희가 검거한 기사 3건을 보면서 말씀드리겠습니다.
첫 번째는 텔레그램에서 피해자 수백명의 대상으로 그 사진을 의뢰받아서 제작 유포했던 사건인데요. 최근에 검거했습니다.
두 번째는 선생님과 학생의 사진을 제작해서 건당 일정 금액을 받고 불법적으로 판매했던 사건인데요. 마찬가지로 검거했습니다.
마지막으로 친구들 여섯 명이 동창생 12명의 사진을 합성해서 돌려본 사건인데. 교육청과 협력하여 마찬가지로 검거했습니다. 저희는 끝까지 추적할 겁니다.

(자막. 끈까지 추적해서 검거 :  <특별 단속> 사이버 수사대 여성청소년 수사팀 <위장수사> 신분비공개, 신분위장 705명 검거 (!23년, 전국) <추적검거> 텔레그램 등 국제공조 불법촬영물 추적시스템)
박: 디지털 성범죄에 대해서는 위장 수사가 가능합니다. 그동안 많이 전국적으로 진행해 왔고 상담 부분 성과도 확인됐습니다. 텔레그램을 포함한 플랫폼의 사용자 관리 책임도 강화되는 추세이고 경찰청에서는 피해 영상물의 유포 현황을 24시간 모니터링하는 불법 촬영물 추적 시스템도 계속 가동하고 있습니다. 그들을 언제나 지켜보고 있다는 점도 명심하시기 바랍니다.

이: 나 스스로를 지키기 위한 노력도 중요할 텐데요. 이 점은 꼭 지켜야 한다. 이런게 있을까요?

(자막. 허위영상물 관련 범죄 예방 노력 1. 허위의 영상 사진을 만들거나 다른 사람에게 만들어 달라고 부탁하지 않습니다! 2. 다른 사람이 딥페이트 영상 사진을 보낸다면 절대 클릭하지 않습니다! 3. 딥페이크 여상을 발견하였거나 피해를 겪었다면 즉시 112, 117 드 신고합니다. 4. 사진 전화번호 등 개인의 정보는 소중하게 다룹니다.)

박: 허위 영상물을 공유하는 방에 들어가셔서 안 되겠고요. 채팅방이나 제작 경를 연결하는 링크의 경우는 절대 누르시면 안 되겠습니다. 기존에 있던 친목 대화방에 허위 영상물이 업로드 업로드되는 경우에는 시청이나 소지로 조사를 받을 수 있는 여지가 있기 때문에 유포자와 영상은 체증! 스크린샷으로 채증하고 바로 삭제 신고해 주시기 바랍니다. 피해 예방과 관련해서는 평소에 사용하시는 SNS 내 개인 신상을 파악할 수 있는 사진이나 정보는 가급적 노출을 최소화하고 온라인 계정에 대해서는 2단계 인증 등을 활성화해 보안을 강화해 주시기 바랍니다.

(자막. 신고&상담 : 강원경찰청 사이버 수사대. 사이버범죄 신고 및 상담지원, 경찰청 안전Dream. 학교폭력 신고전화 117, 문자는 #0117. 웹사이트, 모바일 앱 활용 가능 / 상담 & 피해자 지원 : 1. 한국여성인권진흥원. 디지털성범죄피해자지원센터 여성긴급전화 1366. 디지철 성범죄 상담 02-735-8994. 24시간 이용 가능, 온라인 상담 신청가능, 2. 강원특별자치도 강원해바라기센터. 강원 해바라기센터 / 춘천, 원주, 강릉 (3개소) 상담, 의료, 법률, 수사 지원 원스톱 제공 3. 한국청소년당담복지개발원. 청소년 상담 1388 / 전화, 문자, 온라인 상담 24시간 4. 강원특별자치도교육청 . 강원특별자치도 교육청 학교 Wee플래서, 교육청 Wee센터. 교육청 피해신고센터 운영. 5. 푸른나무재단. 구원의팔 상담전화. 학교폭력 사이버폭력 전화상담 1588-9128)

박: 혹시 내가 촬영된 허위 영상물 사진을 확인 셨다면 즉시 가까운 경찰서나 117 등 상담기관에 신고해 주시기 바랍니다. 대화 내역이나 사진 참가자 정보, 자료 등을 확보해 주시면 수사에 큰 도움이 됩니다. 다만 모르는 사람으로부터 피해 사진과 함께 링크를 전달받은 경우라면 또 다른 피해로 연결될 수 있기 때문에 절대 누르지 않으시도록 주의해 주시기 바랍니다.
피해자들께 영상 유포가 가장 염려 되실 텐데요. 잊혀질 권리 행사를 위해서 사건 접수부터 보시는 바와 같이 지원 기간과 연계하여 영상물 삭제를 위해 필요한 조치부터 심리 의료 지원 등을 연계해 드리고 있습니다.
당장 경찰서 방문이 망설여지신다면 단체별로 운영중인 센터에서 우선 상담을 받아보시는 것도 큰 도움이 됩니다.

(자막. 허위영상물은 '성범죄' 입니다)

이: 피해자가 발생되면 안 될 '딥페이크는 중범죄!'라는 사실을 다시 한번 심각히 받아들이게 됐는데요. 끝으로 당부하고 싶으신 말씀 있으시면 부탁드립니다.

박: 네 가장 중요한 범죄는 이러한 일들은 단순한 호기심에서 할 수 있는 일이 아니며 피해자에게 씻을 수 없는 아픔을 준다는 점 입니다. 저희 강원 경찰은 끝까지 추적해 검거하겠다. 의지로 피해자를 추적 검거할뿐만 아니라 피해자의 잊혀질 권리 행사도 적극 지원하겠습니다. 혹시 망설이고 계신 피해자가 계신다면 용기를 내서 저희를 찾아와 주시고 주변에서도 많은 도움의 손길 부탁드립니다. 감사합니다.

(자막. 딥페이크 성법ㅁ죄 영상물 등 신고는 경찰청 112, 학교폭력 117. 딥페이크 성범죄 영상물 등 상담 - 디지털 성범죄 피해자지원센터 02-735-8994. 딥페이크 성범죄 영상물 등 디지털 성범죄 관련 영상 신고, 방송통신심의위원회 홈페이지 또는 전화 1377 / 시청자미디어재단 강원시청자미디어센터, 강원경찰서 제작)