딥페이크 후폭풍에 AI 범죄 일상 범죄화

2019년~2023년 신종 디지털 성범죄로 소개...올해는 일상 범죄로 대응



[디지털투데이 강진규 기자] 과거 특별한 사례로 여겨졌던 인공지능(AI)을 악용한 딥페이크(Deepfake) 관련 범죄가 보이스피싱, 해킹 등과 같이 언제 어디서나 발생할 수 있는 일상 범죄화 되고 있다. 

27일 정부 관계자들에 따르면 경찰이 딥페이크 범죄에 대한 총력 대응에 나섰다. 

딥페이크(Deepfake)는 AI 기술을 이용해 사진, 동영상 등의 얼굴, 음성 등을 다른 사람으로 변조하는 것을 뜻한다. 그런데 딥페이크가 패러디 등의 사진, 영상을 제작하는 것에서 벗어나 유명인 또는 일반인들의 얼굴과 음란물을 결합하는 성범죄로 나타나기 시작했다. 특히 최근 딥페이크 성범죄가 급속히 확산되고 있다.

이에 수사당국의 기조도 변하고 있다. 경찰은 2019년 6월 공식 블로그를 통해 신종 디지털 성범죄로 딥페이크가 등장했다고 소개했다.


다시 2022년 12월 경찰은 딥페이크에 대해서 들어본 적이 있느냐며 딥페이크 성범죄 사례를 소개하고 ‘성폭력범죄의 처벌 등에 관한 특례법’에 의해 처벌받을 수 있다고 알려졌다. 또 2023년 11월 경찰은 딥페이크를 악용한 가짜 영상물은 범죄 행위라고 설명했다.

이때까지만 해도 경찰은 새로운 유형의 범죄가 나타났다고 정보를 전달하는 목적이 강했다. 많은 사람들이 딥페이크 범죄를 특별한 사례로 여겼다.

그런데 올해 경찰의 기조가 완전히 바뀌었다. 올해 3월 경찰은 공식 블로그를 통해 딥페이크 위험성을 경고하는 동시에 딥페이크 범죄 대응을 본격화한다고 밝혔다. 딥페이크 탐지 프로그램을 개발, 활용해 대응한다고 설명했다. 520만점의 데이터와 최신 AI 모델로 딥페이크 적용 여부를 탐지한다는 것이다.

그리고 올해 9월 경찰은 딥페이크 범죄에 대한 전면전을 선포했다. 9월 3일 경찰은 딥페이크 불법 영상 제작 뿐 아니라 복제, 편집, 배포에 대해서도 모두 처벌할 것이라고 밝혔다. 9월 4일에는 딥페이크 성범죄 특별 집중단속을 한다고 설명했다. 9월 20일에는 텔레그램을 통한 딥페이크 불법 영상 피해 사례가 늘고 있다며 내년 3월 31일까지 특별 단속이 실시된다고 전했다.

9월 25일 경찰은 득별 단속 기간에 딥페이크 범죄에 대한 집중수사와 피해자 보호 활동 등이 전개되고 딥페이크 탐지 프로그램을 활용한 실체적 증거 수집도 진행된다고 경고했다. 경찰은 딥페이크 불법 영상 제작이 ‘장난’이 아니라며 허위 영상 가공 및 유포의 경우 5년 이하 징역 또는 5000만원 이하 벌금, 영리 목적 판매는 7년 이하 징역에 처할 수 있다고 지적했다.

경찰은 2019년 딥페이크 범죄를 처음 소개하고 2023년까지 정보를 제공하는 수준이었지만 올해는 딥페이크 범죄에 대해 본격적으로 수사를 하고 있는 것이다.

경찰이 올해 기조를 바꾼 것은 지난 4월 국회의원 선거를 앞두고 딥페이크로 인한 선거법 위반 가능성이 대두됐기 때문이다. 이후 8월 동시다발적으로 딥페이크 성범죄가 알려지면서 기조가 완전히 바뀌었다. 1000명 이상의 대학생들이 참여한 텔레그램방에서 일반인들을 대상으로 한 딥페이크 성범죄가 확인됐다. 또 22만명이 참여하는 불법 합성물 텔레그램방도 적발됐다. 이와 함께 크고 작은 학교, 공공기관 관련 딥페이크 성범죄도 확인됐다.

이는 생성형 인공지능(AI) 서비스가 등장하면서 누구나 쉽게 AI로 사진, 영상을 만들고 합성할 수 있다는 점을 악용한 것이다.

정부 관계자들은 딥페이크 범죄가 영화 속 이야기나 특별한 사례가 아니라 일상 범죄의 영역으로 넘어오고 있다고 우려한다. 실제로 26일 경찰에 따르면 올해 1월 1일부터 9월 25일까지 전국 경찰에 접수된 딥페이크 성범죄 관련 사건은 총 812건이었으며  같은 기간 검거된 피의자는 총 387명이다.

정부 관계자는 “불과 수년 전만해도 예상하지 못했지만 어느새 딥페이크 범죄 피해가 확산되고 있다”며 “딥페이크 범죄는 더 이상 특수한 사례가 아니라 보이스피싱, 해킹 등과 같이 언제 어디서나 발생할 수 있고 누구나 피해를 당할 수 있는 범죄가 되고 있다”고 우려했다.