이은규기자=      딥페이크를 악용한 범죄가 확산하고 수법도 갈수록 정교해지면서 경찰이 대응 기술 강화에 나섰다.

경찰청 국가수사본부는 올해 1~7월 딥페이크 범죄 피의자 419명을 검거하고 이 가운데 17명을 구속했다고 13일 밝혔다.

국수본은 갈수록 늘어나고 진화하는 딥페이크 범죄에 대응하기 위해 △딥페이크 탐지 소프트웨어 판별 △과학수사 영상분석관 판독 △인공지능(AI) 범행도구 분석 등 3중 대응체계를 구축하고 관련 기술을 고도화하고 있다.

딥페이크 탐지 소프트웨어는 다수의 해외 법집행기관에서도 활용하는 기술이다. △얼굴 생성·교체 여부 △눈 깜빡임·혈류 변화 등 생물학적 특징 △파일 메타데이터 구조 등을 종합적으로 분석해 합성 여부를 판별한다. 국내 허위영상물 탐지에 특화된 AI 모델을 탑재하는 등 성능도 지속해서 개선하고 있다. 

개발 이후 현재까지 총 1636건의 수사에 활용됐으며, 올해는 선거범죄 등 다른 수사 분야에서도 72건 활용됐다.

실제 지난 3월 경찰청 사이버범죄신고시스템에는 '해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다'는 피해 신고가 잇달아 접수됐다. 

경찰은 신고 직후 4개 시·도경찰청에 접수된 사건의 관련 증거를 확보하고, 해당 사이트에 범행 계정과 게시물 삭제를 요청했다.

이어 경찰청 딥페이크 탐지 소프트웨어로 영상물을 분석한 결과 동일한 특징이 확인되자 사이버수사대는 유포된 영상이 동일인에 의해 제작됐을 가능성에 무게를 두고 수사를 진행했다. 이를 통해 20대 남성 A씨를 신속히 검거한 뒤 구속 송치했다.

탐지 소프트웨어만으로 조작 여부를 명확히 판단하기 어려운 경우에는 과학수사 영상분석관이 추가 검증에 나선다. 

경찰은 전문 영상분석 프로그램을 활용해 위·변조 여부를 정밀 판별하는 절차를 구축했다.

디지털포렌식 분야에서는 딥페이크 제작에 악용되는 상용 AI 프로그램의 특성을 분석한 'AI 포렌식 기법'도 개발해 수사에 활용하고 있다. 

시·도청 소속 전문분석관이 피의자가 어떤 프로그램을 사용해 영상을 조작했는지, 어느 부분을 변형했는지 등을 분석해 제작부터 유포까지 범행 전 과정을 기술적으로 재구성하는 방식이다. 이는 여죄를 확인하고 범행의 고의성을 입증하는 핵심 증거로 활용된다.

경찰은 딥페이크 탐지 기술의 활용 범위를 디지털 성범죄에 한정하지 않고 허위정보 유포와 전기통신금융사기 등 AI를 악용한 다양한 범죄로 확대할 계획이다.

국수본 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다"며 "관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 밝혔다.

0905lee@naver.com