'딥페이크(인공지능 기반 이미지 합성)' 범죄가 심각한 사회문제로 떠오른 가운데 사진을 넣으면 자동으로 음란물을 합성해주는 텔레그램 프로그램인 '딥페이크 봇' 역시 논란이 되고 있다. 짧은 시간에 많은 합성물을 만들 수 있는 데다 제작 자체를 사람이 아닌 프로그램이 실행하는 특성 때문에 처벌에 한계가 있는 탓이다. 경찰은 29일 현재 이용자 22만 명에 달하는 봇 등 약 8개의 봇을 확인해 내사(입건 전 조사)에 착수한 상태지만, 수사가 쉽지 않을 거란 우려가 나온다.

이날 매일한국이 소수에게만 공유되는 초대 링크를 타고 텔레그램 대화방에 입장해 딥페이크 봇 메커니즘을 확인해보니, 예상보다 더 쉽게 합성물을 만들 수 있었다. 딥페이크 봇 접근을 가능케 해주는 단체방에 들어가면 이용 방법이 상세히 제시된다. ①약관에 동의하고 ②사진 합성에 사용되는 포인트인 1크레디트를 받는다. 크레디트는 딥페이크봇에서 사용되는 화폐 단위로 1달러(약 1,300원) 충전에 사진 두 장 정도를 합성할 수 있는 크레디트가 부여돼 가격도 높지 않은 편이다. ③이후 봇과의 개별 채팅방이 열리면 사용자가 원하는 사진을 올리고 ④가격표를 참고해 수영복 등 하나를 고르면 ⑤약 1분 뒤 합성된 나체 사진을 받아볼 수 있다.

초대 링크만 있다면 누구나 음란물을 뚝딱 만들 수 있는 구조인 것이다. 봇을 이용하기 전 '미성년자의 이미지를 업로드하고 처리하는 것을 엄격히 금지한다'는 약관에 동의해야 하지만 허울뿐인 안내에 불과하다. 실제 기자가 인공지능(AI)으로 실존하지 않는 미성년자의 사진을 형성해 등록했지만 걸러내는 장치는 없었다.

제작은 쉽지만 수사·처벌은 어려워

딥페이크 봇은 오픈소스 AI를 활용해 만들어지는 경우가 많은데, 제작과 배포가 손쉬워 피해가 걷잡을 수 없이 커질 수 있다. 최병호 고려대 인공지능연구소 교수는 "시중에 공유되는 오픈소스가 악용돼서 딥페이크 봇이 제작될 가능성이 높다"며 "다크웹에서 음란물을 합성하는 프로그램이 공유되기도 해 제작이 어렵지 않다"고 설명했다. 제작 비용도 저렴하다. 최 교수는 "월정액 1~10달러 수준으로 봇을 만들 수 있을 것"이라고 내다봤다.

반면 수사는 어렵다. 해외에 서버를 두고 있는 텔레그램은 국내 영장의 효력이 미치지 않아 임의 협조를 구하는 게 보통이다. 그러나 회신이 없는 경우가 다수여서, 대화방 참여자를 특정하는 일부터 난관이다. 어렵게 찾아내도 처벌까지 이어질지 미지수다. 봇 자체는 법인격이 없어 제작자를 찾아내야 하는데 이 경우 봇이 범죄 수단으로 악용됐음을 입증할 수 있어야 한다. 이윤호 동국대 경찰행정학과 교수는 "제작자에게 성폭력처벌법상 허위 영상물 편집·반포 등 혐의와 명예훼손, 정보통신망법 위반 혐의 등을 적용할 수 있지만 봇이 실제 범죄에 사용된 경우에만 가능하다"며 "이마저도 제작자가 외국인인 경우 국내법 적용이 어려워 국가 간 사법 공조가 필요하다"고 말했다.