“저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다.”

이런 발언을 하는 ‘가짜’ 윤석열 대통령 딥페이크(deepfake·실제와 비슷하게 조작된 디지털 시각물) 영상물이 ‘윤석열 대통령 양심고백 영상’이란 제목으로 소셜미디어에서 확산, 경찰이 22일 방송통신심의위원회에 차단을 요청했다. 방심위는 이를 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 보고 있다.

서울경찰청은 최근 방심위에 공문을 보내 틱톡과 메타 등에 올라온 해당 딥페이크 게시글의 삭제와 차단을 요청했다.

경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 ‘가상으로 꾸며본 윤 대통령 양심고백연설’이란 제목의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 전했다.

46초 분량의 해당 영상에서 ‘가짜’ 윤 대통령은 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”라고 말한다.

방심위는 이번 영상이 총선을 앞두고 사실상 윤 대통령과 관련해 사회적 혼란을 야기할 수 있는 첫 딥페이크 영상으로 보고 있다. 방심위는 오는 23일 긴급 통신심의소위원회를 열어 해당 안건을 심의, 바로 삭제와 차단 조치를 하겠다는 방침이다.

윤 대통령의 딥페이크 영상 자체는 이번이 처음은 아니다. 2022년에도 지방선거를 앞두고 윤 대통령이 당시 국민의힘 박영일 남해군수 후보를 지지하는 가짜 영상이 소셜미디어를 통해 확산한 바 있다.

한편 중앙선거관리위원회에 따르면 지난달 29일부터 지난 16일까지 19일간 유권자를 상대로 딥페이크를 이용해 선거 운동을 하는 등 공직선거법을 위반 의심 게시물은 129건이다. 여야는 지난해 12월 20일 선거 전 90일 동안 딥페이크 선거운동을 금지하는 공직선거법 개정안을 국회 본회의서 통과시켰다.

딥페이크의 위협은 한국만의 문제가 아니다. 올해 대선이 치러지는 미국에서도 소셜미디어에 딥페이크 등 AI로 조작된 가짜 정보가 급속히 퍼지는 등 대형 선거를 앞두고 골머리를 앓고 있다.

지난달 23일 뉴햄프셔주 프라이머리(예비선거)를 앞두고 조 바이든 대통령을 사칭한 딥페이크 음성이 유포되기도 했고, 지난해엔 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 딥페이크 이미지가 퍼지기도 했다.

악시오스에 따르면 미국에서는 현재 33개주에서 AI 딥페이크 방지 법안이 발의된 상태다. AI로 생성한 정치 콘텐츠는 이를 표기하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠 자체 게시를 금지하는 방법 등이다.