[이슈추적] ‘딥페이크 금지’ 첫 적용… 유권자 눈 속일라, 적발 집중

후보 당선·낙선 목적 운동

‘금지’ 신설 공직선거법 주목

예비후보 사진 등 생성 적발

사진은 지난 2월10일 인천시 선거관리위원회 사이버공정선거지원단 사무실에서 제9회 전국동시지방선거를 앞두고 ‘딥페이크 위반 및 허위사실비방’ 근절 캠페인을 하고 있는 모습. 2026.2.10 /김용국기자 [e-mail]

6·3 지방선거를 앞두고, 인천에서도 생성형 인공지능(AI) 기술로 제작한 ‘딥페이크(Deep learning+Fake) 콘텐츠’ 주의보가 떴다. 인천시선거관리위원회는 공직선거법 위반 행위가 발생하지 않도록 신고·적발에 따른 조치를 적극 취하는 중이다.

19일 중앙선거관리위원회에 따르면 딥페이크 콘텐츠로 특정 후보를 당선 또는 낙선시키려는 목적의 선거운동이 적발되는 등 위반 행위는 매 선거마다 늘고 있다. 2024년 제22대 국회의원 선거 당시 딥페이크 관련 위반 행위는 388건이었는데, 지난해 대통령선거에선 1만513건이 적발돼 삭제 등 조치가 이뤄졌다.

이번 6·3 지방선거에서도 인천시선거관리위원회(이하 인천선관위)는 ‘딥페이크를 활용한 선거운동 금지’ 조항이 신설된 공직선거법에 주목하고 있다.

과거 공직선거법 개정 과정에서 딥페이크 콘텐츠의 파급력이 큰 것에 비해 선관위 대응 및 조사 기간이 길다는 점, 한 번 퍼진 허위 정보 피해를 복구하려면 시간이 많이 필요하다는 점 등 지적이 있었던 만큼, 딥페이크가 선거에 미칠 영향을 최소화하려는 것이다.

인천선관위에 따르면 19일 기준 6·3 지방선거 기간 딥페이크 선거운동으로 공직선거법 위반 서면 경고를 받거나 고발된 사례는 없다. 다만 인천선관위 차원의 삭제 지시 등 조치는 빈번하게 일어나고 있다.

최근 인천에서 딥페이크와 관련해 가장 많이 발생한 공직선거법 위반 사례는 ▲선거운동을 목적으로 생성형 AI 기술로 노래(응원가)를 만들어 사용한 경우 ▲예비후보가 특정 장소에 방문한 사진을 생성형 AI를 통해 영상으로 제작해 선거운동에 사용한 경우 등이다. 실제와 구분하기 어려운 가짜 콘텐츠를 만들어 특정 후보 당선 또는 낙선 목적으로 활용하면 모두 위반이다.

인천선관위는 담당 직원뿐 아니라 ‘사이버 공정선거지원단’ 등 인력을 활용해 대응에 나선 상태다. 온라인상 게시된 선거운동 콘텐츠 점검, 신고 및 제보 등을 통해 의심 사례가 확인되면 세부 검토에 들어가는 방식이다. 딥페이크 영상·음향을 감별하는 시스템이 활용되고, 선거운동의 명확한 목적이 있었는지 등을 수차례에 걸쳐 판단하게 된다.

인천선관위 관계자는 “행정조치 수준인 ‘서면 경고 이상’ 사례나 고발 건은 전용 시스템으로 수치를 집계하는데, 아직 이러한 경우는 발생하지 않았다. 다만 우리가 딥페이크 콘텐츠를 발견하거나 신고를 접수하는 등 초기에 구두경고 및 자진 삭제 조치를 하고 있는데, 확실히 지난 선거들에 비해 늘어났다”며 “선거 기간 유권자가 피해받지 않도록 현장 점검과 홍보 등에 힘쓰겠다”고 했다.

/김희연기자 [e-mail]

경인일보 Copyright ⓒ kyeongin.com