작성: 페사흐 벤슨, 오메르 노보셀스키 • 2026년 10월 21일
예루살렘, 2026년 10월 21일 (TPS-IL) — 이스라엘 중앙선거관리위원회가 다음 선거를 앞두고 인공지능(AI), 정치 선전, 그리고 일어나지 않은 일을 실제처럼 보이게 만들 수 있는 조작된 콘텐츠에 대한 분쟁을 중재하는 이례적인 역할을 맡게 됐다.
10월 27일 선거를 앞두고 위원회는 AI로 생성된 선거 선전물에 대한 표기 의무를 도입했으며, 위원장인 노암 솔버그 대법관은 오해의 소지가 있는 것으로 판단된 영상의 삭제를 명령했다. 그러나 전문가들은 TPS-IL과의 인터뷰에서 단속에 한계가 있으며, 조작된 콘텐츠와 조직적인 온라인 캠페인으로 인해 진짜 정치 정보와 조작을 구별하기가 점점 더 어려워짐에 따라 다른 민주주의 국가들도 유사한 과제에 직면해 있다고 전했다.
아비아드 니메코프스키 중앙선거관리위원회 부법률고문은 TPS-IL에 “문제는 기술의 사용 자체에 있는 것이 아니라, 그것을 은폐하려는 시도에 있다”고 밝혔다. 그는 정치적 설득이 민주주의의 기본이라고 설명하면서도, 선거 운동이 대중을 오도하려 할 때 문제가 발생한다고 말했다.
이스라엘은 AI를 사용해 제작된 선거 선전물에 인위적으로 생성된 것임을 명시하는 표기를 부착하도록 요구하는 한시적 입법 개정안을 도입했다. 위원회는 또한 페이스북, 마이크로소프트, 구글 등 소셜 미디어 기업들과 접촉을 유지하는 한편, AI 및 기타 불법 소지가 있는 정치적 영향력 행사 방식을 연구하기 위한 전담팀을 구성했다.
니메코프스키 부법률고문은 “우리는 이러한 조치를 시행한 전 세계 최초의 기관 중 하나”라며 그 효과는 시간이 지나면서 평가될 것이라고 덧붙였다.
누구나 가짜를 만들 수 있는 시대
위원회는 몇 분 또는 몇 시간 내에 금지 명령을 내릴 수 있지만, 영상을 삭제한다고 해서 그것이 다른 곳에 다시 게시되는 것을 막지는 못한다. 니메코프스키 부법률고문은 위원회가 다양한 정치 스펙트럼 전반에서 대부분 선거 선전에 관한 약 250건의 청원을 접수한다고 말했다.
이러한 자료를 쉽게 제작할 수 있다는 점이 문제를 더 가중시킨다. 브네이브라크에 본사를 둔 소셜 미디어 모니터링 및 여론 분석 업체 스쿠퍼(Scooper)의 최고경영자(CEO) 겸 공동 창업자인 조너선 하시딤은 AI가 정치 영상 제작에 필요한 자원을 대폭 줄였다고 말했다.
하시딤은 TPS-IL에 “오늘날 설득력 있는 정치 영상을 만들기 위해 촬영팀, 배우, 특정 촬영 장소 또는 대규모 제작 예산이 더 이상 필요하지 않다”며 “필요한 것은 아이디어, 컴퓨터, 몇 분간의 작업뿐”이라고 말했다.
선거 운동 진영에서는 실제로 일어나지 않은 일임에도 경쟁 상대가 인기 없는 인물을 만나거나 해로운 동맹을 맺는 모습을 묘사할 수 있다. 어떤 영상은 명백한 허구이지만, 다른 영상들은 실제 영상과 매우 유사하다.
바르일란 대학교 언론학부의 아야 야들린 선임 강사는 명백한 허구 영상이라도 정치적 상대를 모욕적이거나 위협적인 상황으로 묘사함으로써 인식에 영향을 미칠 수 있다고 말했다.
야들린 강사는 TPS-IL에 “명백한 허구 영역에서는 정당들이 라이벌을 비디오 게임 캐릭터로 묘사하는 GTA 스타일의 패러디 영상을 공개하기도 했다”며 “이러한 유형의 콘텐츠의 주된 위험은 기만이 아니라 라이벌이 비인간화된다는 점”이라고 말했다.
더 사실적인 위조물은 또 다른 문제를 낳는다. 시청자가 조작된 사건이나 관계를 사실로 오인할 수 있다는 점이다. 지난 7월, 솔버그 위원장은 종교시오니즘당 대표인 베잘렐 스모트리히 재무장관에게 ‘야샤르!’당 대표인 가디 아이젠코트가 팔레스타인 지도자 마흐무드 압바스와 악수하는 모습을 묘사한 영상을 삭제하라고 명령했다.
솔버그 위원장은 “영상 속 해당 구간은 일어나지 않은 일을 제시하지만 사실적으로 보인다. 아이젠코트와 압바스 사이의 정치적 연관성을 보여주는데, 이는 존재하지 않는 연관성이므로 이 문제에 대해 오해를 불러일으킬 수 있다”고 판결했다.
AI 라벨의 한계
야들린 강사는 문제가 AI 생성 콘텐츠에만 국한되지 않는다고 말했다. 그녀는 실제 인터뷰 없이 스튜디오와 마이크를 갖추고 언론 팟캐스트처럼 보이도록 연출된 선거 운동 영상인 ‘포캐스트(fauxcast)’를 지적했다.
그녀는 “포캐스트는 말로 거짓말을 하지 않는다. 세트장으로 거짓말을 하며 청중이 팟캐스트 형식에 대해 쌓아온 신뢰를 악용한다”고 말했다.
이스라엘의 선거(선전 방식)법은 소셜 미디어와 생성형 AI가 등장하기 훨씬 전인 1959년으로 거슬러 올라간다. 이제 AI가 생성한 선거 운동 콘텐츠에는 표기가 의무화되었지만, 야들린 강사는 저널리즘을 모방하는 모든 오도성 형식에 유사한 요건이 적용되는 것은 아니라고 지적했다.
표기 자체도 불완전한 안전장치다. 영상이 잘리거나 원래의 면책 조항 없이 다시 게시될 수 있기 때문이다.
야들린 강사는 TPS-IL에 “표기는 도움이 되지만 사람들이 기대하는 것보다는 덜하다”며 “미국에서 진행된 실험에서 테스트된 AI 표기는 가짜 콘텐츠의 주장에 대한 신뢰를 줄였지만, 단순히 AI로 생성되었다고 명시한 표기는 해당 게시물에 관여하려는 사람들의 의도에는 거의 영향을 미치지 않았다. 무언가에 ‘AI’라고 표기하는 것과 ‘허위’ 표기를 의무화하는 것은 같지 않다는 점을 이해해야 한다”고 말했다.
하시딤은 입법, 모니터링, 단속 및 대중 교육을 결합한 더 광범위한 대응을 촉구했다. 그는 또한 기술이 발전함에 따라 AI가 생성한 모든 이미지, 영상 또는 음성을 확실하게 식별할 수 있는 탐지 시스템은 존재하지 않는다고 경고했다.
그는 “콘텐츠를 ‘AI 생성’으로 표기하도록 요구하는 것은 불치병 환자를 단순한 진통제로 치료하려는 것과 같다”며 “누구나 쉽게 AI 기반 콘텐츠를 만들 수 있는 시대에 정치인에게만 적용되는 규제는 턱없이 부족하다”고 말했다.
따라서 당국은 콘텐츠가 인위적으로 보이는지 여부뿐만 아니라 누가 이를 유포하는지, 얼마나 빨리 확산하는지, 계정들이 조직적으로 활동하고 있는지 등을 검토해야 한다고 하시딤은 강조했다.
딥페이크에서 조직적 캠페인으로
이스라엘의 경험은 방식은 다르지만 민주주의 국가들이 겪는 더 광범위한 도전을 반영한다. 미국에서는 2024년 뉴햄프셔주 유권자들에게 민주당 대선 경선에 불참할 것을 촉구하는 자동 녹음 전화(로보콜)에 조 바이든 대통령의 음성을 모방한 AI 생성 음성이 사용됐다. 슬로바키아에서는 2023년 총선 이틀 전에 유포된 조작된 녹취록에서 한 후보가 기자와 선거 조작을 논의하는 듯한 내용이 담겨 파문이 일었다.
루마니아의 2024년 대선은 콘텐츠 자체가 위조되지 않았더라도 조직적인 온라인 활동이 정치적 메시지를 증폭시킬 수 있다는 관련 문제를 부각했다. 야들린 강사는 틱톡에서 잘 알려지지 않은 한 후보를 부각하는 데 도움을 준 약 2만 5천 개의 동기화된 계정 네트워크를 언급하며 겉보기에 독립적인 온라인 활동이 어떻게 대규모로 기획될 수 있는지를 보여준다고 설명했다.
공통점은 단순히 가짜 영상의 제작만이 아니다. 저렴한 생성형 AI가 그럴듯한 콘텐츠를 제공할 수 있고, 계정과 인플루언서 네트워크가 이를 증폭시켜 조직적인 선전이 자발적인 여론처럼 보이게 만든다.
야들린 강사는 당국이 식별 가능한 행위자에 집중하여 공식 선거 캠프가 원천적으로 자료를 공개하고 책임을 지도록 해야 한다고 말했다. 소셜 미디어 기업들은 공유에 대한 추가 검증을 도입하고 선거 관련 콘텐츠 전담팀을 둘 수 있다.
그녀는 중앙선거관리위원회의 역할에 대해 “구조적 문제는 타이밍이다. 판결은 이미 조회수가 축적된 후에 나온다”고 말했다.
위험은 조작된 자료를 넘어선다. 하시딤은 정치인들이 실제 증거를 조작된 것으로 일축하기 위한 핑계로 AI를 들먹일 수 있으며, 이는 ‘거짓말쟁이의 배당금(liar’s dividend)’으로 알려진 현상이라고 경고했다.
야들린 강사는 그 결과로 발생하는 신뢰의 훼손이 개별적인 거짓말보다 더 파괴적일 수 있다고 말했다. 그녀는 “민주주의는 공유된 사실적 기반에 의존한다”며 “유권자는 실제로 무슨 일이 일어났는지에 대해 동의할 수 있을 때만 지도자에게 책임을 물을 수 있다”고 말했다.
AI가 생성한 선거 선전물을 규제하려는 이스라엘의 노력은 다른 국가들에 교훈을 제공할 수 있다고 니메코프스키 부법률고문은 말했다. 위원회는 국제 사례를 연구하고, 대중 인식 캠페인을 진행하며, 집행에 관해 기술 플랫폼들과 협의해 왔다.
그러나 전문가들은 AI 자체를 불법적인 것으로 취급하거나 의심스러워 보이는 자료가 반드시 거짓이라고 단정하지 않으면서 기만행위를 해결하는 것이 과제라고 지적했다.
야들린 강사는 “그 결과는 거짓말을 믿는 대중이라기보다는 아무것도 믿지 않는 대중이 될 것”이라며 “그런 대중은 결속을 와해하기가 더 쉽고 정보를 전달하기는 더 어렵다”고 말했다.