도널드 트럼프의 승리로 끝난 미국 대선에서는 이와 관련된 인공지능(AI) 딥페이크, 합성사진·영상 등이 많은 화제와 논란을 낳았다. 특히 트럼프와 트럼프에 대선 자금을 ‘올인’한 것으로 알려진 일론 머스크 등이 직접 엑스(X·옛 트위터)에 이와 관련된 게시물을 직접 올리거나 공유하기도 했다.
9일 업계에 따르면 대선 당일인 지난 5일(현지시간) 트럼프의 대표적인 지지자로 알려진 머스크는 백악관을 배경으로 본인이 싱크대를 들고 웃으며 들어가는 모습이 합성된 사진을 X에 게시했다. “Let that sink in(싱크대를 안으로)이라는 문장을 실었는데 여기서 ‘sink in’은 놀라운 일을 상기 시킬 때 쓰는 관용어구다.
해당 사진의 원본은 머스크가 2022년 트위터 본사를 방문해 찍은 사진이다. 당시 트위터 인수를 앞두고 찍은 사진인 만큼 최근 백악관을 배경으로 올린 합성 사진에 또 다른 숨은 의도가 있는 건 아니냐는 의혹도 제기됐다.
이와 함께 지난 8월 15일 트럼프와 머스크는 각자의 X에 AI로 만든 가짜 영상을 공유했다. 나란히 서서 춤을 추는 36초가량의 짧은 영상이다. 이 영상은 트럼프와 머스크 계정에서 각각 조회수 5989만, 1억4358만회를 달성해 도합 2억회의 조회수를 기록했다. 머스크의 해당 영상에 “Haters will say this is AI(부정적인 사람들은 이걸 AI라고 하겠지)”라는 글을 올렸다.
머스크, ‘X’ 내부 정책 어기고 AI 허위 게시물 올려머스크는 X 내부 정책에 조작된 콘텐츠 공유 금지에 관한 정책이 있음에도 이를 위반하고 대선 기간 내내 AI를 활용한 허위 영상과 사진들을 올려왔다. 특히 트럼프의 경쟁자였던 민주당의 카밀라 해리스 대선후보를 공격했다.
X는 연초에 다른 19개 정보기술(IT) 기업들과 함께 2024 대선에서 유권자를 속이는 AI, 및 딥페이크 영상을 감지하면 그 사실을 표기하고 이를 시청자들에게 알리기로 합의한 바 있음에도 최고경영자(CEO)가 스스로 이 합의를 어겼다.
머스크는 지난 9월 해리스를 공산주의자로 묘사한 AI 합성 이미지를 게시했으며 카밀라가 공산주의 독재자가 되겠다고 맹세했다는 취지의 거짓 주장도 함께 덧붙였다. 해당 게시물은 8416만회 조회됐으며 59만6000회 리트윗(재공유)됐다.
7월에는 본인 계정에 딥페이크 기술을 이용해 조작된 해리스의 선거 광고인 “프리덤”(Freedom, 자유)을 게재해 논란을 빚었다.
해당 광고는 유튜버인 ‘미스터 레이건’이 만든 것으로 알려졌으며 영상에서 딥페이크로 구현된 해리스는 “저는 다양성 때문에 선택됐다. 여성이자 유색인종이기 때문”이라며 “만약 여러분이 제 말을 비판한다면, 여러분은 성차별주의자이자 인종차별주의자”라고 말하고 있다. 현재 이 게시물은 사라진 것으로 보이나 당시 조회수 1억회를 넘겼다.
트럼프는 X뿐 아니라 자신이 만든 SNS 트루스소셜에 지난 8월 미국 인기 팝스타 테일러 스위프트와 그 팬들(swifties)이 자신을 지지한다는 가짜 사진을 게재해 비판받았다. 트럼프는 당시 기사 문구가 담긴 사진을 게재하면서 “수락한다(I accept)”라고 썼는데 USA투데이 등 미언론들은 그가 게재한 사진의 상당수는 AI로 조작됐거나 합성된 사진이라고 전했다.
트럼프·머스크, 올해 딥페이크 영상물 최다 표적트럼프와 머스크는 본인이 직접 수많은 합성 사진을 올리기도 했지만 가장 많이 딥페이크의 대상이 되기도 했다.
온라인 이미지 및 비디오 편집 개발 업체 카프윙(Kapwing)이 최근 발표한 자료에 따르면 올해 딥페이크 영상물의 최다 표적이 된 인물 1위는 트럼프로 총 1만2384개의 딥페이크 영상물이 제작됐다. 이는 해리스(113개) 보다 압도적으로 많았다. 2위는 머스크로 총 9544개의 딥페이크 영상이 제작됐다.
지난해 각종 성 추문에 휩싸인 트럼프가 체포 가능성이 있는 상황에 경찰에 연행되고 있는 합성 사진과 주황색 수감복을 입고 교도소에 있는 사진 등이 온라인에서 빠르게 퍼지기도 했다. 이에 일부 사용자들을 중심으로 실제로 트럼프가 체포된 것으로 받아들이는 여론이 확산하자 트위터는 관련 사진이 노출될 때 따라붙는 공지문을 통해 “트럼프 체포 이미지는 AI로 생성된 가짜 이미지”라고 밝혔다.
AI와 딥페이크 기술을 통해 생성된 게시물이 넘쳐나자 미국에서 캘리포니아주를 비롯해 20여개 주가 AI를 이용한 선거 운동을 규제하는 법을 시행하고 있거나 관련 입법을 추진하는 움직임이 빨라지고 있다. 이러한 가짜 게시물은 후보자 지지층의 결집 또는 와해시켜 선거 결과에 지대한 영향을 미칠 수 있기 때문이다.
올해 9월 미국 캘리포니아주 에서는 딥페이크로 생성 콘텐츠가 선거 캠페인에 악용될 수 없도록 한 규제를 ‘즉시 발효’했다.