전 세계 시장을 대상으로 인터넷 기반 사업을 하는 주요 기술기업(빅테크) 20곳이 인공지능(AI)발 허위정보 확산을 막기 위해 손을 잡았다. AI로 만들어 낸 가짜뉴스·허위정보가 선거의 공정성을 해치고 민주주의를 위협할 것이라는 우려가 커지는 가운데, 세계 최대 기술기업들이 이런 위기에 함께 맞서겠다며 공동전선을 형성하고 나선 것이다.
‘민주주의 위기’에 손잡은 빅테크
17일(현지시간) 블룸버그통신 등에 따르면 테크업체 20곳은 선거 관련 AI 생성 콘텐츠의 확산 방지를 목표로 노력하기로 하고, 이 같은 다짐을 담은 합의문(‘선거에서 AI의 기만적 활용을 방지하기 위한 기술 협정’)을 16일 개막한 독일 뮌헨안보회의에서 발표했다. 합의문에는 마이크로소프트(MS)·구글·아마존·메타·오픈AI·IBM·엑스(X)·앤트로픽 등 주요 AI 개발사들과 사회관계망서비스(SNS) 업체들이 서명했다. AI 생성 콘텐츠 확산에 직간접적 책임이 있는 주요 업체들이 사실상 전부 이름을 올린 것이다. 그간 AI 업체들은 “개발 경쟁에만 열을 올리고 부작용을 최소화하는 데는 소홀하다”는 지적을 받아 왔고, SNS 업체들은 ‘딥페이크(이미지·목소리·영상 등을 진짜처럼 합성하는 기술)’ 콘텐츠 확산의 ‘공범’으로 지목돼 왔다.
구체적으로 이들은 선거 관련 AI 생성 콘텐츠의 위험성을 최소화하기 위한 기술을 개발하는 데 협력하기로 했다. 여기에는 AI 생성 콘텐츠임을 이용자가 알아볼 수 있도록 워터마크(표식)를 삽입하거나 라벨(꼬리표)을 붙이는 등의 기술과 AI 생성 여부를 탐지하는 도구 등이 포함된다. 또 각 사가 개발한 AI 모델의 위험성을 평가하는 작업도 실시하기로 했다. 아울러 각 사가 선거 관련 AI 생성 콘텐츠 방지를 위해 어떤 노력을 하고 있는지 이용자에게 투명하게 공개하고, 쉽게 속아 넘어가지 않도록 대중 교육도 지원하기로 했다.
이행 계획, 구속력 없어… 한계도 분명
경쟁 관계인 빅테크들이 이 같은 협정을, 그것도 자발적으로 맺은 건 이례적이다. 그만큼 AI 생성 콘텐츠로 인한 위험 증폭에 모두가 위기의식을 갖고 있음을 보여준다. 올해는 특히 76개국에서 42억 명이 투표하는 이른바 ‘슈퍼 선거의 해’라 AI발 허위정보로 인한 혼란과 피해가 극에 달할 것이란 우려가 크다. IBM의 크리스티나 몽고메리 최고개인정보책임자는 “허위정보를 활용한 선거운동이 새로운 건 아니지만 이 예외적인 선거의 해에는 사람과 사회를 보호하기 위한 보다 협력적, 구체적 조치가 필요하다”고 했다. 브래드 스미스 MS 부회장은 “우리 모두는 경쟁을 원하고 또 필요로 한다”며 “그러나 민주주의를 포함해 현실의 문제를 다루고 해결하는 것 역시 필요한 일”이라고 했다.