AI 기술이 비약적으로 발전하면서 민주주의의 근간을 위협하는 가짜뉴스와 플랫폼의 선거 개입이 전 세계적인 화두로 떠오랐다. 단순히 텍스트 몇 줄을 조작하는 수준을 넘어, 이제는 고도화된 딥페이크와 알고리즘 편향이 선거 결과까지 뒤흔드는 시대가 도래했다. AI 시대의 가짜뉴스와 빅테크의 선거 개입은 더 이상 방치할 수 없는 민주주의의 생존 과제다. 📉 과연 우리는 이 거대한 기술의 역습 속에서 공론장을 어떻게 지켜내야 할까.
김희교, 박태웅, 이정환, 권오현 등 전문가들의 진단을 통해 민주주의가 직면한 실질적인 위협과 대응 전략을 짚어보려 한다.
프랑스와 브라질에서 벌어지는 가짜뉴스 공세와 플랫폼 왜곡
프랑스 시위와 에펠탑 가짜뉴스
프랑스에서 벌어진 대규모 소요 사태는 가짜뉴스가 어떻게 사회적 갈등을 극대화하는지 보여주는 대표적인 사례다. 프랑스에서 횡행하는 가짜뉴스는 크게 세 가지 프레임으로 나뉜다. 첫째는 이번 소요가 이민자, 무슬림, 팔레스타인 지지자 등 외부 유입 세력에 의해 야기되었다는 외부인 책임론이다.
둘째는 마크롱 정부의 무능을 탓하는 반정부 프레임이며, 셋째는 현 상황을 실제보다 훨씬 과장하여 공포감을 심어주는 방식이다.
마르세유의 한 방송에서 유대인 상점만 골라 약탈한다는 소문이 돌았으나, 마르세유 경찰청과 유대인 공동체 보호단체는 사실무근이라고 공식 발표했다. 그럼에도 불구하고 에펠탑에 팔레스타인 국기가 걸렸다는 조작 영상은 수백만 조회수를 기록하며 사람들을 현혹했다.
10년 전 아프리카 이민자들의 과거 영상을 파리 북역의 현재 상황인 것처럼 둔갑시키고, 마크롱 대통령 부인 브리짓의 증조부가 세운 초콜릿 매장 앞에 경찰이 지키고 있는 사진을 '가장 보호받는 가게'라며 덧칠하기도 했다.
이 모든 가짜뉴스의 공통점은 기성 정치가 이를 전혀 통제하지 못하고 있다는 무능론을 강화한다는 점이다. 결국 이러한 여론 조작은 프랑스 현정 사상 최초로 극우 세력이 집권할 가능성을 높이는 토양이 되고 있다. 우리 역시 다가올 선거 국면에서 이와 유사한 고도화된 AI 가짜뉴스의 홍수를 피할 수 없을 것이다.
과연 프랑스의 사태를 보며 우리는 얼마만큼의 방어막을 준비하고 있는지 묻지 않을 수 없다.
브라질 대선과 메타의 노골적인 선거 개입
AI 기술 자체의 조작을 넘어, 플랫폼 기업이 자사의 알고리즘을 이용해 특정 정치 세력을 편파적으로 지원한 충격적인 사건도 있었다. 브라질 대선 당시 룰라 대통령 공식 인스타그램 계정의 유료 광고 홍보 기능이 갑자기 중단되는 사태가 벌어졌다. 왓츠앱에서 룰라를 검색하면 상대 후보인 보우소나루의 계정이 추천되고, 반대로 인스타그램에서는 룰라 계정이 유저가 직접 이름을 검색해도 노출되지 않는 기이한 현상이 일어났다.
브라질 선거법상 특정 후보를 알고리즘으로 자동 추천하는 것은 명백히 금지되어 있다. 메타 AI는 룰라 대통령을 지지하는 이미지는 만들지 못하게 막으면서, 보우소나루를 지지하는 이미지는 원활하게 생성되도록 방치했다. 메타 측은 이를 단순한 '기술 오류'와 '선거 필터 문제'라고 해명했지만, 브라질 인구의 70% 이상이 인스타그램을 뉴스로 쓰고 97%가 왓츠앱을 쓰는 상황에서 하필 룰라에게만 불리한 결과가 집중된 것은 우연으로 보기 어렵다.
결국 브라질 법원은 이에 대해 70만 달러의 벌금을 부과하며 제동을 걸었으나, 플랫폼 자본이 민주주의 선거 과정에 얼마나 깊숙이 개입할 수 있는지 그 민낯이 고스란히 드러났다. 트럼프 전 대통령이 보우소나루를 공개 지지하고 석방을 요구했던 정치적 흐름과 맞물려, 빅테크가 정치 권력과 야합하여 선거에 개입하는 양상은 전 세계 민주주의 국가들에 경종을 울린다.
일론 머스크의 X 알고리즘 조작과 공론장 사유화
일론 머스크가 인수익은 X(구 트위터) 역시 플랫폼 소유자의 정치적 성향이 어떻게 알고리즘을 지배하는지 보여주는 생생한 증거다. 과거 대선 당시 바이든의 게시물 조회수에 비해 자신의 게시물 노출이 적다는 이유로 엔지니어들을 새벽 2시에 호출해 가중치를 높이라고 지시한 일화는 유명하다. 말을 듣지 않는 엔지니어를 해고한 뒤 파워 유저 승수를 1000배로 곱해 자신의 글이 무조건 보이도록 만들었다.
실제 논문에 발표된 연구 결과에 따르면, X의 알고리즘 추천 기능을 지속해서 접할 경우 트럼프에 대한 수사가 부당하다는 인식이 0.37에서 0.45 사이로 유의미하게 상승했다. 모든 알고리즘은 결코 중립적이지 않으며, 그 배에는 명확한 의도와 정치적 목적이 개입되어 있다. 사기업인 플랫폼이 공론장을 장악하고 있으니, 외부에서는 그들이 어떤 방식으로 타임라인을 주무르는지 감시조차 하기 어렵다.
페이스북 역시 2017년부터 사람들이 뉴스를 보면 괴로워한다는 이유로 뉴스 링크 노출을 대폭 줄여버렸다. 이로 인해 수많은 독립 매체들의 페이지뷰가 반토막이 나고 언론사들이 휘청거렸다.
이제는 메타 원 같은 서비스를 통해 돈을 내야만 뉴스를 띄워주겠다는 식의 횡포를 부리고 있다. 공공의 소통 창구여야 할 소셜 미디어가 사기업 자본가들의 입맛에 따라 정보 유통을 통제하는 도구로 전락한 셈이다.
빅테크 자본과 극우 세력의 위험한 동맹
올리가르히의 부활과 기술 권력의 결탁
과거 러시아의 마피아와 특권 계급을 뜻하던 '올리가르히'라는 단어가 이제는 현대 미국의 빅테크 슈퍼리치들을 가리키는 말로 쓰이고 있다. 초거대 AI 인프라를 구축하기 위해서는 개별 기업의 자본을 넘어 국가 차원의 막대한 지원과 규제 완화가 필수적이다. 미국 정부가 인텔 지분을 인수하고 히토류 산업에 투자하며 데이터 센터를 전폭적으로 지원하는 이유도 여기에 있다.
이 과정에서 빅테크 자본가들과 극우 정치 세력의 이해관계는 기가 막히게 맞아떨어진다. 플랫폼 자본가들의 목표는 규제 완화, 독점 유지, 시장 개입 최소화, 국가 감시망 탈피인 반면, 극우 정치 세력의 목표는 제도권 미디어를 우회하고 알고리즘을 통해 분노와 혐오를 증폭하여 대중을 동원하는 것이다. 이 둘의 결합은 공론장을 철저히 사유화하며 민주주의의 뿌리를 흔들고 있다.
미국의 빅테크 기업들은 과거 민주당 성향이 우세했으나 트럼프 집권 이후 상당수 공화당 지지 성향으로 돌아섰다. 트럼프 반대 운동이 거세게 일어날 때 인스타그램 계정을 몇 시간 동안 잠가버리는 노골적인 검열도 서슴지 않는다. 기술 과도 세력과 극우 세력의 이해 동맹은 민주주의를 지탱하는 상식과 토론의 공간을 파괴하는 주범이다.
미얀마 로힝야 학살과 알고리즘이 부추긴 혐오
알고리즘의 편향성이 단순한 정치적 선거 개입을 넘어 실제 인간의 목숨을 앗아간 비극으로 이어졌던 선례를 잊어선 안 된다. 2017년 8월, 미얀마 군의 작전 한 달 사이에 로힝야 소수민족 6,700명이 숨지는 참혹한 일이 벌어졌다. 그중 5세 미만 아이만 790명에 달했고, 70만 명이 넘는 사람들이 방글라데시로 피신해야 했다.
이 과정에서 페이스북의 알고리즘이 혐오와 학살을 부추기는 데 결정적인 역할을 했다는 사실이 나중에 밝혀졌다. 수많은 시민들이 혐오 콘텐츠를 확산시키는 알고리즘을 수정해달라고 거듭 항의했음에도 페이스북은 이를 묵살했다. 사람들이 분노하고 자극적인 콘텐츠에 몰입할수록 체류 시간이 늘어나고 광고 수익이 오르기 때문에, 플랫폼은 혐오의 방조를 선택한 것이다.
전쟁터에서도 일론 머스크의 스타링크 우크라이나 제공 사례를 보면 플랫폼 기업이 사실상 군사 작전의 주도권을 쥐고 흔드는 것을 볼 수 있다. 위협을 가하며 전쟁의 승패마저 내 손에 달렸다고 자랑하는 거대 자본가의 오만함은 국가 주권과 민주주의 제도가 얼마나 무력해졌는지를 적나라하게 보여준다.
AI 스웜과 데이터 포이즈닝의 공포
이제 가짜뉴스를 퍼뜨리는 주체는 인간 알바단이 아니라 AI다. 모스크바에 기반을 둔 프라우다 네트워크는 150개 도메인에서 360만 건의 기사를 쏟아내며 AI 학습용 데이터를 오염시키는 '데이터 포이즈닝'을 자행했다. 그 결과 AI에게 질문을 던졌을 때 세 번 중 한 번은 조작된 가짜뉴스를 진실인 양 답변으로 쏟아내는 기괴한 현상이 벌어지고 있다.
여기에 'AI 스웜(Swarm)' 기술이 결합되면서 상황은 더욱 심각해졌다. 과거처럼 어색한 문장으로 댓글을 달던 수준이 아니라, 인간보다 더 예의 바르고 그럴싸한 문장으로 여론을 몰아가는 AI 봇들이 24시간 쉬지 않고 댓글창을 장악한다. 이것이 사람이 쓴 것인지 AI가 쓴 것인지 일반 유저는 도저히 구분할 수 없는 지경에 이르렀다.
이러한 조작 메커니즘은 국경을 가리지 않고 유입된다. 브라질 대선 당시 한국의 세월호 집회 영상을 짜깁기하여 '한국에서 이재명 대통령을 하야하라는 1천만 명의 거센 집회가 있었다'는 가짜뉴스가 브라질 현지에 퍼지기도 했다.
지구 반대편의 정치적 혼란을 부추기기 위해 국경을 넘어 가짜뉴스가 유통되는 시대에 살고 있는 것이다.
국가 패권과 AI 민주주의의 생존 전략
미국의 세계 패권 전략과 AI의 결합
과거 제국주의 시대에는 군함을 동원했고 1970년대에는 석유와 달러로 패권을 쥐었던 미국이, 이제는 그 지배력을 유지하기 위해 AI를 총동원하고 있다. 미국의 AI 산업은 극도로 폐쇄적이고 수직적이며, 국가 권력과 거대 기업이 명확하게 결탁된 구조 속에서 움직인다. 브라질이나 타국의 선거에 개입하는 메타의 행태 뒤에는 미국이라는 국가의 거대한 세계 전략이 함께 맞물려 돌아가고 있다고 보는 것이 합리적이다.
과거 러시아가 타국 선거에 개입한다고 비난하던 미국 자신이, AI와 플랫폼이라는 보이지 않는 무기를 들고 남미를 비롯한 세계 각국의 정치판에 개입하지 않았다고 장담할 수 있는가. 평소에는 공정의 가면을 쓰고 있다가 자신들의 패권적 이익이 걸릴 때 알고리즘의 미세한 파라미터를 조작하는 것은 미국 빅테크와 정보 당국에게 손쉬운 일일 뿐이다.
우리는 이러한 거대한 글로벌 기술 패권의 소용돌이 속에서 한국의 독자적인 정보 주권과 민주주의를 지켜내야 하는 무거운 과제를 안고 있다. 포털 중심의 뉴스 유통이 유튜브와 글로벌 SNS로 다변화된 것처럼 보이지만, 그 모든 플랫폼의 뿌리는 결국 거대 IT 자본의 영토 안에 포섭되어 있다.
빠따 프로젝트와 시민 참여형 팩트체크의 필요성
이처럼 무차별적으로 쏟아지는 가짜뉴스와 알고리즘 조작에 맞서기 위해 시민 사회는 자구책을 마련하고 있다. 시민들과 함께 가짜뉴스를 때려잡는다는 의미를 담은 '빠따(빠띠)' 프로젝트는 그 대표적인 시도다. 총선을 앞두고 6개월 전부터 자원봉사자와 전문가들이 모여 가장 큰 규모의 팩트체크 센터를 운영하며 실시간으로 쏟아지는 허위 정보를 걸러내는 작업을 진행 중이다.
하지만 이러한 정당한 시민 사회의 노력은 번번이 정치권의 거센 탄압에 부딪히곤 했다. 문재인 정부 시절 시작된 팩트체크넷은 윤석열 정권 당시 무자비한 공격을 받아 과징금 8억 원과 검찰 고발이라는 탄압을 겪어야 했다. 독재적 권력과 기득권 세력이 진실을 얼마나 두려워하는지 보여주는 방증이다.
전문가들만의 힘으로는 나날이 고도화되는 딥페이크와 AI 조작 뉴스를 전부 감당하기 어렵다. 모든 것을 의심하게 만들어 진실을 말하는 사람마저 믿지 않게 만드는 '라이어스 디바이드(거짓말쟁이 배당)' 현상을 깨부수기 위해서는, 시민들이 직접 팩트체크에 참여하고 연대하는 거대한 공동의 방어선이 필수적이다.
정부의 무관심과 AI 민주주의 예산의 현실
안타깝게도 국가적 차원의 위기 감각은 여전히 턱없이 부족하다. AI 민주주의 분과에서 인공지능 전략위원회와 함께 백방으로 뛰고 있지만, 정부의 AI 관련 예산 중 민주주의를 위한 R&D 예산은 사실상 찾아보기 힘든 실정이다. 전체 900억 원의 AI 발전 예산 중 안전 예산은 260억 원에 불과하며, AI가 민주주의 공론장에 미치는 악영향을 방어할 사회적 기술 연구는 방치되어 있다.
윤석열 정권 당시 대놓고 제도를 손대지 않더라도, 플랫폼의 보이지 않는 알고리즘 통제와 방조를 통해 정권에 유리한 여론을 조성하려는 시도는 계속되어 왔다. 국내 포털은 그나마 제재가 가능하지만, 인스타그램이나 구글 같은 해외 빅테크 기업들은 한국 시민사회의 개입 통로를 원천 차단한 채 가짜뉴스를 방치하고 있다.
기술 주권과 국민 중심의 AI 정책을 세우지 못한다면, 다가오는 선거는 외부 세력과 빅테크 자본의 놀이터가 되고 말 것이다. 양자 내성 암호 도입 등 기술적 대비도 시급하지만, 무엇보다 AI가 지배하는 디지털 공론장에서 민주주의의 절차적 정당성을 지켜내기 위한 국가적 투자가 절실하다.
❓ 자주 묻는 질문
Q. 프랑스 시위 과정에서 퍼진 가짜뉴스의 대표적인 유형은 무엇인가?
이민자들과 무슬림 등 외부 세력이 소요 사태를 일으켰다는 외부인 책임론, 마크롱 정부의 무능을 탓하는 반정부 프레임, 그리고 현 상황을 실제보다 극단적으로 과장하는 프레임 등이 대표적이다.
Q. 브라질 대선 당시 메타 플랫폼이 선거에 개입했다는 의혹의 내용은 무엇인가?
룰라 대통령의 인스타그램 유료 광고 기능이 기술 오류를 명목으로 중단되었고, 왓츠앱 검색 시 상대 후보인 보우소나루의 계정이 자동 추천되는 등 룰라 측에 불리한 방향으로 알고리즘이 작동했다.
Q. AI 시대의 가짜뉴스 공세에 대응하기 위해 시민 사회가 추진 중인 대책은 무엇인가?
시민들과 전문가들이 자발적으로 참여하여 허위 정보를 판별하고 진실을 찾아내는 '빠따' 프로젝트 같은 대규모 팩트체크 센터 운영을 통해 다각도로 방어선을 구축하고 있다.
📚 이 글이랑 같이 보면 좋은 글
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
기술의 발전이 언제나 민주주의의 진보를 뜻하지는 않는다. 알고리즘의 편향과 딥페이크의 그늘 속에서, 우리의 투표함과 공론장을 지키기 위한 시민들의 날카로운 눈초리가 그 어느 때보다 절실한 시점이다.
#AI가짜뉴스 #빅테크선거개입 #민주주의위기 #딥페이크 #알고리즘편향 #김희교 #박태웅 #이정환 #권오현 #공론장 #일론머스크 #프랑스시위 #브라질대선 #메타 #AI역습 #가짜뉴스대응 #정치AI #미디어리터러시 #시민참여 #팩트체크 #빠따프로젝트 #올리가르히 #기술권력 #민주주의생존 #AI스웜 #데이터포이즈닝 #국가패권 #플랫폼왜곡 #극우세력동맹 #정부예산
0 댓글