결론부터 말하면 너무 겁먹을 필요는 없다.

어차피 우리는 인공지능과 함께 살아가야 하고 인공지능이 진화하는 만큼 우리도 그럭저럭 적응하고 있는 중이다.

중요한건 기술의 진화가 시스템을 무너뜨리지 않도록 합리적인 게임의 규칙을 만드는 것이다.

 

올해는 ‘슈퍼 선거의 해’다.

한국도 그 어느 선거 못지 않은 뜨거운 총선을 앞두고 있지만 세계 인구의 절반이 넘는 인구가 한꺼번에 선거를 치르는 건 처음이다.

세계적으로 GDP(국내총생산)의 40%를 차지하는 76개국에서 40억 명이 투표에 참여한다.

경제가 정치에 휘둘리는 ‘폴리코노미(Policonomy)’ 현상이 가속화할 거라는 전망도 나온다.

 

미국의 정보기술 전문 매체 디인포메이션이 올해 미국 대선에서 AI가 미칠 영향을 5가지로 예측했는데 한국 사회에도 시사하는 바가 크다.

간단히 한국과의 차이를 짚어보고 해법을 정리해 본다.

 

첫째, AI로 만드는 딥 페이크 오디오는 엄청난 혼란을 유발할 수 있다.

생성형 오디오는 동영상보다 훨씬 만들기 쉽고 속기도 쉽다.

이를테면 도널드 트럼프(미국 공화당 대선 후보)가 선거인단 투표를 앞두고 특정 후보를 지지하는 음성 메시지를보낸다면 이게 사실인지 아닌지 확인할 방법이 있을까. 지난해에도 영국과 슬로바키아 등에서 유명 정치인과 언론인의 오디오 딥페이크가 논란이 됐다.

트위터나 페이스북 같은 소셜 미디어는 검색이라도 되지만 지역 단위로 뿌리는 선거 캠페인은 모니터링조차 쉽지 않다.

 

둘째, AI가 개인화 타켓팅과 결합하면 훨씬 더 큰 영향력을 갖게 될 거란 우려도 있다.

직업과 소득, 세금 납부 실적, 출신 지역은 물론이고 가족이 몇 명이고 지난 선거에서 어느 정당을 지지했는지 등을 분석하면 각각의 세그먼트에 따라 맞춤형 메시지를 보내서 취약한 부분을 공략할 수 있다.

디인포메이션은 아직은 기술 수준이 이런 단계까지 이르지 않았다고 분석했다.

페이스북과 트위터 등 소셜 미디어 기업들이 개인 정보를 제공하지 않을뿐더러 이런 타겟 광고를 허용하지도 않기 때문이다.

 

셋째, 정치 광고에 대한 규제가 강화되는 추세다.

한국에서도 정치적인 목적으로 챗봇을 사용하는 걸 금지해야 할 수도 있다.

 

넷째, 자동 번역을 통한 다국어 지원이 새로운 표준이 될 것이다.

자동 번역은 한국에 해당 사항이 없지만 지역 기반의 콘텐츠로 변형하는 건 얼마든지 가능하다.

“관철동 주민 여러분”이라고 시작하는 연설문을 “광장동 주민 여러분”으로 바꿔서 내보낼 수 있고 이게 허용된다면 디테일하게 메시지를 뒤집거나 거짓 메시지를 집어넣는 것도 얼마든지 가능하게 된다.

수백 가지 버전을 순식간에 만들어 낼 수 있는데 비용도 거의 들지 않는다.

 

허위조작 정보는 100%의 거짓이 아니라 99%의 진실에 1%의 거짓을 섞는 방식으로 유통된다는 사실을 간과해서는 안 된다.

진짜 같은 가짜를 허용하는 순간 모든 메시지를 의심하게 된다.

 

다섯째, 틱톡의 영향력이 그 어느 때보다 커질 것이다.

페이스북과 트위터는 팔로워(친구) 중심의 타임라인 피드를 보여주지만 틱톡은 아예 시스템이 다르다.

일단 콘텐츠가 올라오면 샘플 집단에 테스트한 뒤 반응이 좋으면 노출을 늘리는 시스템이다.

자극적이고 선정적인 내용일수록 확산 속도가 빠르다.

 

디인포메이션은 “올해 미국 대선에서 틱톡이 케임브리지 애널리티카가 될 수도 있다”고 경고했다.

영국에서 2016년 브렉시트 국민 투표를 앞두고 소셜 미디어를 활용한 광범위한 여론 조작이 벌어졌다는 사실이 드러난 건 2년 뒤였다.

디인포메이션은 “데이터 연구자들이 틱톡의 영향력을 파악하는 데 몇 년이 걸릴 것이고 그때가 되면 이미 당선된 대통령의 임기가 한참 지난 뒷일 것”이라고 지적했다.

 

눈여겨봐야 할 대목은 허위조작 정보가 확산되는 속도가 이를 바로 잡는 속도를 앞지른다는 사실이다.

특히 선거에 임박해서 확산되는 음모론은 돌이킬 수 없는 잘못된 선택을 불러올 수도 있다.

우리는 우리가 잘 알지 못하는 것들과 싸워야 한다.

허위조작 정보는 훨씬 더 정교하고 그럴듯하게 진화할 것이다.

보이는 게 전부가 아니고 내가 보는 것과 네가 보는 게 다른 세상에 살고 있다는 사실을 간과해서는 안 된다.

 

내가 이 글에서 ‘가짜뉴스’라는 단어를 쓰지 않았다는 사실을 눈치챘나. AI가 범람하는 시대, 가장 큰 위협은 진짜 뉴스에 대한 불신과 진실에 대한 냉소다.

진실과 거짓의 구분이 어려워졌다고 해서 쉽게 포기해서는 안 된다.

그 어느 때보다도 진짜 뉴스와 신뢰할 만한 정보의 역할이 중요한 때다.

‘가짜뉴스’라는 말을 남발하면서 진실을 향한 질문을 묵살하는 사람들을 경계해야 한다.

 

이정환 슬로우뉴스 대표