[최희원의 IT세상]여론조작에 뛰어든 챗봇

네이버는 대통령 선거일까지 후보들에 대한 검색어 자동완성기능을 제공하지 않기로 결정했다. 나는 지난 칼럼에서 구글과 네이버의 자동완성기능의 인위적 조작에 대한 우려를 표했다. 선거에 영향을 미치는 연관검색어도 그동안 적지 않은 논란을 불러일으켰다. 나라의 미래가 걸린 대통령 선거에서 언론보다 더 큰 영향력을 가지고 있는 네이버 검색의 중요성을 감안한다면 이번 조치는 발 빠른 대처라 할 수 있다.

버락 오바마 미국 대통령 재임 시절 AP통신은 공식 트위터 페이지에 다음과 같은 뉴스를 올린 적이 있다. “백악관에서 폭발이 일어나 오바마 대통령이 부상을 입었다.” 200만명에 달하는 팔로어가 곧바로 리트윗을 했고 전 세계는 경악했다. 월스트리트는 즉각 반응했고 다우지수는 144포인트 급락했다. 3분 만에 한국돈으로 155조원이 증발했다. 가짜뉴스 확산으로 페이스북과 구글은 허위선전의 통로가 되고 있다. 대통령 탄핵 당시 일부 극우세력들은 JTBC의 태블릿PC 뉴스가 조작됐다는 등 가짜뉴스 양산을 통해 국론을 분열시켰다. 최근 폭로된 알파팀, 즉 국정원 댓글부대 사건은 여론조작의 실체를 드러내준 사례다. 이들은 특정 키워드 등에 반응하는 댓글 프로그램이나 클릭수를 늘리는 프로그램까지 활용하면서 선거 여론조작에 가담하기도 했다.

앞에서 언급한 AP통신 해킹 역시 가짜뉴스의 또 다른 사례다. AP의 허위보도 사건은 알고리즘이 월스트리트에서 미친 듯이 날뛴 첫 사례도 아니고 마지막도 아닐 것이다. 수백만분의 1초 단위로 분석이 이뤄지고 속도가 빨라지는 세상에서 알고리즘이 잘못된 궤도에 진입할 경우 우리가 실질적으로 개입할 여지는 거의 없다. 디지털 기술혁명에 힘입어 우리는 편안하고 안락한 생활을 하고 있지만, 모든 것이 네트워크로 연결되었기에 태생부터 심각한 취약점을 안고 있다. 얼마 남지 않은 대선 투표 당일 디도스 공격 등으로 인터넷이 마비된다거나 선거관리위원회가 해킹당할 수도 있다. 투표 마감을 2~3시간 앞두고 불순 의도를 가진 세력이 언론사를 해킹해 특정 후보에 대한 흑색선전을 사실처럼 속보로 내보낸다면, 치명적이고 위험한 결과를 초래할 수도 있다.

일러스트_ 김상민 기자

지난해 미국 대선에서는 가짜뉴스가 트럼프 당선에 적지 않은 영향을 끼쳤다. 트럼프는 선거기간 내내 언론, 여론조사, 경선 시스템 등이 조작됐다며 불만을 토로했다. 하지만 일부 극우세력이나 백인우월주의자들은 가짜뉴스를 양산했고, 트럼프는 이를 유세에 이용했다. 옥스퍼드대 연구팀은 대선 기간 동안 트럼프 측의 챗봇이 힐러리 클린턴 측에 비해 5배나 많은 허위주장과 허위사실을 유포했다고 밝혔다. 전문가들은 트럼프 당선의 숨은 공신은 백인우월주의자 등 극우세력들이 페이스북을 통해 배포한 가짜뉴스와 허위사실을 유포한 인공지능 챗봇들이라고 밝힌다.

챗봇은 초보 수준의 인공지능이지만 점차 발전하게 되면 여론 형성에 큰 변수, 아니 상수가 될 가능성이 있다. 챗봇은 페이스북, 트위터 등에서 댓글달기, 트윗하기, 리트윗하기, 회신하기, 다른 계정 팔로잉하기를 했다. 2년 전 불륜사이트 애슐리 매디슨 회원 3700만명의 개인정보가 해킹됐는데 이때 공개된 5%의 여성 회원 가운데 상당수가 실제 인간이 아닌, 챗봇인 것으로 밝혀졌다. 하지만 남성들은 챗봇을 실제 여성으로 착각하고 돈을 내면서 대화를 했다. 챗봇이 사람들을 속일 가능성은 항상 존재한다. 이번 대선에도 정보기관이 행여 사람인 척 행동하는 챗봇들을 소셜미디어에 풀어놓고, 여론조작을 위한 글과 댓글을 써나가고 있지나 않은지 걱정스럽다. 대부분은 이것이 인공지능이 운영하는 가짜 계정이란 것을 눈치채지 못한다.

MIT 테크놀로지 리뷰에 따르면 트위터의 모든 선거 관련 게시물의 20%가 챗봇에서 나온 것으로 나타났다. 애슐리 매디슨 남성 회원들이 그랬듯이 챗봇 여부를 가려낸다는 것은 쉽지 않다. 이 때문에 수백만명의 지칠 줄 모르는 챗봇이 채팅에 참여할 때 온라인 대화의 지형은 쉽게 왜곡될 수 있다. 또 챗봇은 사회정치적 담화를 순전히 숫자 게임으로 왜곡시키는 데 사용되기도 한다. 페이스북의 ‘좋아요’ 클릭이 그런 사례다. 숫자가 많으면 우리는 주눅들어 버린다. 논쟁을 사실과 가치나 건전성 등에 기준을 두지 않고 단순히 숫자로 환산해 버리는 우를 범하고 있다. 클릭수는 아주 기초적이고 쉬운 조작방법이다. 게다가 이 같은 단순 논리는 결국 디지털 세계의 기초적인 셈법과 가치관을 대변하기도 한다. 챗봇의 위험성은 여기에 있다. 잘못된 데이터를 분석하면 잘못된 결과물이 나올 수 있다. 챗봇이 데이터를 수집하고 빈도와 사용 맥락을 분석해 내놓은 답은 30점짜리일 수도 있다. 데이터 선별 과정에서의 윤리 문제와 대응 변수의 복잡성에서 오는 위험에 더해 챗봇 학습 과정에서의 가치판단 등이 왜곡된다면 결국 챗봇은 인터넷 환경을 더럽히고, 여론을 조작하고, 심지어 괴물을 지도자로 만드는 데도 영향을 끼칠 것이다.

최희원 인터넷진흥원 수석연구위원·'해커묵시록'저자