거짓 정보는 우리 인간의 신념을 어떤 방식으로 조작하는가?

민주주의를 위협하는 가짜 뉴스의 시대, 우리는 민주주의를 지키기 위해 거짓된 정보에 대처해야만 한다. 『가짜 뉴스의 시대』는 우리가 올바른 신념을 갖고 견지하기에는 너무나도 취약하다는 사실을 일깨워주며, 우리의 신념이 어떻게 형성되고 거짓 정보는 이 과정에 어떤 방식으로 교묘하게 파고드는지, 그 작동 방식부터 이해할 수 있도록 도와준다.

두 저자는 모든 시민이 다양한 정보를 기반 삼아 신념을 형성하고 그 신념이 모여 민의가 형성되는 민주주의 구조 아래서 가짜 뉴스를 비롯한 거짓된 정보는 올바른 민의를 형성하는 데 치명적일 수밖에 없다고 이야기하며 가짜 뉴스를 비롯한 오염된 정보에 맞설 수 있는 여러 방안을 이 책은 제시한다.

담배 산업계의 선전 전략, 트럼프와 힐러리의 대선을 앞두고 쏟아졌던 가짜 뉴스들과 러시아의 개입, 기후변화를 둘러싼 양극화된 대립을 따라가며 가짜 뉴스가 우리 사회를 오염시키는 상황들을 생생하게 보여주고, 눈앞에 너무도 명확한 증거가 있음에도 불구하고 눈앞에 증거를 보고 있는 자신보다 자신이 신뢰하는 사람들의 판단을 신뢰하는 경향이 나타나면 순식간에 모든 사회적 연결망에 거짓인 신념이 확산될 수 있음을 보여준다.

이처럼 거짓 정보가 우리 인간의 신념을 어떤 방식으로 조작하는지 적나라하게 파고드는 이 책에서 저자들은 우리가 무엇을 믿는가는 우리가 누구와 알고 지내는가에 달려있다는 사실을 과학적 근거를 바탕으로 설득력 있게 풀어내고, 우리는 주변의 정보로 신념을 형성하고 그 신념이 모여 민의가 되는 민주주의에 이러한 오염된 진실은 그 근본을 흔들 수 있다는 사실을 자각해야 한다는 깨달음을 전한다.

● 거짓 정보는 어떻게 퍼져나갈까?
● 누군가에게는 말도 안 되는 루머가, 왜 어떤 이에게는 신념이 되는 걸까?
● 왜 많은 사람이 자신이 믿는 것이 정말 진실인지에는 관심이 없는 걸까?

“오염된 정보에 맞서기 위해서는
그 영향력이 작동하는 방식부터 이해해야 한다”

▼ 가짜 뉴스의 작동방식을 해부해 ‘실체적 진실’에 다가서다!
거짓 정보가 우리의 신념을 어떻게 오염시키는가에 관한 최초의 과학적 고찰

그야말로 가짜 뉴스의 시대다. 최근 정치권을 둘러싸고 불거진 논쟁은 결국 시민들로부터 가짜 뉴스 퇴출이란 열망을 불러냈다. 이는 우리나라만의 문제가 아니다. 트럼프 미국 대통령은 취임 당시부터 가짜 뉴스와의 전쟁을 선포했고, 각국 정부와 국제기구는 가짜뉴스에 대응하기 위한 로드맵을 마련하기 위해 분주하다. 가짜 뉴스는 이제 민주주의를 위협하고 있다. 모든 시민이 다양한 정보를 기반 삼아 신념을 형성하고 그 신념이 모여 민의가 형성되는 민주주의 구조 아래서, 가짜 뉴스를 비롯한 거짓된 정보는 올바른 민의를 형성하는 데 치명적일 수밖에 없다. 이제 우리는 민주주의를 지키기 위해 거짓된 정보에 대처해야만 한다. 이를 위해선 우리의 신념이 어떻게 형성되며 거짓 정보는 이 과정에 어떤 방식으로 교묘하게 파고드는지, 그 작동 방식부터 이해해야만 한다.

《가짜 뉴스의 시대》는 거짓 정보가 우리 인간의 신념을 어떤 방식으로 조작하는지 적나라하게 파고든다. 케일린 오코너와 제임스 웨더럴은 ‘당신이 무엇을 믿는가는 당신이 누구와 알고 지내는가에 달려있다’는 사실을 과학적 근거를 바탕으로 설득력 있게 풀어낸다. 이들은 거짓 신념이 퍼지는 이유를 이해하기 위해 개인의 심리보다는 사회적 요인들에 주목한다. 이들은 게임이론가이자 물리학자, 수리행동과학연구소 연구원으로 수학적 모형을 통해 사회적 관계망 속에서 우리가 신념을 어떻게 형성하고 갱신하는지 드러낸다. 생각을 공유하는 사람들의 집단을 닮은 프로그램은 그 집단 내 사람들의 학습에 영향을 미치는 요인을 분석해 거짓 정보가 우리의 신념을 얼마나 쉽게 오염시킬 수 있는지를 보여준다.

그 결과는 섣부른 짐작을 뛰어넘는다. 저자들의 진단에 따르면 ‘인간의 합리성’이라는 그림은 위험할 만큼 왜곡돼 있다. 자신이 속한 집단에서 주변인들에게 들은 정보를 아무리 합리적으로 해석해도 올바른 신념을 형성하는 데 실패할 수 있다. 아무리 합리적인 개인이 모여도 전혀 합리적이지 않은 집단을 형성될 수 있는 것이다. 담배 산업계의 선전 전략, 트럼프와 힐러리의 대선을 앞두고 쏟아졌던 가짜 뉴스들과 러시아의 개입, 기후변화를 둘러싼 양극화된 대립을 따라가다 보면 가짜 뉴스가 우리 사회를 오염시키는 상황이 현재진행형임이 여실히 드러난다.

《가짜 뉴스의 시대》는 우리가 올바른 신념을 갖고 견지하기에는 너무나도 취약하다는 사실을 일깨워준다. 이는 자연스레 어떤 정보로 누가 이득을 보는지, 우리가 더 예민해져야함을 방증한다. 자신도 모르게 누군가의 이익에 기여하는 선전가가 되고 싶은 사람은 없다. 복잡한 정보망에 숨어있는 각종 가짜 뉴스와 음모, 유언비어와 괴담에 어떤 의도가 숨어있는지 한 번 더 의심해야만 한다. 수많은 정보의 진위를 파악하기에 인간의 한계는 명확하다. 그럼에도 이 책이 말하고 있는 신념의 작동방식, 조작의 도구들을 이해할 때 우리는 거짓된 믿음을 거부할 첫 걸음을 내딛을 수 있을 것이다.

“가짜 뉴스와 네트워크가 한데 뒤엉켜 세상을 어떻게 바꿔놓고 있는지 보여주는시의적절하고 매력적인 서사.”
- 앨버트 라슬로 바라바시, 《링크 Linked : 21세기를 지배하는 네트워크 과학》 저자

“정보가 무기가 되어버린 시대에 꼭 필요한 책.”
- 조지 머서, 〈사이언티픽 아메리칸 Scientific American〉 편집자

“증거, 사실 그리고 무엇보다도 진실을 지키는 데 결정적인 철학적 실마리를 제시한다.”
- 앨런 M. 브랜트, 《담배의 세기 Cigarette Century》 저자

“전염병처럼 퍼지는 가짜 뉴스에 대처하기 위해 무엇을 할 수 있는지에 관한 최고의 책.”
- 존 호건, 스티븐스공과대학 과학저술센터장

▼ 누군가에게는 말도 안 되는 이야기가, 왜 어떤 이에게는 신념이 되는 걸까?

우리는 ‘내일도 태양은 뜬다’라고 말할 수 있을까? 데이비드 흄은 ‘아니오’라고 단호하게 대답한다. 매일 뜨는 태양도 언젠가는 팽창해 지구를 집어삼킬 것이다. 우리가 알고자 하는 대상의 모든 것을 경험해볼 수 없기에 모든 추론은 틀릴 가능성이 있다. 이를 ‘귀납의 문제’라 부른다. 그럼에도 우리가 확보할 수 있는 최선의 증거를 바탕으로 신념을 갖는 것이 게 무의미한 것은 아니다. 우리가 진실이라 믿는 것들은 지금까지 세상이 진보하는 데 확실한 공을 세워왔기 때문이다. 확실성에 대한 요구들은 무시하고 중심을 잡는 것이다. 흄이 말했듯 ‘현명한 사람은 자신의 신념을 증거에 조화시킨다’.

이러한 전제를 바탕으로 저자는 증거와 신념의 관계를 나타내는 베이즈 정리 모형을 제시한다. 베이즈 정리에 따르면 조건에 따른 확률을 고려해 신념을 갱신할 수 있다. 예컨대 증거로 인해 A라는 결과가 나타날 확률이 50% 이상이라면 우리는 A가 참이라 믿을 수 있는 것이다. 이 모형을 바탕으로 삼은 다양한 모형들과 변수를 들면서 저자는 우리 신념이 변할 수 있는 다양한 가능성을 증명한다.

그 가능성 중 하나가 동조 편향이다. 예시를 들어보자. 첫 백악관 기자회견에서 당시 트럼프 행정부의 대변인은 “트럼프 대통령이 취임식에서 사상 최대 규모의 청중을 맞았다”고 발표했다. 그러나 지하철 승객 수와 상공에서 찍은 사진들로 추정한 청중 수는 사상 최대가 아니었다. 이를 두고 연구한 한 학자는 약 14,000명의 미국 성인들에게 도널드 트럼프와 버락 오바마의 취임식에 참석한 군중의 사진을 나란히 보여주고 어느 쪽 사진에 사람이 더 많냐고 물었다. 놀랍게도 트럼프의 지지자들 가운데 15%는 한눈에 보기에도 확연히 적은 트럼프 쪽 사진을 선택했다. 그들은 눈앞에 있는 뚜렷한 증거를 무시하고 트럼프 정부 대변인의 의견에 동의했던 것이다.

동조 편향 때문에 잘못된 신념을 형성한 사례다. 우리는 증거를 기반해 신념을 형성한다. 하지만 눈앞에 너무도 명확한 증거가 있음에도 불구하고, 여기에 눈앞에 증거를 보고 있는 자신보다 자신이 신뢰하는 사람들의 판단을 신뢰하는 경향이 나타나면 순식간에 모든 사회적 연결망에 거짓인 신념이 확산될 수 있다.

▼ 신념을 조작하는 선전가의 교활한 도구들

1952년 12월, 미국 월간지 〈리더스 다이제스트〉에 ‘한 갑씩의 암’이라는 제목의 글이 실렸다. 여기엔 흡연과 폐암의 연관성에 대한 증거를 담겨 있었다. 논조는 거침이 없었다. 1920년부터 1948년까지 폐암으로 인한 사망이 10배 증가했으며, 45세 이상의 흡연자 집단에서는 폐암의 발병 위험성이 피운 담배 개비 수와 비례해 증가한다고 주장했다. 흡연률이 ‘엄청 나게 증가’하고 있기 때문에 폐암은 곧 인류가 걸리는 암 가운데 가장 흔한 암이 될 것이라는 의학 연구자의 말도 인용했다. 이 기사는 담배 업계에는 사형 선고와 마찬가지였다. 그들은 이러한 증거를 뒤집거나 논점을 바꾸는 전략에 착수했다. 담배와 폐암의 연관성을 연구하는 과학자들에게 담배 업계의 선전가들이 접근하기 시작했다.

담배연구소는 단체가 뉴스레터 〈담배와 건강〉을 정기적으로 발간하면서 흡연과 폐암 사이에는 아무런 연관이 없음을 보여주는 연구 내용을 퍼뜨리기 시작했다. 흡연의 위험성에 관한 과학적 증거에 흠집을 내는 것이 목적이었다. 담배의 타르 성분이 쥐의 몸에 피부암을 유발했다는 연구에 대응해 〈담배와 건강〉은 같은 팀이 진행한, 암 발병률이 더 낮게 나타난 연구들을 지적했다. 이 뉴스레터는 실제로 담배 성분의 암 유발 사례를 보고한 연구가 몇 건이나 있었는지는 언급하지 않은 채 ‘5건의 담배-동물 연구에서 암 유발 사례가 없었음’ 같은 헤드라인을 내걸었다.

이러한 전략에서 선전가는 과학적 과정에 전혀 개입하지 않는다. 과학자들을 매수하지도 않고 과학적 연구에 기금을 대지도 않는다. 다만 우연히 오답을 낸, 연구 결과들만 취해 대중과 정책 입안자들에게 보낼 뿐이다. 과학이 작동하는 방식에서 대중이 오해하고 있는 면을 활용한 전략이었다. 우리는 대개 개별적인 과학 연구들이 하나의 가설에 대한 증거 또는 확증을 제시한다고 생각한다. 그러나 과학은 이런 이상과는 거리가 멀며, 어떤 연구든 잘못된 결과를 동반한다. 거대 담배 업계는 이 사실을 자신들의 입맛에 맞게 이용한 것이다. 이것이 선전가의 ‘선택적 공유’ 전략이다. 선전가는 과학계에서 산출해낸 결과들을 뒤져 본 뒤 자신들의 의제를 지지하는 결과들만 널리 알려 결국 정책 입안자들이 잘못된 신념을 갖도록 유도한다.

▼ 가짜 뉴스의 시대에 우리는 어떻게 대처해야 하는가

저자는 이제 ‘사상의 시장(marketplace of ideas)’이 거짓 정보를 효과적으로 골라낼 수 있다는 생각을 버려야 한다고 말한다. 중요한 것은 권력을 가진 이들이 언론에 의도적인 영향력을 행사해 대중에게 실질적인 해를 가할 수 있다는 사실을 깨닫는 것이다. 근거 없는 견해를 옹호하는 것은 단지 이상적인 ‘시장’에 무해한 무엇인가를 더하는 일이 아니라 시장 전체를 망가뜨릴 수 있는 잘못된 일로 여겨져야 한다.

그 방법 중 하나로 저자는 과학계가 위조된 연구 결과가 나올 가능성을 줄이는 공표(publication) 규범을 제안한다. 과학자들은 연구 결과를 공표할 때 그 안에 내재된 위험성도 고려해야 하며 자신이 수행한 연구의 사회적 결과와 이를 공표함으로써 얻는 이득을 저울질해보아야 하는 것이다. 과학자의 임무는 단지 과학을 하는 것이 아니다. 사회적으로 민감한 연구일 경우 최소한 그 결과의 공표를 선택하기 전에 특별히 높은 기준에 결과를 맞출 책임이 있다. 특히 산업계의 선전가들이 활동하는 분야에서 연구 결과를 공표한다면 사회에 미칠 위험성이 높기 때문에 과학자들은 의사결정을 할 때 반드시 그 결과를 고려해야만 한다.

이밖에도 가짜 뉴스를 비롯한 오염된 정보에 맞설 수 있는 여러 방안을 이 책은 제시한다. 하지만 이러한 규제들이 정보의 조작을 일삼는 사람들보다 앞서서 그들의 모든 의도를 통제하기에는 절대 녹록치 않으리라는 사실도 고백한다. 결국 우리는 주변의 정보로 신념을 형성하고 그 신념이 모여 민의가 되는 민주주의에 이러한 ‘오염된 진실’은 그 근본을 흔들 수 있다는 사실을 자각해야 한다. 저자는 이러한 자각이 어쩌면 민주주의의 새로운 메커니즘에 대한 고민으로 향할 수 있다는 근원적 질문을 독자에게 던지며 끝을 맺는다.

서문. 타타르의 식물성 양
제1장. 진실이란 무엇인가?
제2장. 양극화와 동조
제3장. 인류의 복음화
제4장. 사회적 연결망
미주
참고문헌
찾아보기