넷플릭스 <소셜 딜레마>를 보고

출처=넷플릭스 사이트 캡처

“고객을 ‘사용자’라고 부르는 산업 분야는 딱 두 곳이다. 불법 마약과 소프트웨어 산업.”

재생을 멈추게 한 문장. IT 기업에게 고객은 광고주이다. 사용자는 그저 사용자일 뿐이다. 서비스를 최대한 오래 사용해 주길. 그저 광고를 보는 좀비가 되어주길.

추천 시스템. 결국 인간의 관심을 붙잡기 위한 것이 목적인 기술. 기업들은 관심을 붙잡기 위해 고민한다. 어떻게 하면 인간이 중독될 수 있게 만들지 심리학적, 행동학적 이론을 바탕으로 정교하게 서비스를 설계한다.

관심을 붙잡는 이유는 오직 돈이다. 기업은 당연히 이윤을 좇는다. 그러나 법과 규칙을 지키며 좇아야 한다. 하지만 현재 우리의 법은 이윤을 좇는 거대 기업들을 제재할 만한 수단이 갖추어져 있지 않다. 거의 무방비 상태에 가깝다. 인간의 뇌도, 법이라는 사회 시스템도 어느 것 하나 기술의 발전 속도를 따라가지 못한다. 그 시차를 이용해 IT 거대 기업들은 이미 막대한 부를 축적했다. 부의 규모를 이용해 법을 만드는 정부와 맞설 수 있게 되었다.

추천 시스템. 어떤 면에서는 내가 찾고 있는 것을 더 빨리 찾을 수 있게 만들어 줘서 편리한 거 아닐까? 라는 안일한 생각도 했었다. 비슷한 취향의 콘텐츠를 추천해주니 노력하지 않아도 실패하지 않을 새로운 콘텐츠를 알게 되는 건 나쁘지 않다고 생각했다.

하지만 너무나 단순하고 순진한 착각이었다. 애초에 그 추천 알고리즘 속에 사용자를 편하게 할 의도는 어디에도 없었다. 그들이 원하는 건 그저 나의 관심, 그로 인한 체류 시간의 증가, 그로 인한 광고 노출, 그로 인한 광고비가 전부였다. 내가 우연히 본 콘텐츠로부터 내가 어떤 감정을 느끼고, 어떤 거짓이 있었는지는, 그로 인해 내가 어떤 생각과 행동을 강화할지는 전혀 관심이 없다.

구글, 애플, 페이스북, 트위터, 핀터레스트 등 주요 IT 기업의 전 대표, 부대표, 투자자, 수석 엔지니어, 디자이너 등이 나와 용기를 내어 말한다. 기업은 잘못된 비즈니스 모델을 가지고 있고 그로 인해 시스템 전체가 잘못 돌아가고 있다고. 이를 개선하려면 무모하게 들릴 지 모르겠지만 모든 걸 바꿔야 한다고. 그래야 변화할 수 있다고.

유투브 추천 알고리즘 개발에 참여했던 전 구글 엔지니어는 말한다. 추천을 제거해주는 크롬 확장 프로그램을 쓰라고. 검색 기록을 저장하지 않는 검색 엔진을 쓰라고. 지메일을 기획했던 디자이너는 말한다. 이메일 알림을 끄라고. 중독에서 벗어나야 한다고.

페이스북 피드에서 최상단에서 한 번 더 스크롤을 내리면 최신 콘텐츠가 로드된다. 왜 이런 UX가 생겨났나? 가만 보면 작동 방식이 비슷한 게 있다. 바로 도박 슬롯머신. 슬롯을 아래로 당기면 무엇이 나올지 알 수 없다. 어떤 결과가 나올지 기대되고 흥분하게 되는 원리를 차용해 피드에 적용시켰다. 이런 기능들은 우리의 말초 신경을 자극하고 도파민을 분비시킨다. 결국 끝없이 콘텐츠를 소비하게 만들기 위해 설계된 장치이다.

비단 신경계만 자극하는 게 아니다. 원초적인 심리와 감정까지도 자극한다. 소셜 미디어는 기본적으로 자신의 주변 사람과 연결한다. 이는 태초의 인간이 무리지어 살며 생존해온 방식과도 연결된다. 수백만 년전부터 인간이 중시해온 그 원초적인 감정, 즉 나는 어떠한 사회적 무리에 속해 있고 그 결과 생존할 수 있다는 감각과 직결된다. 그러나 인간은 그 사회적 연결을 5분에 한 번 씩 확인하도록 설계되어 있지 않다. 우리는 끊임 없이 사회적 연결을 확인받고, 인정받길 원하게 만드는 소셜 미디어에 맞게 스스로를 변형시킨다.

물론 처음에는 순수한 의도였다. 좋아요 버튼을 만들 때 사람들이 서로 공감과 지지를 해주길 바라며 만들었다. 지금처럼 10대들이 좋아요 버튼에 집착하며 자신의 외모를 비하하는 세상을 꿈꾸지 않았다. 의도했든 의도하지 않았든 세상은 그렇게 변했다.

이처럼 소셜 미디어는 실제로 인간의 감정, 행동에 영향을 미친다. 중독을 유발하며 우울증과 분노, 나아가 물리적 충돌, 자살까지 불러온다. 극단적인 사례가 아니냐고? 고작 개인의 행동의 변화가 어떻게 사회 전체적 행동으로 이어지냐고? 미얀마에서는 핸드폰 가게에서 핸드폰을 사면 가장 먼저 페이스북 앱을 깔아주고 대신 계정을 가입시켜 준다. 많은 이에게 정보와 세상은 페이스북을 통해 전달된다. 페이스북은 과거 미얀마에서 벌어진 로힝야족 학살과 무관하지 않다. 당시 페이스북에는 로힝야족에 대한 수많은 혐오 콘텐츠가 난무했다. 페이스북은 이를 인지했고 저지할 방법이 있었음에도 방관했다. 로힝야족은 페이스북을 상대로 집단소송을 제기했다.

영상 속 사람들은 문제가 무엇인지를 알고 무엇이 진실인지에 대한 합의가 없다면 사회는 바뀌지 않는다고 말한다. 보는 내내 충격과 동시에 지금이라도 이 내용을 접했다는 잠깐의 안도감이 들었다. 무엇이 진실일까, 어디까지가 진실일까 약간의 고민도 든다. 분명한 건 사회는 이미 소셜 미디어에 잠식되었다는 사실, 그리고 소셜 미디어 내 광고라는 비즈니스 모델은 내가 일하는 마케팅 산업에서는 표준이 되었다는 사실이다.

지금 내가 당장 할 수 있는 것은 이 다큐를 주변에 추천하는 일이다. 특히 원래 자기 취향대로라면 절대 안 볼 것 같은 사람에게 추천하는 일이다. 이건 추천 알고리즘이 할 수 없는 일이니까.