Зачем интернет-компаниям самоцензура и чем она опасна?

Дональд Трамп победил на выборах американского президента — Хиллари Клинтон остаётся утешать себя тем, что она получила на 1 млн голосов больше. Правда, не все об этом знают: никому не известный блог 70news сообщил, что и общее голосование выиграл кандидат республиканцев. Именно этот пост попал на первое место выдачи Google News по запросу «окончательный подсчет голосов», обманув множество людей.

В последние две недели очень много говорят о том, что неожиданный результат выборов в США хотя бы отчасти на совести социальных сетей и поисковиков, которые не препятствовали распространению откровенно ложных утверждений под видом новостей и конспирологических теорий, притворявшихся аналитикой: Google не следит за выдачей, Twitter потворствует троллям, а Facebook тиражирует непроверенные факты, которые влияют на предпочтения избирателей.

Даже Барак Обама пожаловался на обилие дезинформации, особо подчеркнув, что в Facebook она ещё и очень хорошо упакована — не хуже, чем в телевизоре. По его мнению, это угрожает самой демократии.

Журналист BuzzFeed Крейг Силверман специально изучил, как расходились в интернете откровенно выдуманные истории и репортажи уважаемых изданий, посвящённые выборам. Оказалось, что с августа по октябрь 2016 года 20 самых популярных фейков собрали 8,7 млн лайков, репостов и комментариев в социальных сетях, а 20 самых популярных заметок больших американских газет — только 7,3 млн.

Откровенно не соответствующая действительности новость о том, что Папа Франциск поддержал Трампа, получила 960 000 знаков внимания в Сети, вторая по популярности история («WikiLeaks подтверждает, что Хиллари продавала оружие ИГ») — 790 000, третья («Всё кончено: Утёкшее письмо Хиллари про ИГ — это гораздо хуже, чем кто-нибудь мог представить») — 750 000. Виральные истории качественных СМИ расходились хуже. Лонгрид Washington Post, рассказывающий о коррупционных делах с участием Трампа, собрал 850 000 откликов. Колонка Huffington Post «Перестаньте делать вид, что вы не знаете, почему люди ненавидят Хиллари Клинтон» — 623 000. Третье место занял таблоидный материал New York Post «Найдена дерзкая лесбийская съёмка Мелании Трамп» — 531 000.

Основной ареной сражений сил добра (по странному стечению обстоятельств поддерживавших одного кандидата) и сил зла (отдавших предпочтение другому) стал Facebook. И социальная сеть оправдывается как может. Марк Цукерберг сразу же сказал, что, во-первых, только 1% сообщений, опубликованных на его платформе, не соответствуют действительности, а во-вторых, было бы абсурдно считать, что фейки повлияли на исход выборов. Но давление продолжалось.

Газеты быстро выяснили, что даже многие сотрудники Facebook считают, что политика компания невольно стала препятствием на пути демократического процесса, и испытывают от этого экзистенциальный кризис, который рискует перерасти в корпоративный. Все накинулись на Цукерберга, и ему быстро пришлось менять риторику. В субботу он опубликовал большой пост на своей странице в Facebook, в котором заявил, что относится к проблеме серьёзно. Пост собрал 150 000 откликов за два дня — в несколько раз меньше, чем фейк про Папу Франциска.

Результат выборов в США отчасти на совести социальных сетей и поисковиков, которые не препятствовали распространению ложных утверждений под видом новостей

Проблемы, с которыми мы столкнулись, сложны — и технологически, и философски, написал Цукерберг. «Наше кредо — дать людям голос, — оправдывался он, — А это значит — рисковать, позволяя им делиться всем, чем захочется, в любое удобное время… Мы ни хотим быть арбитрами и можем только положиться на наше сообщество и достойные доверия третьи стороны». Затем он предложил несколько способов бороться с дезинформацией, в первую очередь, дать пользователям простые механизмы её маркировать.

Давление будет расти, потому что проблема актуальна не только в Америке или России, а повсюду. Жители Филиппин недавно радостно делились новостью, что, по мнению Космического агентства США (НАСА), их президент — «лучший политический лидер Солнечной системы».

Пузыри земли

Желание побороться с ложной информацией в интернете вполне понятно, но совсем не факт, что продуктивно. Критики Facebook исходят из того, что люди искренне не умеют отличать правдивые новости от фейков, а это судя по всему совсем не так.

Во-первых, вполне может быть, что пользователи читают и распространяют заведомо непроверенную информацию не потому, что заблуждаются, а потому что ищут подтверждение своим убеждениям. В этом случае им просто всё равно, правду они публикуют или нет — новости такие люди ценят совсем за другое. В это легко поверить, учитывая, что большинство сайтов, распространяющих вымышленные новости, созданы не сторонниками политиков, а предпринимателями, которые зарабатывают на виральном потенциале своих фальшивок: они просто удовлетворяют спрос.

Во-вторых, даже для демократического процесса «правдивость» — совсем не единственная важная характеристика информации. Не вполне очевидно, скажем, какое отношение новость про «лесбийскую фотосъёмку» Мелании Трамп имеет к информированию избирателей. Сделает ли это её мужа худшим президентом? Лучшим? Есть ли у читателя возможность это понять? Если сегодня Facebook начнёт бороться с лживыми новостями, где гарантия, что завтра социальная сеть не решит побороться ещё с чем-нибудь — например, с нерелевантными новостями? В таком случае, избирателям придется совсем туго.

В-третьих, границы между выдуманными новостями, фейками и сатирой очень расплывчаты. Невозможно запретить выдумывать новости, не сделав интернет гораздо более скучным местом. Журналист Джон Стюарт много лет вёл на канале Comedy Central сатирическую новостную передачу The Daily Show, в которой правдивая, хоть и ангажированная, новостная повестка сочеталась с абсолютным бредом. В 2009 году он выиграл опрос журнала Time о том, кто из ведущих новостей заслуживает наибольшего доверия.

И это только философские проблемы — а есть ещё технологические.

Редакция Facebook

В идеальном мире технологическая компания вообще не должна была бы задумываться о содержании информации, которую ее пользователи передают друг другу. Facebook не говорит своим голосом, а только позволяет другим людям делать это.

Так же воздух не несёт ответственности за звуковые волны, которые в нём распространяются, социальная сеть не несёт ответственности за публикации участников. Такая позиция — не утопия, а распространённый взгляд на жизнь, свойственный, среди прочего, многим программистам и зафиксированный в законодательстве.

Во многих странах технологические сайты избавлены от требований, которые применяются к профессиональным СМИ. Считается, что публикатором в социальной сети является пользователь, а не менеджмент компании.

Под давлением мировой общественности Facebook может отказаться от технологической нейтральности и пойти альтернативным путём: попытаться создать редакцию.В мае в Америке уже был скандал, когда выяснилось, что сотрудники Facebook, отвечавшие за представление «трендовых» новостей сознательно затрудняли распространение информации из консервативных изданий. Тогда компании пришлось извиняться и проводить кадровые чистки.

Этот эпизод ясно намекает, что будет, если потребовать от социальной сети нанимать журналистов: политикой платформы, которой пользуется почти 2 млрд человек по всему миру будут управлять несколько человек, про которых неизвестно вообще ничего. В отличие от главного редактора большой газеты, например. Это очевидная завязка для жуткой антиутопии «Джону Смиту не выдали опцион и он утопил мир в крови».

Функции редактора можно, конечно, кому-нибудь делегировать. Например, пользователям — как это предлагает сам Цукерберг. Но граждане России легко могут представить, чем это кончится: люди начнут жаловаться на дезинформацию даже тогда, когда им говорят чистую правду, и Facebook будет вынужден действовать. Введя цензуру для «плохих» изданий, нельзя не ввести её и для «хороших».

Можно делегировать функции редактора государству. Регулировать «Яндекс.Новости», создать всемирный роскомнадзор, наплодить решений провинциальных мировых судов, запретить тысячу сайтов и время от времени сажать людей в тюрьму за репосты. Опыт показывает, что такой метод тоже не способствует конкуренции идей и распространению демократии.

Если люди хотят жить в мире грёз, они найдут способ в нём оказаться: следующая волна дезинформации будет распространяться в мессенджерах, чатах и онлайн-играх

Наконец, можно попытаться придумать алгоритм, которому по силам будет самостоятельно решить проблему — робота, проверяющего факты.

Это вроде бы решит проблему технологической нейтральности и полностью устраняет человеческий фактор. Но, во-первых, и алгоритмы тоже кто-то пишет и переписывает, а во-вторых, по-настоящему мудрый робот довольно быстро покончит с любой информацией в сети: люди каждый день врут ради удовольствия, и не только в новостных заметках.

Столкнувшись с необходимостью делать выбор из равно неприятных альтернатив, технологические компании пошли по среднему пути. Они решили не цензурировать дезинформацию, а уничтожить экономическую базу её производства. На прошлой неделе и Google и Facebook заявили, что не будут размещать рекламу на сайтах с вымышленными новостями. Мало того, что эта полумера не решает всех философских проблем Цукерберга, она ещё и чревата потерей аудитории.

Если люди хотят жить в мире грёз, они найдут способ в нём оказаться. Просто следующая волна дезинформации будет распространяться в мессенджерах, чатах и онлайн-играх — там, где её существование будет совсем незаметно. Начитавшись конспирологических текстов в приставке Xbox, в следующий раз они предъявят изумлённой мировой общественности в качестве президента не Трампа, а Ктулху.

Добавленная стоимость Facebook состоит именно в том, что он передаёт любую информацию, а не только полезную для здоровья. Именно по этой причине крупнейшая социальная сеть стоит $334 млрд (двадцать выручек 2015 года), а крупнейшая мировая газета — New York Times — только $2 млрд (1,3 выручки 2015 года). Мультипликаторы технологической платформы прямо связаны с её способностью мультиплицировать дезинформацию.

Общественный интерес требует, чтобы Facebook меньше, а не больше занимался цензурой и самоцензурой — по политическим или коммерческим причинам.