Невинная и во многом наивная идея эпохи расцвета интернета — о том, что всемирная сеть откроет небывалый доселе доступ к информации — кажется не более чем несбыточной мечтой. Как минимум потому, что найти достоверную информацию в интернете становится все сложнее, причем со временем поддельным в интернете становится не только контент, но и сами люди. Публикуем перевод и адаптацию статьи журналиста Макса Рида для New York Magazine, посвященной вопросам фейковости практически любого аспекта интернета и тому, чем может грозить такая утрата доверия.

В конце ноября 2018 года Министерство юстиции США обнародовало акт против восьми человек, которых обвинили в краже 36 миллионов долларов у рекламодателей — деньги были похищены в ходе двух крупнейших мошеннических операций с дигитальной рекламой, когда-либо раскрытых полицией. Рекламодатели в диджитал-среде, как правило, ищут двух вещей: людей, которые смотрят их рекламу, и авторитетные и законные площадки, на которых она будет размещаться.

Две рассматриваемые в этом деле схемы, названные следователями Methbot и 3ve, фальсифицировали оба пункта. Торговцы заразили порядка 1,7 миллиона компьютеров специальным вредоносным ПО, которое удаленно направляло трафик на «поддельные» веб-сайты, созданные, по словам обвинения, «чтобы обмануть рекламодателей, заставив их думать, что реклама была размещена на сайте издателей премиум-класса», например Vogue или The Economist. Огромное количество просмотров было сфальсифицировано зараженными компьютерами с использованием изумительно сложных методов имитации действий настоящих людей: боты «подделывали клики, движения мышью и данные для входа в социальные сети, чтобы маскироваться под реальных вовлеченных людей».

Поддельные люди с поддельными cookie-файлами и поддельными учетными записями в социальных сетях, поддельные перемещения поддельных курсоров, поддельные нажатия на поддельные веб-сайты — мошенники, по сути, создали симулякр интернета, где единственной реальной вещью была реклама.

Какая же часть интернета — подделка?

Обычно исследования показывают, что из года в год на реальных людей приходится менее 60% всего веб-трафика. А в некоторые годы, по мнению ряда исследователей, боты и вовсе составляют подавляющее большинство «людей» в сети. Так, еще в 2018 году The New York Times сообщила, что за 2013 год добрую половину всего трафика YouTube составляли «боты, маскирующиеся под людей»: их доля была настолько высока, что сотрудники сервиса опасались возникновения так называемой точки перегиба, после которой системы YouTube, предназначенные для обнаружения фейкового трафика, начали бы учитывать бот-трафик как настоящий, а человеческий — как поддельный. Это гипотетическое событие было названо «инверсией».

Вероятно, в будущем мы вспомним ближайшие годы как время, когда интернет прошел инверсию, но не в каком-то строгом численном смысле (поскольку мы уже не раз переживали периоды, когда количество ботов в сети превышало количество реальных людей), но в смысле восприятия. Интернет всегда прятал в своих темных углах бесконечных наследных нигерийских принцев, готовых поделиться с вами своими миллионами, но эта темнота в настоящее время пронизывает каждый аспект сети: все, что когда-то казалось окончательно и бесповоротно реальным, теперь, кажется, является немного поддельным; и все, что когда-то казалось немного фальшивым, теперь имеет силу и привкус настоящего — люди очень склонны верить фейкам. […]

Поддельные метрики

Возьмем что-нибудь столь же простое, как измерение веб-трафика. Кажется, метрики должны быть одной из наиболее реальных вещей в интернете: они исчислимы, их можно отследить, проверить, само их существование лежит в основе рекламного бизнеса, который является движущей силой ведущих социальных и поисковых платформ. Но даже Facebook, крупнейшая в мире организация по сбору данных, похоже, не может предоставить достоверные цифры.

В октябре 2018 года ряд мелких рекламодателей подали иск против гиганта социальных сетей, обвинив его в сокрытии более высокого реального показателя времени, которое пользователи тратили на просмотр рекламного видео на платформе (60–80% по данным Facebook против 150–900% по данным истцов). По их мнению, Facebook занимался фальсификацией данных как минимум в течение года. Согласно исчерпывающему списку в Marketing Land, Facebook признал, что в течение двух лет неверно сообщал об охвате публикаций, о скорости, с которой зрители заканчивают просмотр рекламных видеороликов, о среднем времени, потраченном на чтение статей, об объеме реферального трафика на внешние веб-сайты, количестве просмотров видео и многом другом.

Так можем ли мы по-прежнему доверять метрикам? Есть ли в ​​этом смысл после инверсии? Ведь даже когда мы верим в их точность, есть в метриках что-то не совсем реальное: моей любимой статистикой в ​​прошлом году было заявление Facebook о том, что 75 миллионов человек смотрели хотя бы минуту видео в Facebook Watch каждый день — хотя, как признал Facebook, 60 секунд в рамках этой минуты не должны быть просмотрены последовательно, без перерыва. Реальные видео, реальные люди, фальшивые минуты.

Поддельные люди

Хотя, может быть, и люди-то не совсем настоящие? Как напомнила своим читателям The New York Times в ходе длительного расследования в августе 2018 года, на YouTube процветает бизнес по покупке и продаже просмотров видео. Компания, конечно, заявляет, что лишь «крошечная часть» ее трафика является поддельной, но фейковые подписчики внезапно стали достаточно большой проблемой, чтобы сайт провел чистку «спам-аккаунтов». В наши дни, как выяснила The New York Times, вы можете купить 5000 просмотров на YouTube — просмотром считаются 30 секунд, проведенные в видео — всего за 15 долларов, и клиентов довольно часто убеждают в том, что просмотры, которые они покупают, исходят от реальных людей. Но, скорее всего, они исходят от ботов. […] Если вы хотите получить представление о том, как выглядит инверсия в деле, найдите любое видео по словам «click farm»: вашим глазам предстанут сотни смартфонов, расположенных рядами на полках или стойках в офисах, каждый из которых «смотрит» одно и то же видео или загружает одно и то же приложение.

Очевидно, что это не настоящая торговля живым интернет-трафиком. Но как будет выглядеть реальный трафик, исходящий от людей? Инверсия порождает некоторые необычные, вполне философские затруднения: скажем, если восточноевропейский интернет-тролль, использующий фотографию бразильского мужчины, чтобы маскироваться под американского сторонника Трампа, смотрит видео на Facebook, является ли его просмотр «реальным»? Ведь в интернете у нас есть не только боты, маскирующиеся под людей, но и люди, также маскирующиеся под других людей, а иногда и под ботов. У нас даже есть то, чем является Lil Miquela, лидер мнений из Instagram: фальшивый человек с реальным телом, фальшивым лицом, но реальным влиянием.

[…]

Поддельный контент

Единственный сайт, который вызывает у меня головокружительное ощущение нереальности, — это YouTube, где размещается совершенно бесчеловечный инверсионный контент, стоящий недель просмотра. Телевизионные эпизоды в зеркальном отражении, чтобы избежать нарушения авторских прав, транслируются бок о бок с влогерами, продвигающими очередной товар, и анонимными видео, которые якобы предназначены для детей.

Вы же понимаете, что анимационный ролик, где Человек-паук и Эльза из «Холодного сердца» катаются на тракторах, не является ненастоящим: кто-то специально анимировал его, затем озвучил, и я не сомневаюсь, что какое-то количество (десятки? сотни? миллионы?) детей сидели и смотрели это видео, находя в нем некое загадочное, почти оккультное наслаждение. Но этот ролик, конечно же, не является «официальным», и взрослому, смотрящему его на экране, сложно понять, откуда и зачем он вообще взялся, а главное, что может означать это постоянно растущее количество просмотров.

Но, по крайней мере, это контрафактное видео популярных вымышленных персонажей, то есть поддельная нереальность. Поддельную реальность найти (пока еще) труднее. Хотя еще в январе 2018 года анонимный пользователь Reddit создал относительно простое в использовании приложение для создания дипфейков — печально известной ныне технологии, которая использует искусственный интеллект для обработки изображений с последующей заменой одного лица на видео другим (например, уважаемого политика — порнозвездой).

Или возьмем, например, недавнюю научную статью исследователей из компании Nvidia, производящей видеокарты, которая демонстрирует похожую технику, используемую для создания компьютерных изображений «человеческих» лиц, которые шокирующе похожи на фотографии реальных людей. […] Вопреки тому что мы могли ожидать, мир, наполненный дипфейками и другими искусственно созданными фотоизображениями, не будет миром, в котором «поддельные» изображения будут принимать за реальные, но миром, в котором «настоящие» изображения будут считать подделкой. Просто потому, что кто сможет их различить после инверсии?

[…]

Мы сами подделки

На какой бы сайт в интернете я ни заходил в этом году, меня просили доказать, что я человек. «Вы можете записать вот эту капчу с искаженным словом?», «Вы можете написать этот номер дома?», «Вы можете выбрать изображения, на которых изображен мотоцикл?» Я обнаружил, что каждый день падаю ниц, прямо в ноги «роботов-вышибал», отчаянно пытаясь продемонстрировать им свои высокоразвитые навыки сопоставления объекта с образцом (может ли Vespa считаться мотоциклом?), чтобы я смог попасть в «ночной клуб», даже не будучи уверенным в том, хочу ли я туда. Когда я оказывался внутри, петли дофаминовой обратной связи заставляли меня бесконечно пролистывать ленту, выходя далеко за грани разумного, а эмоционально заряженные заголовки и сообщения манипулировали мною, чтобы я нажимал на них и выбирал вещи, которые меня даже не заботили… И все это было настолько алгоритмически детерминировано, что подобный мир трудно было назвать реальным.

Что же нам остается? Я не уверен, что решение кроется в том, чтобы найти некоторую аутентичность до того, как случится инверсия, и вернуть себя в «реальность», подобно Нео, выбирающему красную таблетку. В конце концов, из интернета ушла не «правда», а доверие — ощущение того, что люди и вещи, с которыми мы сталкиваемся, действительно являются именно тем, чем они хотят казаться.

Годы роста, основанного на показателях, прибыльных манипулятивных системах и нерегулируемых торговых площадках, создали в интернете среду, в которой имеет больше смысла быть фальшивым — лицемерным и циничным, лгать и обманывать, искажать и манипулировать, — чем оставаться реальным. Чтобы исправить подобную ситуацию, потребуются культурные и политические реформы не только в Силиконовой долине, но и во всем мире, — и это наш единственно возможный выбор. В противном случае мы все окажемся в фейковом интернете, заполненном фальшивыми людьми, фальшивыми кликами, фальшивыми сайтами и фальшивыми компьютерами, где единственная реальная вещь — это реклама.