Потаенная девушка - Кен Лю

«Мамочка, на пляжах в аду так жарко!»

«Мне нравятся эти новые дырки в моем теле!»

Поисковые системы в ответ на запрос имени Хейли начали выдавать ссылки на порносайты. Программы изучения предпочтений в интернете, управляемые искусственным интеллектом, откликнулись автоматически сгенерированными фильмами и иммерсиями в виртуальную реальность с участием моей племянницы. Алгоритмы брали имеющиеся в открытом доступе кадры с Хейли и гладко вплетали ее лицо, тело и голос в оголтелую порнуху.

Новостные средства массовой информации откликались на происходящее гневно (возможно, даже искренне). Эти публикации порождали новые поиски, что, в свою очередь, приводило к генерации нового контента.

Мой долг как исследователя – оставаться непредвзятой, изучать явление с клинической отрешенностью. Упрощенный подход заключается в том, чтобы считать троллей политически мотивированными – только не в том смысле, в каком этот термин используется обычно. Хотя ярые сторонники Второй поправки[19] и способствовали распространению мемов, у самих авторов редко имелись вообще какие-либо политические взгляды. Пристанищем этих навозных жуков интернета являются всевозможные анархистские сайты, возникшие на волне войн по борьбе с инакомыслием прошедшего десятилетия. Получая наслаждение от нарушения запретов и беззакония, тролли не имеют общих интересов помимо того, чтобы говорить то, что нельзя говорить, издеваться над искренностью, играть с тем, что остальные считают запретным. Погрязнув в эпатажном и низком, они оскверняют и в то же время определяют установленные средствами массовой информации социальные связи общества.

Однако как человек я не могла спокойно смотреть на то, что делали с образом Хейли. Я связалась со своим братом.

– Давай я вам помогу.

Машинное обучение дало нам возможность предсказывать с достаточно большой точностью, кто станет жертвой нападок, ведь на самом деле тролли далеко не такие непредсказуемые, какими пытаются себя представить. Моя компания и другие крупные социальные медиаплатформы остро сознают, что им нужно аккуратно идти по узкой тропинке между регулированием пользовательского контента и холодной отрешенностью: именно этот показатель в наибольшей степени влияет на рыночную стоимость акций и тем самым является определяющим при принятии решений. Агрессивное вмешательство, особенно когда оно опирается на суждения, принимаемые человеком, подвергается критике со всех сторон, и всем компаниям приходится сталкиваться с обвинениями в цензуре. В конечном счете все подняли руки и отложили в сторону мудреные руководства по регулированию контента. У них нет ни умения, ни желания становиться арбитрами истины и порядочности для общества в целом. Как можно требовать от них решить проблему, с которой не могут справиться даже органы демократии?

Постепенно большинство компаний пришли к одному и тому же решению. Вместо того чтобы сосредоточиваться на оценке поведения ораторов, они потратили значительные силы на то, чтобы дать слушателям возможность самим ограждать себя. Алгоритмическое отделение законной (хотя и страстной) политической речи от целенаправленной травли любого человека является практически неразрешимой проблемой: контент, который одни провозглашают высказыванием правды властям предержащим, другие осуждают как выходящий за рамки. Значительно проще построить для блокировки контента, который не хочет видеть конкретный пользователь, индивидуально настроенную нейросеть и обучить этому ее.

Новые защитные нейросети, представляемые на рынке как «доспехи», отслеживают эмоциональную реакцию каждого пользователя на полученный контент. Способные действовать в областях текстовой, аудио– и видеоинформации, а также искусственной и виртуальной реальности, «доспехи» самообучаются распознавать контент, вызывающий у пользователя сильную негативную реакцию, и отсеивать его, оставляя лишь нейтральный фон. По мере широкого распространения смешанной реальности и иммерсии лучшим способом использования «доспехов» становится ношение очков дополненной реальности, фильтрующих все источники зрительного восприятия. Троллинг, подобно вирусам и «червям» в прошлом, является проблемой технической – и вот теперь мы можем предложить техническое решение.

Для того чтобы получить самую надежную защиту, максимально учитывающую особенности конкретного пользователя, необходимо платить деньги. Социальные сети, которые также настраивают свои «доспехи», утверждают, что это позволяет им уйти от контроля за контентом, снимает с повестки дня необходимость решать, что неприемлемо на площадях виртуальных городов, освобождает всех от колпака цензуры в духе Большого Брата. И то, что идеалы этого заявления в поддержку свободы слова совпадают со стремлением извлекать максимальную прибыль, является чем-то само собой разумеющимся.

Я отправила брату и его семье лучшие, самые совершенные «доспехи», какие только можно купить.

ЭБИГЕЙЛ ФОРТ

Представьте себя на моем месте. Тело вашей дочери с помощью цифровых технологий встроено в откровенную порнографию, ее голос произносит слова ненависти, ее облик искажен немыслимой жестокостью. И все это произошло по вашей вине, вследствие того что вы не отдавали себе отчета в том, каким порочным может быть человеческое сердце. Могли бы вы остановиться? Могли бы остаться в стороне?

«Доспехи» сдерживали самое ужасное, а я продолжала выкладывать посты, поднимая свой голос против неудержимого потока лжи.

Предположение о том, что Хейли якобы не умерла, что она актриса, участвовавшая в правительственном заговоре, направленном на запрещение оружия, казалось настолько нелепым, что вроде бы даже не заслуживало ответа. Однако после того как мои «доспехи» начали фильтровать новостные сайты, оставляя на страницах пустые места, я поняла, что ложь спровоцировала серьезный конфликт. Уважаемые журналисты стали требовать от меня отчеты о том, как я потратила собранные для нас деньги, – и это при том, что мы не получили ни цента! Весь мир сошел с ума.

Я выложила фотографии тела Хейли, полагая, что в этом мире осталась хоть толика порядочности. Определенно, никто не станет оспаривать такие наглядные доказательства?

Стало только хуже.

Для безликой оравы интернета это превратилось в игру: посмотреть, кому удастся преодолеть мои «доспехи», кто сможет вонзить мне в глаз отравленное видео, которое заставит меня вздрогнуть и отшатнуться.

Тролли присылали мне сообщения якобы от других родителей, потерявших своих детей при терактах, а когда я заносила их в «белый» список, выплескивали на меня мерзкие видео. Они присылали мне ролики, посвященные памяти Хейли, которые, после того как их пропускали «доспехи», трансформировались в отвратительное порно. Они собирали деньги и нанимали курьеров и квадрокоптеры службы доставки, чтобы расставлять рядом с нашим домом доверительные маркеры, окружая меня порожденными дополненной реальностью призраками Хейли, корчащимися, хихикающими, стонущими, кричащими, ругающимися, издевающимися.

Хуже всего то, что они оживили изображения окровавленного тела Хейли под аккомпанемент бойкой музыки. Ее смерть стала смешным трендом, подобно «Песенке Хомяка»[20] моей молодости.

ГРЕГГ ФОРТ

Порой я гадаю, правильно ли мы понимаем, что такое свобода. Мы ценим «свободу что-то делать» гораздо больше «свободы от чего-то». Люди должны иметь свободу владеть оружием, поэтому единственное решение в том, чтобы учить детей прятаться в шкафах и носить в ранцах пуленепробиваемые пластины. Люди должны иметь свободу говорить и выкладывать в интернет все, что им вздумается, поэтому единственное решение