Мама ринулась в бой, в то время как мы с отцом держались позади, ошарашенные. На краткий миг показалось, будто ситуация изменилась. Проводились оживленные собрания, перед Капитолием и Белым домом произносились речи. Толпы скандировали имя Хейли. Маму пригласили на ежегодное послание президента. Когда СМИ сообщили, что мама бросила работу ради кампании за движение, состоялась тайная благотворительная акция по сбору средств для семьи. А потом явились тролли. На нас обрушился вихрь имейлов, сообщений, видео, сквиков, снапграмм, телеваров. Нас с мамой называли клик-шлюхами, дешевыми актрисами, торговками скорбью. Незнакомцы присылали нам длинные простыни бессвязного текста, всесторонне толкуя отцовскую неадекватность и слабость. Хейли вовсе не умерла, сообщали нам незнакомцы. На самом деле она живет в китайском городе Санья, на те миллионы, что ООН и ее приспешники в американском правительстве заплатили ей за вымышленную смерть. Ее бойфренд – который также, "очевидно, не погиб" при стрельбе, – был этническим китайцем, и это все объясняло. Видео с Хейли разобрали на кусочки в поисках следов подделки и цифровых манипуляций. Цитировались анонимные одноклассники, называвшие Хейли отъявленной лгуньей, обманщицей, истеричкой. Фрагменты видео вперемешку с "разоблачениями" набирали популярность. Кто-то при помощи программ заставлял Хейли изрыгать проклятия в новых клипах, цитировать Гитлера и Сталина, хихикая и маша рукой на камеру. Я удалила все свои аккаунты и сидела дома, не находя сил, чтобы выбраться из постели. Родители предоставили меня самой себе; они сражались в собственных битвах. Сара Форт За десятилетия цифровой эпохи искусство троллинга эволюционировало и заполнило все ниши, открывая новые горизонты технологий и дозволенного. Издалека я наблюдала, как тролли роятся вокруг семьи моего брата с хаотичной точностью, с бесцельной злобой, со злобным весельем. Конспиративные теории сливались с откровенными выдумками – и превращались в мемы, которые выворачивали сочувствие наизнанку, абстрагировали боль в приколы. Мамочка, на пляже в аду так тепло! Обожаю эти новые дырки во мне! Поисковые запросы с именем Хейли начали приводить на порносайты. Производители контента – большинство которых являлось рассадниками ИИ-ботов – ответили генерацией фильмов и ВР-погружений с моей племянницей. Алгоритмы использовали находящуюся в публичном доступе видеозапись с Хейли и умело вставляли ее лицо, тело и голос в фетиш-видео. СМИ отреагировали на такое развитие событий возмущением – быть может, даже искренним. Это привело к росту числа запросов – и генерации нового контента… Мой долг и привычка как исследователя – оставаться в стороне, наблюдать и изучать явления с клинической отстраненностью, быть может, даже увлечением. Считать троллей политически мотивированными – упрощение, по крайней мере в том смысле, который обычно вкладывают в этот термин. Хотя абсолютисты Второй поправки[53] способствовали распространению мемов, у зачинщиков в большинстве своем не было никаких политических убеждений. Анархистские сайты вроде 8taku, duang-duang и alt-web, появившиеся после буйного деплатформинга прошлого десятилетия, служат домом этим жукам-навозникам Интернета, иду нашего коллективного онлайн-подсознания. Получая удовольствие от нарушения табу и законов, тролли не имеют общей цели, помимо того, чтобы произносить непроизносимое, издеваться над искренним, играть с тем, что другие считают запретным. Упиваясь возмутительным и грязным, они одновременно оскверняют и определяют технологические связи в обществе. Но будучи человеком, я не могла смотреть на то, что они творили с образом Хейли. Я связалась со своим чужим братом и его семьей. "Позвольте мне помочь". Хотя машинное обучение дало нам возможность с неплохой точностью предсказывать выбор жертвы – тролли не столь внезапны, как хотят казаться, – мой работодатель и другие крупные социальные ресурсы прекрасно понимают, что нужно шагать по тонкой границе между цензурой пользовательского контента и снижением "пользовательской активности", той самой метрики, которая определяет курс акций, а значит, и все решения. Агрессивная модерация, особенно на основе пользовательских отчетов и человеческих суждений, – процесс, в котором жульничают обе стороны, и нет такой компании, которую не обвиняли бы в цензуре. В конечном итоге эти компании просто разводят руками и выбрасывают свои правоприменительные руководства. У них нет ни умений, ни желания становиться поборниками истины и благопристойности во всем обществе. Разве могут они решить проблему, которую не в состоянии решить даже демократическое государство? Со временем большинство компаний пришли к единому решению. Вместо того чтобы сосредотачиваться на оценке поведения ораторов, они начали создавать ресурсы, позволяющие слушателям защитить себя. Разработка алгоритма, способного отличить легитимную (пусть и эмоциональную) политическую речь от организованного оскорбления всех сразу, – непростая задачка; то, что одни превозносят как правду, сказанную в лицо властям, другие часто считают выходящим за всякие рамки. Намного проще построить и обучить индивидуально настроенные нейронные сети, отсекающие контент, который не хочет видеть данный конкретный пользователь. Новые защитные нейронные сети – известные на рынке как "броня" – отслеживают изменение эмоционального состояния каждого пользователя в ответ на поток данных. Оперируя векторами, которые охватывают текст, аудио, видео и ДР/ВР[54], броня учится распознавать контент, особенно огорчающий пользователя, и отсекать его, оставляя лишь мирную пустоту. Смешанная реальность и погружение набирают популярность, и лучший способ облачиться в броню – надеть очки дополненной реальности, которые фильтруют все источники зрительных стимулов. Подобно прежним вирусам и червям, тролли – проблема техническая, и теперь у нас есть техническое решение. Чтобы воспользоваться самой мощной, персонифицированной защитой, нужно заплатить. Операторы социальных сетей, которые также обучают броню, утверждают, что это решение позволяет им не заниматься цензурой пользовательского контента, не решать, какое поведение неприемлемо на виртуальных городских площадях; что оно освобождает всех от всевидящего ока Большого Брата. То, что этот моральный идеал свободы слова также приносит больше доходов, – без сомнения, лишь побочный эффект. Я отправила брату и его семье самую лучшую, самую продвинутую броню, которую можно купить за деньги. Эбигейл Форт Представьте себя на моем месте. Тело вашей дочери превратили в цифровой объект жесткой порнографии, ее голос заставили повторять слова, полные ненависти, ее образ изуродовали с невыносимой жестокостью. И это произошло из-за вас, из-за вашей неспособности постичь низость человеческого сердца. Вы бы остановились? Вы бы остались в стороне? Броня держала кошмары в узде, а я продолжала писать и делиться, возвышать голос, чтобы перекричать волну лжи. Мысль, что Хейли не умерла, а была актрисой, участвовавшей в правительственном заговоре против оружия, казалась настолько абсурдной, что даже не заслуживала ответа. Но когда моя броня принялась отфильтровывать заголовки, оставляя пустые места на новостных сайтах и в многоадресных потоках, я осознала, что ложь каким-то образом переросла в настоящую дискуссию. Журналисты начали требовать, чтобы я предъявила чеки, дабы отчитаться за потраченные деньги, которые собрал фонд, хотя мы не получили ни цента! Мир сошел с ума. Я выложила фотографии с трупом Хейли. Должна ведь была в этом мире остаться хотя бы крупица достоинства, думала я. Никто ведь не станет отрицать то, что увидит собственными глазами? Стало еще хуже. Для безликих орд Интернета это превратилось в состязание. Кто пробьется сквозь мою броню, кто поразит мои глаза отравленным видеоклипом, который заставит меня содрогнуться и отпрянуть? Боты отправляли мне сообщения, маскируясь под других родителей, чьи дети погибли при массовых расстрелах, и швыряли в меня омерзительные видео, когда я вносила их в белый список. Они присылали мне презентации, посвященные памяти Хейли, которые, после того как броня их пропускала, превращались в жесткое порно. Они собирали деньги для курьеров и арендовали дроны доставки, чтобы оставлять возле моего дома фигуры совмещения, окружая меня ДР-призраками Хейли, которая извивалась, стонала, визжала, ругалась, издевалась. Хуже того, они заставляли изображения окровавленного трупа Хейли дергаться под веселую музыку. Ее смерть стала шуткой вроде "прыгающего хомячка", одного из первых Интернет-мемов моей молодости. Грег Форт Иногда я думаю, правильно ли мы понимаем понятие свободы. Мы ценим "свободу на" гораздо больше "свободы от". У людей должна быть свобода на владение оружием, а потому единственный выход – учить детей прятаться в чуланах и носить пуленепробиваемые рюкзаки. У людей должна быть свобода писать и говорить все, что вздумается, а потому единственный выход – научить объекты их высказываний носить броню. Эбигейл просто приняла решение, а мы не стали возражать. Слишком поздно я начал умолять и просить ее прекратить, остановиться. Мы могли продать дом и переехать куда-нибудь, подальше от соблазна общаться с другими представителями человечества, подальше от мира, который был всегда на связи, и от океана ненависти, в котором мы тонули. Но броня Сары дала Эбигейл ложное чувство безопасности, заставила ее удвоить усилия, сцепиться с троллями. "Я должна сражаться за свою дочь! – кричала она мне. – Я не могу позволить им осквернить ее память!" По мере того как тролли активизировались, Сара присылала нам все новые прошивки для брони. Она добавила слои с названиями вроде "дополнительный конфронтационный набор", "самомодифицирующиеся детекторы кодов", "автоматические корректоры визуализации". Снова и снова броня держалась короткое время, после чего тролли находили новые лазейки. Демократизация искусственного интеллекта означала, что им были известны все техники, которыми владела Сара, и у них тоже были машины, умевшие обучаться и адаптироваться. Эбигейл меня не слышала. Мои просьбы оставались без ответа; быть может, ее броня научилась считать меня еще одним злобным голосом, который требовалось отсечь. Эмили Форт Однажды мама прибежала ко мне в панике. – Я не знаю, где она! Я ее не вижу! Она много дней не разговаривала со мной, одержимая проектом, в который превратилась Хейли. Я не сразу поняла, что она имеет в виду. Потом села вместе с ней за компьютер. Она кликнула по ссылке на мемориальное видео Хейли, которое смотрела несколько раз в день. Оно придавало ей силы. – Его нет! – сказала она. Открыла облачный архив наших семейных воспоминаний. – Где фотографии Хейли? – спросила она. – Здесь одни заглушки. Она показала мне свой телефон, резервную копию, планшет. – Ничего нет! Ничего! Нас взломали? Ее ладони беспомощно затрепетали перед грудью, словно крылья попавшей в силок птицы. – Она просто исчезла! Я молча подошла к полкам в гостиной и взяла один из ежегодных фотоальбомов с отпечатками фотографий, которые мама делала, когда мы были маленькими. Открыла альбом на семейном портрете, снятом, когда Хейли было десять, а мне восемь. Показала ей страницу. Очередной придушенный вскрик. Ее дрожащие пальцы постукивали по лицу Хейли на странице, словно искали что-то, чего там не было. Я поняла. Мое сердце переполнилось болью, жалостью, которая разъедала любовь. Я протянула руки к ее лицу и осторожно сняла очки. Она уставилась на страницу.