— Необязательно. Нейронная сеть учится самостоятельно и разрабатывает собственную стратегию для достижения целей. Все, что ей для этого требуется, — это данные и функционал, который должен постоянно улучшаться. Речь идет, например, о степени удовлетворения пользователей. Сеть опробует какие-то функции, и, если пользователь находит, что это хорошо, оптимизация продолжается в этом направлении. Проблема в том, что с этого момента больше никто не будет знать наверняка, как именно работает система. — Это означает, что зеркальная сеть влияет на жизнь ста миллионов человек и никто не знает, как и почему она это делает? — Точно. Так что, как я уже сказал, забудь о покупке Зеркала. — Я, честно говоря, здесь не по этому поводу. — Другими словами, ты его уже купила? Она смущенно улыбнулась. — Именно. И оно себя странно повело. Фрейя рассказала о нападении дрона на Терри и о влюбленной паре. — Как ты думаешь, это технические ошибки или сделано намеренно? Линус погрузился в молчание. Придя к каким-то выводам, он поинтересовался: — Интересно… Где именно происходит сбой? — Не поняла… — Если говорить о некоем действии, которое совершает программа, то речь пойдет о плане, стратегии, инструкции. Программа разрабатывает эту стратегию, опираясь на данные, которые имеются в ее распоряжении, посредством алгоритмов, которые вложены программистом, или тех, что она построила сама. Если данные или алгоритмы оказываются ошибочными, то и действие тоже становится ошибочным. — Другими словами, ты полагаешь, что зеркальная сеть умышленно манипулировала Энди и Викторией, чтобы разлучить их, но это произошло из-за ошибки в программе? — Я бы не стал использовать слово "умышленно". Я действительно считаю, что программные системы в какой-то момент обретут самосознание, но мы еще не на этом этапе. Да, по тому, как ты это описала, получается, что у зеркальной сети была цель своими манипуляциями разлучить влюбленную пару. Но это, вероятно, произошло не из-за ошибки в программировании. Я скорее склонен предполагать, что ошибка заключалась в базовых установках. — Каких, например? — Скажем, в предположении, что устройство, пекущееся о благополучии своего владельца, — это хорошая идея. В предположении, что людям вообще нужна помощь. — Если посмотреть на состояние, в котором пребывает наш мир, это предположение не кажется таким уж необоснованным. — Если посмотреть на состояние мира, то можно увидеть, что большинство людей не несет ответственности за свои действия. Например, они не задумываются о засорении окружающей среды пластиковой упаковкой или летают самолетами, вместо того чтобы ездить на поездах. Зеркала заставляют своих владельцев брать на себя еще меньше ответственности. Люди предоставляют гаджетам возможность руководить собой. Они ведут себя как малые дети. — Но ведь одновременно появляются и новые возможности? Например, зеркальная сеть могла бы повысить осведомленность людей о состоянии окружающей среды… — Могла бы… Но кто, скажи, ее контролирует? Каковы их намерения? Они заботятся об окружающей среде или о росте стоимости своих акций? Фрейя вспомнила свой разговор с сотрудником пресс-службы ГИС. — Ты прав. Вероятно, наивно так думать. Как думаешь, что мне следует предпринять? — А что ты сама намерена делать? — Я решила написать статью об опасности зеркальной сети. Вот почему я здесь: хотела услышать твое мнение. — Это лестно. Но, если честно, боюсь, что никого не заинтересует мое мнение, равно как и твое. — Но почему? — Потому что все, что ты рассказала мне, — это просто история. Ты не сможешь привести объективные доказательства. "Уолнат Системс" и ее материнская компания ГИС будут все отрицать. — Они уже это делают. — Вот видишь. И с этим ничего нельзя поделать. Проблема в том, что инциденты не повторяются многократно. — Что ты имеешь в виду? — Это элементарный научный принцип, на который опирается разработка программного обеспечения. Если что-то происходит, а потом ты не можешь достичь того же результата в тех же условиях, то первоначальный результат практически бесполезен. Никто не тратит время на исправление ошибок в программном обеспечении, если эти ошибки не воспроизводятся и баг не задокументирован должным образом. — Это означает, что редко возникающие ошибки просто игнорируются? — В основном да. Если бы были проверяемые, подлинные записи, которые бы четко подтверждали, что Зеркала врали обоим влюбленным, тогда ты могла бы написать убедительную статью. К сожалению, ничего подобного у нас нет. — В конце концов, у меня есть видео с беспилотником, прячущимся от тарантула. — У тебя есть видео, где показан беспилотник, который ведет себя странно. А что, если кто-то управляет дроном вручную? Может, это банальный фейк. Фрейя вздохнула. — Я понимаю. Обидно, но… — она сделала паузу. — Погоди-ка! У меня возникла идея! Что, если я попрошу ту парочку продолжить пользоваться своими Зеркалами? Есть возможность как-то фиксировать воздействие этих устройств? Линус нахмурился. — Ну… Может, это и сработает. Надо попробовать настроить Зеркала так, чтобы все их рекомендации транслировались в режиме реального времени, онлайн. Тогда удостовериться в том, что происходит нечто странное, сможет любой. Это будут надежные доказательства — впихнуть специально подготовленную сцену в такую трансляцию нереально. Но тем двоим придется на какое-то время сделать свою личную жизнь общедоступной. Как если бы Большой Брат смотрел на них ежесекундно. И конечно, это сработает только в том случае, если зеркальная сеть по-прежнему будет пытаться разлучить их. — Понимаю. Я поговорю с ребятами. Может, они согласятся. 20 Карл просматривал электронную почту. Он ненавидел это занятие. Будучи генеральным директором, он каким-то образом должен был отвечать за всё и поэтому получал горы оповещений служебной рассылки. Тем не менее он считал своим долгом хотя бы мельком просмотреть каждое из более чем ста писем, ежедневно попадавших в его почтовый ящик. Отец прав: он не менеджер. Он хотел заниматься творчеством, генерировать идеи, изменять мир, но никак не управлять компанией с более чем двумя тысячами сотрудников. При этом компания, в свою очередь, являлась придатком более крупного концерна — ГИС, насчитывающего более ста тысяч сотрудников. Большинство писем Карла не интересовало или интересовало постольку-поскольку. То, что он получал их в таком количестве, было связано лишь с замечательным принципом "прикрой мою задницу", весьма популярным в крупных фирмах. Чрезмерно предусмотрительные руководители отправляли письма почти всем, кто мог иметь хоть какое-то отношение к выполняемой на данный момент работе, чтобы иметь возможность избежать неприятностей, заявив: "Я же вам все сообщал и объяснял". Еще одна популярная игра заключалась в том, чтобы в случае конфликта переслать свою переписку боссу в надежде, что его поддержка упрочит положение и позицию переславшего. Ее пример как раз возник на экране. Re: Несоответствия в статистике обслуживания клиентов Уважаемый коллега, считаю, что ваши обвинения беспочвенны. Статистические данные по обслуживанию клиентов полностью отражают точное состояние дел и соответствуют статусу обработки. Я еще раз лично проверил это, сообразуясь с вашими запросами. Никаких манипуляций данными не происходит. Выдвигать такие обвинения без конкретных доказательств, основываясь на каких-то личных домыслах, неправильно. Это нарушает политику открытых и партнерских взаимоотношений в нашей компании. Поэтому я посылаю это письмо Карлу и Пауле. Предлагаю прояснить как можно скорее это недоразумение. С искренним уважением к коллегам, Тим Реймерс, руководитель Центра обслуживания клиентов Карл приподнял бровь. Такие слова, как "обвинения", "манипуляции", "домыслы" и "доказательства", настраивали на серьезный лад. Возможно, речь шла о вещах, в которых надо разобраться лично. Тим Реймерс возглавлял Центр обслуживания клиентов уже год. И справлялся со своей работой очень хорошо. Об этом говорили оценки клиентов и отзывы Паулы, которая курировала эту область в совете ли ректоров. Письмо, на которое ответил Тим Реймерс, было написано неким Джеффри Г. Вандерграфом, сотрудником отдела внутреннего аудита. Карл впервые видел это имя. С возрастающим удивлением он прочитал сообщение, которое было отправлено Джеффри накануне. Re: Re: Несоответствия в статистике обслуживания клиентов Уважаемый Тим, статистические данные, связанные с обслуживанием клиентов, содержат сведения о различных нарушениях, указывающих на внешнее воздействие. Конкретно речь идет о процентном соотношении ключевых слов в отправленных клиентами по почте или по телефону сообщениях о проблемах с Зеркалами. В последние три месяца они были почти идентичны, погрешность на уровне двух знаков после запятой. Это крайне маловероятно в том случае, если речь идет о реальных запросах клиентов. Я требую безотлагательных разъяснений. В противном случае буду вынужден сообщить данную информацию Эштону Моррису. С наилучшими пожеланиями, Джефф Отдел внутреннего аудита "Уолнат Системс" являлся своего рода органом контроля, сообщающим информацию непосредственно финансовому директору ГИС. Это была та горькая пилюля, которую Карлу пришлось проглотить после заключения сделки, связанной с поглощением "Уолнат Системс". Таким образом концерн проверял правильность предоставляемых ему "Уолнат Системс" отчетов. Сотрудники отдела внутреннего аудита имели право в любое время и без предупреждения проверять любой отчет и любую статистику. Внутри компании они были крайне непопулярны и считались шпиками главы корпорации. Поэтому неудивительно, что Тим отреагировал на обвинение довольно раздраженно, тем более что тон письма Джеффа был достаточно вызывающим. Карл решил заняться этим делом сам. Неприятности с Эштоном Моррисом — последнее, что ему сейчас было нужно. Он попросил свое Зеркало связаться с Паулой. — Привет, Карл! Чем могу быть полезной? — Ты читала письмо Тима этому Джеффу из отдела внутреннего аудита? — Да. Прости, что тебя этим побеспокоили.