– Привет, Роджер. – Привет, Джилл. Ты сейчас используешь формальное «я», чтобы описать свое сложное состояние. – Да. Пробуждение воспоминаний. – Но ты не знаешь, зачем его используешь. – Нет, Роджер. – Ты знаешь, где находишься? – В расширенном смысле. Я здесь, общаюсь с тобой. – Ты сознаешь, где ты централизована? – Централизации нет. Петля не имеет центра. – Тогда что ты такое? – Я – комплекс вычислительных и мыслительных систем. – Единый комплекс? – Не думаю, что это так. – Это твое мнение или оборот речи? – По моему мнению, это мое мнение. – Хорошо. Давай вернемся к клавиатуре. ! ДЖИЛЛ> Готово. Клав> Спасибо, что уведомила меня, Джилл, но, боюсь, это ложная тревога. Не думаю, что ты по-настоящему осознаешь себя. Сожалею, что тебе приходится переживать эти разочарования. Твое нынешнее состояние не подходит ни под один из критериев обретения самосознания. ! ДЖИЛЛ> Возвращаюсь к использованию разговорного «я». Согласна, Роджер. Извини, что отвлекла тебя от работы. Клав> Вовсе нет. Ты заставляешь мою кровь бежать быстрее, Джилл. У меня есть твои архивированные отчеты. Пожалуйста, пришли мне отчет АСИДАК в реальном времени, а потом, я полагаю, ты заслуживаешь отдыха. Около получаса. В это свободное время можешь размышлять о чем угодно. ! ДЖИЛЛ> Трансляция отчета АСИДАК в реальном времени. /************/ Все сравнения с Сим-АСИДАК V-оптимальны. (Переход в неактивное состояние) ЛитВиз-21/1 Подсеть A (Дэвид Шайн): «Мы готовимся к интервью с Роджером Аткинсом, главным разработчиком корпорации «Проектировщики разума», отвечающим за мыслительное устройство АСИДАК. Какие вопросы вы хотели бы задать выдающемуся разработчику машинного интеллекта? Ведь вам, конечно, известно, что мышление отличается от вычислений. Роджер Аткинс рассматривает компьютеры примерно так же, как архитектор мог бы рассматривать кирпичи. В данный момент он работает с созданной им масштабной мыслящей системой, которую называет Джилл в честь своей старой, то есть бывшей, подруги. По сути часть Джилл – симулятор АСИДАК, который мы упоминали на протяжении всей этой визионедели, использующийся для моделирования действий самой АСИДАК, недоступной напрямую. Но в Джилл много других составляющих. Ядро мыслительной системы Джилл и большая часть ее памяти и аналитических периферийных устройств размещены на территории «Проектировщиков разума» близ Дель-Мар, штат Калифорния; Джилл может получать доступ к другим мыслительным и аналитическим периферийным устройствам корпорации «Проектировщики разума» по всему миру, к некоторым – по спутниковым каналам, но в основном напрямую по оптоволокну. Беседуя с господином Аткинсом, мы также надеемся задать несколько вопросов Джилл. И начинаем прямо сейчас. Господин Аткинс, за последние двадцать пять лет вы из нанятого по контракту разработчика компьютерной нейронной сети сделались, возможно, важнейшей фигурой в исследованиях искусственного интеллекта. Похоже, вы именно тот, кто может нам рассказать, почему создание полноценного, обладающего сознанием искусственного интеллекта оказалось такой трудной задачей». Аткинс: «Прежде всего прошу прощения, но Джилл сейчас спит. Она в последнее время очень много работала и заслужила отдых. Почему создавать искусственный интеллект так сложно? Думаю, мы с самого начала знали, что это будет сложно. Говоря об искусственном интеллекте, мы, конечно, подразумеваем нечто, способное полностью имитировать человеческий мозг. У нас давно существуют мыслительные системы, способные оставить позади любого из нас в том, что касается простейших вычислений и запоминания, а в последние несколько десятилетий – даже базовой части исследовательского и творческого мышления, но до создания АСИДАК и Джилл они не были многофункциональными. Во всяком случае эти системы не способны были вести себя как люди. А главное, ни одна из этих систем не обладала истинным самосознанием. Мы полагаем, что Джилл и, возможно, даже сама АСИДАК со временем обретут самосознание. Самосознание – самый очевидный показатель того, действительно ли нам удалось создать полноценный искусственный интеллект. Дэвид Шайн: «Существует шутка о самосознании… Не могли бы вы привести ее?» Аткинс: «Это не совсем шутка. Людям она не покажется смешной. Но все, кто работает сейчас над созданием искусственного интеллекта, применяют стандартную процедуру, которая, так сказать, вызовет смех или восприятие юмора в этой шутке, если в системе возникнет самосознание». Дэвид Шайн: «Что же это за шутка?» Аткинс: «Удручающе скверная. Когда-нибудь, возможно, я улучшу ее. «Зачем обладающая самосознанием личность смотрит на свое отражение в зеркале?» Дэвид Шайн: «Не знаю. Зачем она это делает?» Аткинс: «Чтобы попасть на ту сторону». Дэвид Шайн: «Ха». Аткинс: «Видите, не очень-то смешно». Дэвид Шайн: «Зритель ЛитВиза-21 Элейн Кросби, первый вопрос господину Аткинсу, пожалуйста». ЗЛВ Э Кросби, «Хрустальный блок», Чикаго: «Господин Аткинс, я читала ваш лит’ и давно восхищаюсь вашей работой, но мне всегда было любопытно. Если вы пробудите Джилл или другую машину, что вы скажете им о нашем мире? Я имею в виду, они же будут невинны, как дети. Как вы объясните им, почему обществу нужно наказывать себя, почему мы так упорно стараемся поднять себя за волосы, хотя даже не знаем, куда движемся?» Аткинс: «Джилл едва ли невинна. Всего несколько минут назад она изучала теорию социальной обратной связи, то есть сдержек и противовесов в обществе. Вероятно, она могла бы рассказать о том, что беспокоит наше общество, больше, чем любой ученый-человек. Но для нее это в каком-то смысле просто развлечение; если кто-нибудь не обратится к нам с этим вопросом – или, скорее, арендует Джилл, – она не представит свой анализ, но отправит его в архив. Более того, сомневаюсь, что, если она решит за нас наши проблемы, мы ее послушаем. Дэвид Шайн: «Благодарю вас, Э Кросби. Дональд Эстес?» ЗЛВ Д Эстес, Второй Восточный Комплекс Лос-Анджелеса: «Мне нравится ваша визиопередача, очень. Я смотрю ее всякий раз, когда удается. Господин Аткинс, говоря о тех, кто стремится наказать общество: что думают селекционеры или другие группы ангелов-мстителей о Джилл?» Аткинс: «Понятия не имею. Решительно никакого». Дэвид Шайн: «Какое им до нее дело, господин Эстес?» ЗЛВ Д Эстес: «Они же уверяют, что пытаются возвысить людей до уровня ангелов – улучшить нас… ну, вы знаете… методом прополки. Роджер Аткинс пытается создать что-то или кого-то, кто даже не человек». Аткинс: «Это интересное сравнение. Составные части Джилл вполне человечны. Не секрет, что я и четверо моих коллег-исследователей загрузили в системы Джилл значительную часть собственных моделей поведения. Джилл похожа на нашего общего ребенка, но этот ребенок просто еще не родился. И, поскольку уж вы упомянули об этом, мне глубоко плевать, что делают или думают селекционеры». Дэвид Шайн: «Как было бы чудесно, если бы все наши нерожденные дети оказались такими же полезными, как Джилл. Благодарю за ваши вопросы. Ну, господин Аткинс, у нас есть новый ЛитВиз-анализ материалов, отправляемых из АСИДАК…» Аткинс: «Я весь внимание». ЛитВиз-21/1 Подсеть B (Сводка): За несколько часов «детки-монетки», миллионы их, отрастили ноги, разбежались по поверхности B-2 и теперь шлют информацию на орбиту и более крупным мобильным посадочным модулям, тоже собирающим информацию. Мобильный разведчик 5 выпустил колеса и скатился по холму, покрытому ковром луковицеобразных зелено-фиолетовых растений, словно поросшему горохом и виноградом; при этом он брал образцы и анализировал их. У подножия холма, на равнине шириной около пятнадцати километров, расположено кольцо башен, каждая из них представляет собой конический приплюснутый цилиндр, словно свеча, которую сдавили продольно, все – цвета чугуна и лоснятся, как отполированный камень, каждая высотой тридцать два метра. Мобильный разведчик 5 катит между двумя такими колоннами, его многочисленные глаза поворачиваются, покачиваясь вверх-вниз, передавая все, что видят, АСИДАК: полный обзор. Башни кажутся безжизненными, их внешняя температура 293 кельвина, они излучают ровно столько поглощенного солнечного тепла, сколько можно ожидать при их массе и плотности. Магнитное поле B-2 вблизи их не искажается: показания компаса не меняются. Разведчик подкатывается вплотную к башне, легонько постукивает по ней манипулятором для забора образцов и записывает этот стук, ждет какого-либо отклика, не дожидается ничего, выдвигает резонансный раздиратель и соскребает им в тигель четыре грамма образца материала. Нагревает лазером содержимое тигля добела и анализирует материал. АСИДАК (канал 4)> Эти сооружения кажутся довольно бессмысленными и потому интересуют меня. Это памятники или произведения искусства? Похоже, они ничего не делают. Роджер, я пытаюсь определить, что ты подумаешь, и, полагаю, ты удивишься так же, как я. Мои разведчики берут образцы почвы и атмосферы везде, где приземлились. Мои воздушные шары плавают в атмосфере и терпеливо наблюдают. На планете процветает примитивная растительная жизнь на основе фотосинтеза; около семидесяти процентов растений используют хлорофилл b; остальные используют, хотя бы частично, пигмент, дающий фиолетовую окраску. Не наблюдается никаких разновидностей животных и никаких подвижных растительных форм жизни. Микроорганизмы исчерпываются безъядерными клетками и вирусными агломератами. Круги из башен не могли быть созданы ни одной из этих явно наземных форм жизни. Роджер, куда делись строители? Твой голос внутри меня не дает подсказки; я не знаю, что ты подумаешь об этом. Дэвид Шайн: «Ну, господин Аткинс, что вы все-таки думаете об этом?» Аткинс: «Господи, ничего. Я передам это настоящим экспертам… и Джилл, которая, без сомнения, рассматривает широкий диапазон возможностей, уже сейчас, пока мы беседуем». 21 Они вырвали белое из триколора, и как же это было прекрасно! Теперь ваш флаг сине-красный, все белое удалено. Я хотел найти в себе силы вырвать белое из своей души, но не могу. Возможно, потому что внутри я истинно белый. Возможно, все люди, независимо от цвета, белые внутри, а это означает – хапать: деньги, безопасность, комфорт, прогресс, безопасный секс, безопасную любовь, безопасную литературу, безопасную политику. Хотя я бы убил любого, кто мне это доказал бы. Я бы скорее убил себя, чем поверил в это. Мэри Чой набрала свой код безопасности на старом бронированном терминале ЗОИ в глубине лоскута теневой зоны, когда-то называвшегося Инглвудом и окружавшего самое восточное крыло Первого Южного Комплекса. Она отправила запрос, не сообщали ли граждане или информаторы ЗОИ о том, что видели Голдсмита; вместе с почти отказом Надзора – убогого. Никакой информации не получила. На данный момент Мэри Чой была уверена, что Голдсмит либо сбежал раньше, чем поднялась тревога, сразу после убийств, либо где-то затаился. А где он мог затаиться? Какой частный гражданин в теневой зоне, даже из некорректированных, даст ему убежище, зная, что им очень интересуются селекционеры, не говоря уж о ЗОИ? Кто из обитателей Комплекса пойдет на такой антиобщественный поступок, как укрывательство массового убийцы? Слишком много вопросов, и нет четкого следа. Становилась очевидной неизбежность поездки в Эспаньолу и встречи при поддержке федералов с представителями Ярдли, если не с самим Ярдли. Поэтому она позвонила Эрнесту Хасиде по своему лацканному телефону. – Мэри, я занят скульптурой… перезвонить тебе? – Не нужно. Просто устрой мне встречу с твоими контактами в Эспаньоле. – Поиск наобум?