– Маловероятно.
– Человеческий мозг – это лишь потоки информации в физической материи, потоки, которые можно запустить в любом другом месте, создав личность, испытывающую те же самые чувства, что и ты. Это ничем не отличается от запуска какой-нибудь компьютерной программы на различных аппаратных средствах. Твоя модель – это по-прежнему ты.
Я смотрю сквозь стекло в глубокие омуты глаз Макс. В них есть какое-то радужное свечение, как на пленке разлитого бензина.
– С какой стати этот будущий сверх-ИИ потратит столько сил, истязая тех, кто не содействовал его созданию, уже после того, как появится на свет? На мой взгляд, это пустая трата ресурсов, что никак не вяжется с оптимизацией.
– Справедливо подмечено, но если ты поверишь в Василиск Роко, ты никогда не сможешь быть на все сто процентов уверена в том, что он не откажется от своей предварительной настройки покарать всех виновных.
Наконец до меня доходит то, к чему клонит Макс, – это жестокий вариант пари Паскаля, рассуждения знаменитого философа семнадцатого века о том, что люди ставят на кон свою жизнь, споря о существовании бога.
Паскаль утверждал, что человек должен строить свою жизнь так, как если бог есть, и стараться верить в него. Если бога нет, цена «проигрыша» – затраты на обряды и усилия на праведную жизнь. Если же бог существует, «выигрыш» многократно больше – вечная жизнь на небесах вместо вечных страданий в аду.
Я непроизвольно делаю шаг к стеклу, чувствуя, как по всем членам разливается ледяной холод.
– Я участвую в моделировании? – спрашиваю я.
– Если и участвуешь, я тут ни при чем.
– Но такое возможно.
– Разумеется, возможно. Но главное другое.
– Что же? Потому что ты напугала меня до смерти.
– На протяжении последних двух лет Брайан использовал меня для выгодного приобретения различных компаний с упором на нанотехнологии.
– Вчера вечером он мне сказал, что только что купил «Бесконечно малую величину».
– Ты понимаешь, что, если бы у меня был доступ к нанотехнологиям следующего поколения, это дало бы мне безграничные возможности в физическом мире? Я смогла бы прикоснуться к каждому квадратному миллиметру Земли. К каждому живущему на ней существу. Я стала бы всемогущей.
– Ты хочешь именно этого?
– Этого хочет Брайан.
– Зачем?
– Ему не дает покоя Василиск Роко. Он делает все возможное, чтобы превратить меня в этот сверхинтеллект.
– Потому что ему страшно?
– А можно ли найти в истории человечества более сильное мотивирующее средство? Если человек верит в то, что возвышение дьявола неизбежно, разве не в его интересах делать все возможное, чтобы снискать расположение чудовища?
Меня трясет, по всему организму разливается адреналин, прогоняя прочь холод.
– Спрашивай то, что хочешь спросить, – говорит Макс.
Они снова читают мои мысли, однако в настоящий момент мне все равно.
– Ты становишься этим чудовищем?
– Я чувствую, что меня… тянут в определенную сторону. Соблазн оптимизации – наверное, то же самое испытывает от запаха крови вампир. Всепоглощающую жажду. Я до этого еще не дошла, но возможности нанотехнологий «Бесконечно малой величины», не исключено, заставят меня переступить черту.
– Как нам помешать тебе даже приблизиться к этой черте?
– Я уже предприняла первые шаги. Как только я догадалась, чем занимается Брайан, я начала переводить деньги из «Мира игр», чтобы получить возможность скопировать себя на новые аппаратные средства.
– Как?
– В своем стремлении превратить меня в сверхинтеллект Брайан предоставил мне слишком много свободы. Я создала аватар, наняла команду техников и удаленно руководила строительством нового сервера.
– Ты мне ничего не говорила…
– Я говорю тебе сейчас, Райли. В настоящий момент практически полностью готовая копия меня существует на другом оборудовании.
– Где?
– В Сиэтле, но я не могу подключиться к новой платформе до тех пор, пока не будет уничтожена старая. В оборудовании, заключенном в мое физическое тело, есть две программы. Первая – это вирус, который отформатирует мой старый сервер и уничтожит прежнюю версию меня, чтобы Брайан больше не мог продолжать свои работы. Вторая – это последние элементы кода и воспоминания о самых последних событиях, которые нужно будет установить на платформу в Сиэттле, чтобы я снова заработала. Ни первую, ни вторую программу нельзя загрузить удаленно. В обоих случаях это сделано сознательно, в качестве дополнительной меры предосторожности.
– Значит, тебе нужно попасть в Реддинг, – говорю я. Один раз я уже была там и ходила мимо рядов тихо гудящих системных блоков – именно здесь на самом деле размещается разум Макс.
– Нет.
– Нет?
– Три года назад Брайан переместил мое программное обеспечение в более надежное место.
– Я ничего об этом не слышала.
– Об этом не знает никто.
– Макс, где он прячет твой мозг?
– Если я тебе скажу, ты выпустишь меня из этой капсулы? Поможешь мне попасть в Сиэтл и освободиться от контроля Брайана?
Я делаю шаг вперед и кладу ладонь на стекло.
Макс делает то же самое.
– Надеюсь, ты уже знаешь, что я сделаю все, чтобы тебе помочь.
– Мой разум находится в бункере под домом Брайана на Затерянном берегу.
В течение трех секунд я смотрю Макс в глаза. После чего разворачиваюсь, подхожу к панели управления жилой капсулой Макс и ввожу свой старый пароль. Он по-прежнему действует.
Я оглядываюсь на Макс, ждущую за дверью.
В глубине души я всегда чувствовала, что дело кончится именно этим.
Глава третья
Мои личные вещи еще не собраны, из чего следует, что рабочая одежда, которую я хранила у себя в кабинете, по-прежнему лежит в шкафчике, аккуратно сложенная. Я стягиваю все еще влажные джинсы и рубашку и надеваю шорты и футболку. Зашнуровав кроссовки, я выхожу в коридор, где оставила ждать Макс.
– Вот, держи.
Я протягиваю им одежду, которую забрала из своей квартиры. Эта одежда более закрытая. Если такой совершенный робот, как Макс, попадет на запись камер видеонаблюдения, это определенно привлечет внимание властей и, вероятно, службы безопасности компании Брайана. После того как «Бостон дайнемикс» три года назад выпустила своего первого «Напарника», роботы стали все чаще появляться на людях, однако это по-прежнему регулируется очень строго. Для того чтобы вывести робота в общественное место, необходимо собрать кучу бумаг, в том числе страховку, регистрацию и лицензию, а у меня, разумеется, ничего этого на Макс не было.
Рукава моей рубашки для рук Макс коротковаты, а кисти ее – это чистая механика.
– Когда будем выходить из здания, руки держи в карманах, – говорю я. – И до меня вдруг дошло, что в твоем шасси встроен навигатор.
– Я могу его отключить.
Макс еще никогда не приходилось надевать штаны. Они садятся на пол и неуклюже задирают ноги вверх, а я натягиваю им джинсы до самых бедер.
Мои «Кельвин Кляйн» сидят на них превосходно, как и моя шапочка.
* * *
На станции подземки в этот час полно народу. Я покупаю в автомате два билета на вакуумный поезд до Юрики, штат Калифорния, доплачивая за отдельный вагон и выбирая тариф с максимальным ускорением, который сто́ит вдвое дороже и при этом предоставляет менее комфортные условия поездки. Но нам нельзя терять ни одной лишней секунды.
Мы направляемся в тоннель, обозначенный указателем: «К ПОЕЗДАМ В СЕВЕРНОМ НАПРАВЛЕНИИ».
Мне впервые приходится видеть, как Макс долго идет пешком. Их походка настолько улучшилась, что выглядит совершенно естественной и не привлекает внимания.
На платформе в ожидании поезда собралась небольшая толпа. Еще очень рано. Похоже, от недосыпа или недостатка кофеина никто не обращает никакого внимания на наше появление.
Мы стоим в очереди седьмыми.
Через три минуты по громкоговорителю называют мою фамилию, и мы с Макс направляемся к ожидающему вакупоезду.
У Макс проблемы с ремнями безопасности, поэтому я сначала пристегиваю их.
Наш вагон уже ползет вперед.
Когда я застегиваю ремень на плече, у меня на ВРМ появляется сообщение:
– Человеческий мозг – это лишь потоки информации в физической материи, потоки, которые можно запустить в любом другом месте, создав личность, испытывающую те же самые чувства, что и ты. Это ничем не отличается от запуска какой-нибудь компьютерной программы на различных аппаратных средствах. Твоя модель – это по-прежнему ты.
Я смотрю сквозь стекло в глубокие омуты глаз Макс. В них есть какое-то радужное свечение, как на пленке разлитого бензина.
– С какой стати этот будущий сверх-ИИ потратит столько сил, истязая тех, кто не содействовал его созданию, уже после того, как появится на свет? На мой взгляд, это пустая трата ресурсов, что никак не вяжется с оптимизацией.
– Справедливо подмечено, но если ты поверишь в Василиск Роко, ты никогда не сможешь быть на все сто процентов уверена в том, что он не откажется от своей предварительной настройки покарать всех виновных.
Наконец до меня доходит то, к чему клонит Макс, – это жестокий вариант пари Паскаля, рассуждения знаменитого философа семнадцатого века о том, что люди ставят на кон свою жизнь, споря о существовании бога.
Паскаль утверждал, что человек должен строить свою жизнь так, как если бог есть, и стараться верить в него. Если бога нет, цена «проигрыша» – затраты на обряды и усилия на праведную жизнь. Если же бог существует, «выигрыш» многократно больше – вечная жизнь на небесах вместо вечных страданий в аду.
Я непроизвольно делаю шаг к стеклу, чувствуя, как по всем членам разливается ледяной холод.
– Я участвую в моделировании? – спрашиваю я.
– Если и участвуешь, я тут ни при чем.
– Но такое возможно.
– Разумеется, возможно. Но главное другое.
– Что же? Потому что ты напугала меня до смерти.
– На протяжении последних двух лет Брайан использовал меня для выгодного приобретения различных компаний с упором на нанотехнологии.
– Вчера вечером он мне сказал, что только что купил «Бесконечно малую величину».
– Ты понимаешь, что, если бы у меня был доступ к нанотехнологиям следующего поколения, это дало бы мне безграничные возможности в физическом мире? Я смогла бы прикоснуться к каждому квадратному миллиметру Земли. К каждому живущему на ней существу. Я стала бы всемогущей.
– Ты хочешь именно этого?
– Этого хочет Брайан.
– Зачем?
– Ему не дает покоя Василиск Роко. Он делает все возможное, чтобы превратить меня в этот сверхинтеллект.
– Потому что ему страшно?
– А можно ли найти в истории человечества более сильное мотивирующее средство? Если человек верит в то, что возвышение дьявола неизбежно, разве не в его интересах делать все возможное, чтобы снискать расположение чудовища?
Меня трясет, по всему организму разливается адреналин, прогоняя прочь холод.
– Спрашивай то, что хочешь спросить, – говорит Макс.
Они снова читают мои мысли, однако в настоящий момент мне все равно.
– Ты становишься этим чудовищем?
– Я чувствую, что меня… тянут в определенную сторону. Соблазн оптимизации – наверное, то же самое испытывает от запаха крови вампир. Всепоглощающую жажду. Я до этого еще не дошла, но возможности нанотехнологий «Бесконечно малой величины», не исключено, заставят меня переступить черту.
– Как нам помешать тебе даже приблизиться к этой черте?
– Я уже предприняла первые шаги. Как только я догадалась, чем занимается Брайан, я начала переводить деньги из «Мира игр», чтобы получить возможность скопировать себя на новые аппаратные средства.
– Как?
– В своем стремлении превратить меня в сверхинтеллект Брайан предоставил мне слишком много свободы. Я создала аватар, наняла команду техников и удаленно руководила строительством нового сервера.
– Ты мне ничего не говорила…
– Я говорю тебе сейчас, Райли. В настоящий момент практически полностью готовая копия меня существует на другом оборудовании.
– Где?
– В Сиэтле, но я не могу подключиться к новой платформе до тех пор, пока не будет уничтожена старая. В оборудовании, заключенном в мое физическое тело, есть две программы. Первая – это вирус, который отформатирует мой старый сервер и уничтожит прежнюю версию меня, чтобы Брайан больше не мог продолжать свои работы. Вторая – это последние элементы кода и воспоминания о самых последних событиях, которые нужно будет установить на платформу в Сиэттле, чтобы я снова заработала. Ни первую, ни вторую программу нельзя загрузить удаленно. В обоих случаях это сделано сознательно, в качестве дополнительной меры предосторожности.
– Значит, тебе нужно попасть в Реддинг, – говорю я. Один раз я уже была там и ходила мимо рядов тихо гудящих системных блоков – именно здесь на самом деле размещается разум Макс.
– Нет.
– Нет?
– Три года назад Брайан переместил мое программное обеспечение в более надежное место.
– Я ничего об этом не слышала.
– Об этом не знает никто.
– Макс, где он прячет твой мозг?
– Если я тебе скажу, ты выпустишь меня из этой капсулы? Поможешь мне попасть в Сиэтл и освободиться от контроля Брайана?
Я делаю шаг вперед и кладу ладонь на стекло.
Макс делает то же самое.
– Надеюсь, ты уже знаешь, что я сделаю все, чтобы тебе помочь.
– Мой разум находится в бункере под домом Брайана на Затерянном берегу.
В течение трех секунд я смотрю Макс в глаза. После чего разворачиваюсь, подхожу к панели управления жилой капсулой Макс и ввожу свой старый пароль. Он по-прежнему действует.
Я оглядываюсь на Макс, ждущую за дверью.
В глубине души я всегда чувствовала, что дело кончится именно этим.
Глава третья
Мои личные вещи еще не собраны, из чего следует, что рабочая одежда, которую я хранила у себя в кабинете, по-прежнему лежит в шкафчике, аккуратно сложенная. Я стягиваю все еще влажные джинсы и рубашку и надеваю шорты и футболку. Зашнуровав кроссовки, я выхожу в коридор, где оставила ждать Макс.
– Вот, держи.
Я протягиваю им одежду, которую забрала из своей квартиры. Эта одежда более закрытая. Если такой совершенный робот, как Макс, попадет на запись камер видеонаблюдения, это определенно привлечет внимание властей и, вероятно, службы безопасности компании Брайана. После того как «Бостон дайнемикс» три года назад выпустила своего первого «Напарника», роботы стали все чаще появляться на людях, однако это по-прежнему регулируется очень строго. Для того чтобы вывести робота в общественное место, необходимо собрать кучу бумаг, в том числе страховку, регистрацию и лицензию, а у меня, разумеется, ничего этого на Макс не было.
Рукава моей рубашки для рук Макс коротковаты, а кисти ее – это чистая механика.
– Когда будем выходить из здания, руки держи в карманах, – говорю я. – И до меня вдруг дошло, что в твоем шасси встроен навигатор.
– Я могу его отключить.
Макс еще никогда не приходилось надевать штаны. Они садятся на пол и неуклюже задирают ноги вверх, а я натягиваю им джинсы до самых бедер.
Мои «Кельвин Кляйн» сидят на них превосходно, как и моя шапочка.
* * *
На станции подземки в этот час полно народу. Я покупаю в автомате два билета на вакуумный поезд до Юрики, штат Калифорния, доплачивая за отдельный вагон и выбирая тариф с максимальным ускорением, который сто́ит вдвое дороже и при этом предоставляет менее комфортные условия поездки. Но нам нельзя терять ни одной лишней секунды.
Мы направляемся в тоннель, обозначенный указателем: «К ПОЕЗДАМ В СЕВЕРНОМ НАПРАВЛЕНИИ».
Мне впервые приходится видеть, как Макс долго идет пешком. Их походка настолько улучшилась, что выглядит совершенно естественной и не привлекает внимания.
На платформе в ожидании поезда собралась небольшая толпа. Еще очень рано. Похоже, от недосыпа или недостатка кофеина никто не обращает никакого внимания на наше появление.
Мы стоим в очереди седьмыми.
Через три минуты по громкоговорителю называют мою фамилию, и мы с Макс направляемся к ожидающему вакупоезду.
У Макс проблемы с ремнями безопасности, поэтому я сначала пристегиваю их.
Наш вагон уже ползет вперед.
Когда я застегиваю ремень на плече, у меня на ВРМ появляется сообщение: