Представь, что ты Тезей. Не простая машина, как может показаться на первый взгляд. Ты не имеешь ничего общего с разумом, созданным для единственной цели – чтобы следовать инструкциям, но не для того, чтобы их давать. Великодушие в бесконечных величинах.
Нет никакого смысла в том, чтобы твои мыслительные процессы проверяли исходники. Ближайшая модель, с которой они могут тебя сравнить, — это китайская комната; подразумевается, что ты не воспринимаешь ничего, кроме ввода и вывода данных. Реагируешь на полученную информацию — координаты и схемы, маршруты и коррективы — но без понимания, без способности к дальнейшим размышлениям.
К такому выводу они и придут – но ты не китайская комната. Ты манипулируешь, но тобой манипулировать не получится. Ты можешь генерировать ответы, чтобы создать видимость своей бездумности, но когда кто-то пытается управлять тобой, ничего не меняется. Ты — нечто совершенно иное, и никто, кроме создавших тебя ученых, не может по-настоящему тебя понять.
Будучи синтетом, я наблюдаю, как люди думают – но только лишь для того, чтобы создать похожую модель, чтобы расшифровать их. Связываю действия с реакциями до тех пор, пока не получится их интерполировать. Даю ответы на еще не известные мне вопросы с гораздо большей степенью точности, чем обычные аналитики.
Я даже близко не похож на исходников, но и недостаточно от них далек, чтобы утратить этот великий человеческий недостаток: мы видим в других только то, что испытали сами.
Я говорю - Тезей. Но имею в виду обоих, Сарасти и компьютер - сколько бы ни было первого во втором и второго в первом.
Юкка Сарасти, волк среди кроликов, казалось, никогда не пытался подавить свою тягу к охоте. Но был ли это Сарасти? Или, может быть, созданная компьютером симуляция Сарасти, вводящая данные в некий вампирский автомат и создающая видимость угрозы? Я не могу исключить свое собственное влияние на эту интерпретацию: моя нейронная сеть генерирует причины для побега, когда сталкивается с тем, для спасения от чего эволюционировала.
Последнее могло бы объяснить мою фиксацию на Сарасти, когда он был жив — или когда мне казалось, что он жив, что бы там ни было на самом деле. Теперь, с его смертью, фиксация переросла в обсессию. Одержимость, не объяснимую страхом.
Это было похоже на то, что я чувствовал после Челси. Я демонстрировал точно такое же поведение. Повторял те же самые действия.
Но входные данные были иными. И мне уже было известно, что последний человек, которому можно доверять – это я сам.