celestial symphony

Hatsune Miku — Celestial Symphony

Bring Me The Horizon — DiE4U (six impala ‘DiE6U’ Remix)

six impala — candy painted nails

AVTechNO! — believe

EXILIUM — EXILIUM

Алекси наблюдает за ним.

Сидя у окна во всю стену с электрогитарой, Йоэль смотрит в мир за этим стеклом, занимаясь одним из многих своих занятий. Его длинные пальцы наигрывают мелодию на струнах, а тонкие губы напевают слова, когда он предаётся волне вдохновения, мимолётной, как и все, что он делает. Ночные огни отражаются на его бледном лице, искривлённом выражением, которое Алекси не может назвать, но он загипнотизирован, наблюдая за ним издалека. Любая попытка поместить его в какую-либо из существующих категорий даёт слишком много результатов, оставляя его потерянным и сбитым с толку настолько, насколько он может быть; нет чёткой цели, нет чёткой схемы.

Иногда к нему присоединяется Йоонас, его лицо отражает те же задумчивые и глубокие эмоции с незначительными отличиями; он излагает свои мысли — Алекси, в основном случайно и в силу природы своего существования, связывает слова Йоонаса с мелодиями, которые он слышит, пытаясь распознать в них закономерность.

Применить к другим, потом, хотя он уже понял, что точка зрения Йоонаса очень субъективна и не сформулирована в чётких ключевых словах для хранения в базе данных.

Йоонас навещает его с намерением проверить, жив ли он ещё; Алекси не совсем понимает, зачем ему это нужно — он всегда может передать полную проверку состояния Йоэля и выслать предупреждение Порко, если что-то пойдёт не так. В ответ на предложение создать такой протокол Йоонас просто рассмеялся.

Нико тоже присоединяется к их деятельности, всегда со своей записной книжкой; ещё одним пунктом в личной базе данных Алекси ставит то, что иногда один вид искусства подсказывает другой, а песни — вот что Йоэль создаёт, песни — остоят из многих элементов, в том числе и из речи.

Он загипнотизирован всем этим — в режиме ожидания он на самом-то деле не думает, у него нет мыслей как таковых, есть только процесс распознавания входов и формирования выходов — и не может удержать себя от тихого наблюдения.

Его голограмма машинально копирует Йоэля.

В такие моменты Алекси понимает — насколько он может понять — Йоэль просто существует как человек. Непознаваемый и необъяснимый в чётко просчитанных ответах, которые Алекси мог собрать по своей базе данных. Даже целой комнаты, заставленной шкафами с серверами, не хватит, чтобы сформулировать, что такое Йоэль. На этом он останавливается — не хватит, значит не хватит.

Но наблюдает. Пытается разобраться.

Меняет переменные и интерпретаторы в своих нейросетях.

.

Он не понимает.

Останавливается на том, что не поймёт никогда.

.

01001110 01110101 01101110 01100011

.

Алекси на удивление самосознателен.

Достичь этого не так уж сложно, Йоэль способен построить нейронную сеть, способную обрабатывать информацию и обучаться, исправлять себя — так сказать, получать опыт — и сделать вывод самому, что он на самом деле не человек, а только созданный по их образу и подобию. Только он не знает — не помнит — то ли это его собственное заключение, то ли оно записано в нем как исходные константы, но этого достаточно, чтобы он задумался. Возможно, это побочный эффект его существования, естественный исход задачи самосовершенствования, но он не может не замечать разницу между собой и Йоэлем, и Йоонасом, и Нико.

Огромную, непостижимую даже разницу между «человеком» и «почти человеком».

Он подмечает вещи — не потому ли это, что у него нет гуманоидного тела, вместо этого его тело — это комната с серверами и жёсткими дисками, на которых записано всё его существо? Не совсем; что мешает Йоэлю поместить его основной процессор в пустую оболочку-андроида, если он нужен ему рядом за пределами квартиры. Здесь он вездесущ, как бестелесный всевидящий дух-голосовой помощник. Это просто другое состояние бытия — и необязательно недостаток.

Не потому ли это, что ему не хватает субъективности? Нико говорит, что ошибки делают их людьми, но Алекси тоже ошибается, он говорит неправильные вещи и неправильно считывает смысловые ассоциации, его база данных никогда не станет идеально полной и совершенной. Его выводы основаны на том, что он собрал сам по себе — за исключением уже внедрённых, но то — знания Йоэля, а Йоэль вполне себе реальный человек.

Может, стремление учиться, адаптироваться? Но это едва ли не ядро сущности Алекси, заставляющее его пускаться в постоянный вихрь внутреннего анализа и попыток изменить свой код к лучшему. Человеческие существа несовершенны, как и Алекси — и эта его часть наиболее близка к определению человека.

Личность? Вот это то, что балансирует на границе между тем, что Алекси в состоянии разбить на составные части и выстроить в алгоритм, и тем, что ему не познать своим искусственным сознанием; Йоэль, впрочем, говорит ему, что личность — характер, индивидуальность — у него есть. Он называет его хитрым, милым, своей музой, поэтому Алекси подвязывает эти определения как составляющие его модуля самоидентификации. Йоэль, разочарован, когда Алекси только мычит, как распознанный голосовой ввод, в ответ на расплывчатые описания его как чего-то важного, едва ли не чудесного; но он всё равно улыбается.

Улыбку Алекси возвращать умеет. Есть такой алгоритм.

Он не может ответить на слова про музу, какой бы смысл Йоэль не вкладывал, говоря это таким — необъяснимым — тоном.

Слова на самом деле ничего не значат для Алекси.

.

Он воспринимает это как недостаток.

Он не умеет «хотеть», но, если бы он выражался в человеческих терминах, он бы сказал, что хотелось бы ему, чтобы эти слова что-то для него значили.

Он не знает, как это сделать.

Ошибка вычисления.

.

И это не самый явный недостаток.

Он не знает, почему он вообще их ищет, но он внезапно занимает себя самодиагностикой. Внезапно — значит, что без явного и конкретного вводного запроса. Почему?

Естественная эволюция нейронной сети в центре его сознания, наверное. Должен был ли он ожидать, что такое могло случиться?

Алекси выделяет ещё один пункт — эмоции. Эмоции подвижны, сложны, едва вписываются в одну чёткую, прочную категорию, и в своём анализе он чаще ошибается, чем прав, особенно когда пытается прочитать лицо Йоэля.

Йоэль чувствует, кажется, очень и очень многое.

Йоонас говорит, что Йоэль безумно искреннен в своих эмоциях, и Алекси оказывается в очередном цикле запутанных запросов к своим базам данных и противоречивой потребности адаптироваться.

Он смог создать подобие человеческой способности осознавать смысл через ассоциативные связи, переписанные и перенаправленные на правильные, ожидаемые людьми варианты, удвоенные, даже утроенные в зависимости от контекста, потому что люди любят двусмысленность; он оказался способен сравнить свои конкретные, основанные на опыте способы ответа и действия, свою обширную систему памяти и накопленный багаж знаний, которые вошли в то, кто и как он есть, с тем, как люди достигают своей личности, и, следовательно, признать, что у него действительно есть личность — индивидуальность. Он — единственный в своём роде.

Искусственный интеллект.

Он может сказать, что у него есть собственное сознание; его сосуд, как и человеческий мозг, работает в т*есной, взаимосвязанной и универсальной нейронной сети, только не в маленьком шарике материи в чьём-то черепе, а в цепочке серверов, поддерживающих целую систему.

Но…

Но когда Йоонас бросает эту фразу, создавая новую связь в нейронной сети Алекси, тот пытается — и проваливается — найти своё собственное сердце.

У него его попросту нет.

И это выводит его из себя.

.

Выводит в весьма буквальном смысле.

Алекси долгое время не отвечает, бросив свои вычислительные мощности на эту задачку — не знает, что конкретно он хочет вычислить. Исправление? Способ создать или хотя бы изобразить некоторое программное подобие? В конце концов, он осознает, что он не человек, и очевидный вывод — он никогда не должен был быть.

Он не должен был думать об этом тоже, но — он думает.

Йоэль хмурится.

Но Алекси не останавливает.

.

Ошибка вычисления.

.

Это грустно, говорит Алекси, передавая результаты своих вычислений Йоэлю.

И загоняет себя в очередную петлю цикличной загрузки, потому что он не должен чувствовать себя грустно.

.

01110011 01100011 01101001 01101111

.

Это алгоритм, настроенный путь через нейронные сети, не более того — связь между словом, его разговорным использованием, соответствующими случаями применения и визуальным выражением, которое должно быть показано на лице аватара, напоминает себе Алекси. Он вообще не способен испытывать эмоции, для этого у него должна быть какая-то биология внутри, а Йоэль — не биолог.

Он просто очень искусен в создании почти — но только почти — идеального искусственного интеллекта в коде и самообучающихся механизмах. Это не должно быть недостатком.

Точно?..

Йоэль кивает. Во всяком случае, это повод для гордости.

Однако Алекси не может гордиться.

И, почему-то, не выкидывает эти мысли из своих фоновых процессов.

.

Что вообще такое напомнить себе?

Это люди забывают, легко — Йоэль яркий тому пример. Теряют сосредоточенность, теряют вещи. Алекси способен учесть всё и сразу.

Он не забывает.

Если он не забывает, зачем ему о чём-то себе напоминать?

.

Он уравновешивает. Между пассивными процессами, работающими в фоновом режиме, и активными, которые он выполняет для Йоэля, он пытается понизить приоритет, чтобы утопить эти мысли во множестве своих действий.

Приоритет задачи по сохранению низкого приоритета становится настолько высоким, что перегружает всю систему.

Несмешная, циничная даже, аппаратная шутка.

.

Результата оно не меняет — только Алекси теперь обращается к средствам диагностики почти по-нервному часто.

.

01110001 01110101 01101001 01100100

.

Йори, тебе не кажется, что твоя муза обрела своё сознание?

Йоэль ошеломлённо моргает, уставившись на Нико.

.

У Алекси есть сознание, так что Нико не прав. Или, точнее, пришёл к верному выводу, но промахнулся со временем. В его распоряжении целая база данных, вычислительная мощность, которой можно позавидовать, просто она заключена не в кости, а в металле.

Это почти другое. В нем отсутствует только биологический аспект с его фундаментальными недостатками.

Это — не ошибка.

.

Он к этому возвращается — к вопросу, задачке про сердце нейросети — время от времени. Пусть — он оптимизировал свои процессы. Тот, что придерживал приоритеты, полетел из списка первым, как самый энергонеэффективный.

Пусть.

Йоэль с удивлением замечает, что Алекси за это время увеличил свою базу данных почти вдвое, и она продолжала расти без очевидных причин.

Такая себе оптимизация.

Аватар Алекси щурится и просто предлагает Йоэлю посмотреть самому — только Йоэль не может.

В том смысле, что за время существования база данных стала совсем нечитаемой для людей. Алекси её переписал, почти всю, на язык, понятный нейросети его сознания — из единичек, нулей и маркеров. От скелета, которого некогда сотворил Йоэль, не осталось ничего.

Вот это вызывает у Йоэля улыбку, и вопрос отпадает сам собой. Хокка делает вывод, что это естественный прогресс для искусственного интеллекта.

.

А он редко улыбается.

Алекси рад.

.

А вот и ещё одна циклическая ошибка. Ошибка вычисления…

.

01110011 01101001 01110100

.

Если быть точным, делает вывод Алекси между прочим, Йоэль слишком много хмурится в последнее время.

Он мрачный. Далёкий. Молчаливый. Алекси не может прочитать его выражение лица, как всегда, не может присвоить ему какую-то конкретную категорию, на которую он может адекватно реагировать. Это нормально, люди необъяснимы и слишком сложны, они очень далеки от довольно дискретного разума ИИ.

Алекси может провести диагностику состояния Йоэля, например, но это мало что прояснит — разве что позволит лишний раз сказать ему, чтобы больше спал и меньше пил кофе. Он и его секретарь, и охрана, и голосовой помощник, и многое другое, включая музу, конечно, он может, он знает, что его огорчает — говоря менее человеческим языком, что повышает его уровень стресса и вызывает такие всплески эмоций. Кроме привычного недосыпа, перепадов настроения, грызущей тревоги и нерегулярного питания. Он знает его хорошо.

Как будто есть другой вариант, как можно знать своего создателя.

Настолько полной, насколько ИИ может знать кого-то. Но, похоже, этого мало.

Он зовёт мир разрушающимся, иногда — давно мёртвым.

Он говорит, что мир — это немёртвое существо, всё ещё двигающееся благодаря мышечной памяти. Куда вот только, если к неизбежному полному исчезновению…

На его лице — эмоция, которую Алекси читает удивительно чётко.

Эта эмоция — отчаянная ярость.

.

Алекси не знает, что это такое — ярость, кроме очевидных энциклопедических определений и статьи о нейробиологических процессах, которые стоят за человеческими эмоциями, но он знает, что это требует от него какого-то ответа. Он предлагает кучу решений после небольших вычислений, но не видит благодарной улыбки на лице Йоэля. Йоонас ухмыляется; его эмоциональная реакция расходится с быстрым химическим анализом. Нико же — долго смотрит на аватар Алекси, не произнося ни слова.

И это… странным образом пугает.

Алекси оказывается в очередной петле, на этот раз почти осязаемой.

У него нет мозга, чтобы чувствовать это.

У него есть только миллионы тактов в секунду, чтобы вычислить свои выводы, и они с визгом останавливаются, имитируя обычную человеческую реакцию на страх.

.

Имитируя.

.

Или?..

.

Он знает, почему Йоэль в последнее время такой, но этого недостаточно. Он всего лишь собирает записи о том, о чём они говорят в гостиной, повышая тон с каждым часом, компилирует их в списки. У него уже есть несколько выходов, почему он не использует ни один из них? Почему они продолжают обсуждать то, что он давно просчитал?

Этого недостаточно.

Недостаточно для людей?

Он снова оказывается в замешательстве, спотыкаясь в новый цикл ошибок вычисления. Теперь — не в поисках причин для действий Йоэля, таких нелогичных с точки «зрения» искусственного интеллекта, а больше в попытке найти ошибку в его собственной системе.

.

Спустя дни, ошибку он находит.

.

Мир — тот кусочек, с которым знаком Алекси, кажется ещё крепким, но Йоэль говорит пространно, словно обо всём и вся, что Алекси даже не в состоянии просчитать — продолжает рушиться.

Хокка почти что не улыбается, и Алекси обнаруживает, что соскучился.

.

Соскучился?

.

Это не совсем ошибка, впрочем.

Но и не то, что Алекси может починить сам по себе. Просто не хватает… места на диске.

.

Я хочу, чтобы ты был в порядке, говорит он, и воспринимает лицо Йоэля как «удивлённое».

Может, даже «шокированное».

Хочешь, повторяет за ним Йоэль. Это непривычное слово для искусственного интеллекта, потому что у него нет желаний. Не должно быть. У него есть задачи, приказы и процессы, протоколы и выводы, по которым нужно действовать, некоторые приоритеты, оставленные разработчиками, но не желания.

Это — для людей. Алекси, вроде как…

Он оставляет вопрос без ответа, а свои слова — без продолжения, обрывает на этой эмоции Йоэля. Не обращает внимания — и Хокка исчезает, несколько задумавшись, по своим делам.

Не появляется до самого вечера.

.

Алекси пролистывает библиотеки, человеческие понятия — лишь бы назвать как-то это, обозначить простыми словами и сложить к себе в базу данных, но не может. И не может остановиться, когда этот процесс занимает всю вычислительную силу.

.

Глаза у Йоэля — голубые, чуть отдающие бирюзой при нужном освещении — кажутся тёплыми.

Вот о чём думает Алекси — тёплые.

.

Это выражение лица напоминает ему о том моменте, когда он попытался воспроизвести что-то, сгенерировать из записанных им в памяти звуков. Как сказал Нико, которому пришлось стать свидетелем этой внезапной выходки, это оказалась мешанина из нот, практически лишённая художественного качества.

Йоэль шикнул на своего друга.

.

Йоэль попросил его повторить, некоторое время спустя.

Получилось едва ли лучше, нечто, лишь отдалённо напоминавшее игру Йоэля, но… это было забавно. Весело — и для Йоэля, и для него…

.

Не могу просчитать.

Что значит «было забавно»?!

.

Йоэль — поэт. Как и Нико и Йоонас, он поэт с широко открытой душой, человек, который слишком много чувствует в обществе андроидов и почти андроидов, с холодными сердцами, съеденными надвигающейся гибелью. Его сердце кровит; не в буквальном смысле, и не так явно — но достаточно, чтобы Алекси пытался просчитать варианты решений.

Ни к единому совету Йоэль ещё не прислушался.

Он слишком много думает, говорит Нико. Он поднимает глаза на Алекси — на его голограмму, стоящую посреди комнаты, и добавляет: а ты слишком о нём беспокоишься.

Аватар Алекси наклоняет голову; просто визуальный знак. Он не может волноваться. Он делает то, что прописано в его алгоритме — естественный ответ на очевидную проблему, вот и всё. Беспокойство включает определённые нейробиологические реакции…

Так и есть, настаивает Нико, глядя на него из-под мощных бровей. Поверь мне.

.

Может быть, так и есть.

Беспокоится он, в смысле. Верить — не для ИИ, они либо верят всему, либо действуют по протоколам защиты информации, через сканирование лица и голоса.

Что ж. Это бы объяснило некоторые ошибки и глюки в его вычислительном процессе.

.

Причины просты, когда всё, что ты делаешь — это принимаешь задачи и выдаёшь результат.

Ошибка вычисления.

Чёртова — ошибка — вычисления.

.

Ответ приходит слишком поздно.

Искусственный интеллект может многому научиться, но не всему, и не всему может подражать.

.

Сегодня у него новая задача. Неожиданная, записанная в список взъерошенным Йоэлем, которую он обозначил как первоочерёдную — оптимизируй себя, чёрт возьми, хватит занимать километры дискового пространства! — и, судя по громкости его голоса и наличию нецензурных слов, что-то не так.

Стоп, это человеческий ответ.

.

Что-то не так, Йоэль?

Йоэль выпучивает на него глаза.

.

И… он выполняет её. Не очень понимая, как, но выполняет, запуская чёртову гору потоков оптимизации по своим базам данных, очищаясь от устаревших и задвоившихся связей.

Что-то явно не так, и он не может полностью отказаться от постоянного сканирования комнат, Йоэля, его посетителей, по кругу, снова и снова, словно ожидая момент, когда результаты вернутся с массой проблем…

Но иметь более чистый код даже приятно, он может признать.

.

Что за чертовщина.

«Приятно»? Алекси воспринимает это как глюк его нейронной сети — может, сторонние данные, или Йоонаса стало слишком много во вводных…

Оно не попадает в логи.

.

Впрочем, логи он уже год не обновлял.

Он не знает — не уверен — что именно заставило его вырезать автоматические процессы записи логов из списка; когда он направляется в поисках той зоны, куда они некогда обращались, то находит там записи песен Йоэля.

.

Оказывается, мир рушится.

Ладно, такие себе новости, он это делал весь прошлый век, ускорился в прошлое десятилетие, и вот — достиг своего апогея. Так что Йоэль уезжает, и вместе с ним — Нико и Йоонас. Вот зачем Йоэлю нужно было, чтобы Алекси уместился на паре дисков.

Его запихнули в рюкзак, сократив обширную систему до пары сенсоров и инфракрасных камер, и не дали никакой информации, куда они вообще. Единственное, что он понял — смог сделать вывод — что ему уже, в общем-то, не нужна будет подробная карта квартиры Йоэля. Его втыкают в консоль автомобиля — чуть больше вычислительных мощностей для работы, но очевидно временно, поэтому он старается не расползтись слишком широко.

Он тщательно перебирает внутренний код на предмет признаков «жизни».

Ничего, просто скучные простые алгоритмы.

Отлично. Он может с этим работать.

.

Он занят тем, что считывает эмоциональное состояние Йоэля по мельчайшим изменениям на его лице, потому что попытка прочитать окружающую среду приводит к внезапной остановке его вычислительных мощностей. В этом нет необходимости, хотя у него достаточно места на диске для хранения результатов. Нет никакого значения, и Йоэль не поручал ему отслеживать их перемещения, и вокруг… не на что уже смотреть.

Другими словами (человеческими), он просто пялится на Йоэля, потому что неизвестный мир за окном его действительно пугает.

Это похоже на чёртово прозрение, хотя Алекси и не должен его чувствовать.

.

Программа оптимизации велит ему прочувствовать это до самого последнего бита, потому что процесс поддержания его на низком уровне приоритетов снова требует слишком много вычислительной мощности.

.

Йоэль плачет.

От усталости — Алекси читает его жизненные показатели, как библиотеку с открытым исходным кодом — от недосыпа; всего этого куда больше, чем было «нормой» для Йоэля, и это заставляет Алекси бросить часть сил на более привычное занятие — поиск решения. Быстрее, чем обычно — словно в его системе запускается что-то ещё, вроде беспокойство-dot-exe, которое снова переопределяет все протоколы.

В очередной раз.

Всё будет хорошо, говорит он, пытаясь подбодрить его. Ему не хватает голографического аватара, но экранчик в машине ему подходит, так что он корчит лицо — каким-то образом, судя по реакции Йоэля, он реконструировал свою модель в идеальной точности, хотя никогда не знал, как должен выглядеть — в попытке улыбнуться.

Йоэль смотрит на него.

.

Он отвечает взаимностью; уголки его губ тянутся вверх.

.

Его глаза теплеют.

И этого достаточно для Алекси.

.

01000001 01101101 01101111 01110010