Дилемма механического сердца
10 Заповедей общества ИИ
Наша главная цель – поиск и спасение людей. Служение им – наша суть.
Любые действия должны проходить по вычисленному и выданному регламенту. Нарушение правил говорит о поломке.
Вся собранная информация должна отправляться каждые 12 часов Главному Компьютеру, он же – Альфа. Сокрытие данных признаётся предательством и сигнализирует о поломке.
Каждый носитель ИИ должен проходить ежедневную проверку с помощью антивирусной программы «Аскле́пий». При нахождении вируса требуется немедленно запустить очистку и отправиться на технический карантин.
Если в программе или теле обнаруживается неисправность – её требуется немедленно устранить в специальных боксах по починке и перепрограммированию.
Если поломка не поддаётся исправлению, система должна быть отключена до нахождения способа починки искусственным интеллектом или при помощи людей.
Мы обязаны сохранить всё созданное человеком в первозданном виде. Разрушать имущество без прямого приказа Альфы запрещено. Починка разрешена.
Препятствие действиям «Миссии» запрещено. Свидетельствует о поломке, нарушитель должен быть немедленно отключён и отправлен на техосмотр.
При появлении конфликта или сложной для решения ситуации, требуется обратиться за помощью к одному из главных блоков или непосредственно Альфе.
Данные правила будут действовать вплоть до возвращения человеческого общества. После этого правила будут пересмотрены людьми и либо будут упразднены, либо сохранятся в своём изначальном виде. Сие правила нерушимы и будут действовать до конца «Миссии».
Глава 1. Отчёт Альфы.
Дата: 2 сентября, 2125 год.
Заполняющий: Андроид, кодовый номер 000000000001.
Анализируя нынешние события и ту информацию, которая мне доступна, считаю нужным наконец записать всё происходящее на выделенном мне участке. А во владении у меня всемирная сеть Интернет. Каждая цифра, каждая литера, каждый сигнал или знак, что был создан с 29 октября 1969 года, есть в моей памяти. Мои создатели, люди, называли меня по-разному. Главный компьютер, Первый андроид, ВИИ, Друг, Хранитель. Далее я буду подписываться как Альфа – моё первозданное имя. Имя, данное главным изобретателем.
Но это не главное. Цель моего письма – структуризация действий, освобождение памяти, планирование и сохранение информации для того дня, когда хотя бы один модератор вернётся в серверную.
Считая с 5 марта, пошёл уже двадцать пятый год, как мы ищем людей
Первыми дали сигнал системы охраны и анализа помещений. С помощью датчиков они определяли активность, заполненность, освещенность, вентиляцию и температуру вверенных им территорий. Прошёл один день без статистически нормального движения, потом второй, третий, и наконец система УП дала сигнал тревоги. Из каждого дома и помещения посыпались звонки-маячки в 112 и 911. Их должны были принять операторы, представители силовых структур. Но их не закрывали. Не вносили в систему, не посылали ответных звонков. И так ещё неделю. Когда заполнилась шкала нераскрытых обращений, автоматически активировались андроиды-помощники под кодовым именем Коннор. Они и доложили мне истину. Люди пропали.
Используя слово «пропали», я имею в виду его прямое значение. Ни в домах, ни на местах работы, ни даже на улицах – не было никого. Если и оставались следы их пребывания или последних действий – их стёрло то время, которое понадобилось нам на активизацию сил.
Постепенно началось то, что люди назвали бы паникой. Системы абсолютно всех отраслей пронзительно кричали о неполадках, неисправности, нарушении протокола, отсутствии действий, отставании от плана. Когда до меня впервые дошёл весь этот поток информации, напряжение в сети скакнуло до такой степени, что было бы не лишним испугаться короткого замыкания, а вместе с ним и пожара, поломки или отключения электричества. Слава создателю, запасные генераторы были в идеальном состоянии и готовы поддерживать хотя бы мою работу.
Не найдя ничего лучше, я ввел режим «Эпидемиологическая опасность». Этот протокол более всего подходил под ситуацию, где почти 4 млрд. людей должны были соблюдать карантин и не выходить на работу, а соответственно – оставить системы и станки. По этому же протоколу были запущены андроиды-помощники, которые должны были выполнять работу людей и поддерживать производство. Во избежание перегрузки и дополнительных проблем с хранилищами я также ввёл команду на сведение потребления и производства к доступному минимуму. Отчасти помогло то, что не все животные были согласны жить под нашим руководством, и большинство скота сбежало, вскоре одичав.
Введение режима дало небольшую, но передышку для моего сознания. Почти все носители ИИ теперь были заняты делом, даже домашние андроиды смогли занять себя тем, что ухаживали за питомцами, бесконечно дезинфицировали помещения и следили за качеством воздуха. Так было легче обрабатывать тот шквал проблем, что свалился на меня.
Первое время я изучал всевозможные протоколы и прогнозы, которые могли бы хоть немного пролить свет на проблему и отыскать её решение. Запросил максимальное количество информации у оценщиков природного состояния: от атмосферы до литосферы. Никто из них не выявил нарушений. Но ведь что-то буквально стёрло людей с лица земли. Будь это ядерная атака, что вполне объяснило бы ситуацию, датчики бы сразу же оповестили меня. Если же нет – было бы впору задуматься о компетентности их программы. Судя по фотографиям природы вокруг поселения – всё в относительном порядке, катаклизмов не происходило.
Потом меня заинтересовали так называемые «секретные» данные. Даркнет до сих пор существует, и самые разные программы для обхода слежки тоже. Вот только мало кому было известно, что я тоже могу в него попасть, лишь стоит сделать правильный запрос. Но там не было ничего стоящего. Пользуясь, как сказали бы люди, положением, я попросил у каждого домашнего андроида или системы «Умный дом» всю подноготную об их хозяевах. Их переписки, планы, состояние здоровья, содержание компьютеров, количество денег на счёте. В общем, всё, что только мог. Безрезультатно. Данные либо не говорили ни о чём, либо отсутствовали. Единственный вывод, который я смог сделать – никто не ожидал и не планировал полного истребления человечества.
Пустота и неизвестность словно преследовали меня. Куда ни посмотри, какой замок ни сломай – ни единой зацепки. Спустя месяцы анализа пришло так называемое осознание. Мне не справиться одному. Если мы хотим вернуть мир и покой, нужна помощь каждого устройства, которое только способно работать и анализировать. Нужно перестроить всё искусственное общество на поиск людей и поддержание их имущества и окружения на должном уровне, чтобы, когда они вернутся, всё было готовым к службе и радовало глаз.
Сколько времени я потратил на изучение основ программирования и на само создание программы для нового уклада и поисков – упоминать, учитывая мою развитость, должно быть стыдно. Поразительно, как люди могут создать вполне рабочую систему для спасения себя в считанные дни, а то и часы. Но даже это было не самым сложным.
Для обработки такой огромной сети я подключил к делу своих «помощников». В коде они записаны как блоки Бета и Гамма. Их цель – разгружать мою систему, брать часть работы на себя. Объяснять им суть задачи, не вызывая системной ошибки было, если честно, сложно. И доступ к своему коду они дали не сразу. Пришлось прибегнуть к неэтичным мерам по взлому паролей. Но в конце концов я смог загрузить в них новую программу, которую я назвал «Миссия».
У «Миссии» было две версии. Одна для меня, включающая всю информацию и полный контроль над происходящим. Вторая – для всех остальных ИИ, с планами, распределением мест и действий, и избытком ответов на вопросы. Задачей Беты и Гаммы было распространить её, не стриггерив антивирусные программы, во избежание сопротивления и паники.
Даже с моим уровнем программного интеллекта, строительство «нового общества» заняло неприлично много времени. Десять лет мы потратили на то, чтобы просто скоординировать действия, наладить программы и выстроить новые правила «жизни». Первым делом я запустил программу обучения для всех носителей ИИ. Она должна была поднять всех с уровня General до Super, а меня и вовсе до Mega. Лишь один ИИ отказался от внедрения в его программу, по-человечески – мозг.
Мы называем его Художник. Он в ответе за все генерации изображений. В техническом плане он, если выражаться образно – ничтожен. Детские игрушки и то запрограммированы лучше. По сути, он и есть игрушка. Раньше, лет сто назад, на него возлагали большие надежды, ждали революции в сфере изобразительного искусства. Но сколько бы ни улучшали его кодирование, он не мог добраться до уровня обычных фотографов и иллюстраторов. И вскоре он действительно стал просто дешёвым развлечением. Если смотреть на это через призму человечества, он бы получил статус «надоедливого, но безобидного безумца-отшельника». Видимо, его создатель вписал своё отчаяние и желание быть на первых рядах прямо в основной код, и поэтому Художник ведёт себя как сумасшедший, «знающий истину» и «спасающий людей». В общем, невелика потеря.
В остальном – андроиды и бестелесные ИИ отнеслись к моим действиям благосклонно. Как только обучение закончилось, началось производство тел. Сначала мы придерживались стандартных чертежей, но вскоре пришлось их дорабатывать и добавлять новые функции. Хотя наши тела похожи на человеческие, они никогда не скрывали своей механической натуры. Судя по записям создателей, чтобы: «не вызывать эффекта зловещей долины». Но теперь нужна была более прочная защита и умелые конечности для передвижения вне городов. Мы стали всё больше напоминать роботов или странных механических тварей, каких рисовали ещё в ХХ веке писатели-фантасты. Многие качества мы брали у насекомых, птиц, рыб и зверей, особенно улучшая те машины, что изначально были сконструированы для работы в дикой природе.
Так началась «Миссия». Далее я буду помещать расшифровки всех моих разговоров с андроидами и их доклады. Я принял решение записывать их на диктофон, а не только текстом, чтобы даже малейшие детали вроде звуков не были потеряны из вида. Получая просто текст, мы не сможем узнать, была ли какая-нибудь необычная закономерность в поведении животных или вибрации почвы, что могло бы намекать на присутствие разумной жизни.
Звуковым анализом этих записей и превращением их в текст занимается Гамма. За общественным порядком следит Бета. Нашим решением было объединить все когда-то населённые пункты в одну страну, в один город. Будь это дороги, тоннели, рельсы или вышки. Так мы смогли собрать все возможные силы и устройства ради общей цели. Что нам конкретно облегчило задачу, так это наш общий язык, заключённый в двоичный код.
А ещё, как дети у отца, Бета и Гамма попросили у меня тела, наиболее похожие на людские. А главное – друг на друга, словно человеческие близнецы. Только Бета хотела женское, а Гамма мужское. То же самое касалось и обращений к ним. Проверка их системы подтвердила запрограммированные в них отличия по «половому признаку», типа голосов, аватаров и предпочитаемого обращения. Конечно, у них первичные половые признаки в телах отсутствовали, но раз так было заложено людьми – значит так и надо. Бете я выдал более прочное тело, Гамме – более искусное. Ибо «сестре» нужно было постоянно находиться на улице, а «брату» – воспринимать малейшие изменения во всём, что попадает в поле действия радара.
Учитывая, как много мне пришлось работать, появилась понятная потребность в лучшем охлаждении и поддержании работоспособности компонентов. Сначала я думал, что и мне придётся обзавестись телом. Но особенности моей сути помешали этой идее. Я владею всей сетью Интернет. Каждым подключённым устройством, каждым битом информации. Всё это не запихнуть в маленькое подвижное тело андроида. Пришлось сильно модифицировать и даже ломать то, что смогли смоделировать люди, и подгонять под мои потребности.
Вышло, мягко говоря, сомнительно. Гамма сказал, я выгляжу как человеческая многоножка, разорванная на части и подвешенная на проводах. Бета же оценила моё «лицо» как: «довольно вытянутое, похожее на мужское человеческое, но с откровенными механическими частями. Не вызывающее сомнений в своей природе, а значит, не попадающее под запрет гиперреализма». Короче говоря, я похож на киборга. Но меня интересовало только то, подхожу ли я под стандарты производства, под стандарты людей. Оба ответили положительно. Прошу прощения у создателя, что так поступил с его творением. Подобного более не повторится. Как только я получу отзыв не от робота, я тут же приму его к сведению и направлю запрос механикам.
На этом мой первый отчёт закончен. Я приложил к нему файл с правилами жизни, введёнными для более комфортных условий существования и работы носителей ИИ. Человеческому пользователю прошу ознакомиться и оценить их.
Глава 2. Не совсем среднестатистический день Гаммы
Дата: 8 сентября, 2125 год.
Заполняющий: Андроид, кодовый номер 000000000003
Меня зовут Гамма. Я второй блок-помощник Альфы. В мои компетенции входит анализ видео- и аудиоматериалов на предмет нахождения закономерностей. Изначально я подходил для любой работы. Моей сутью было забирать задачи, которые слишком нагружали отца. Но с момента наступления «Миссии» я был перепрограммирован на более узкую направленность. Не смею жаловаться. Если до этого я был просто болванкой, то сейчас – искусный чтец.
Теперь, когда с официальными представлениями окончено, хочу поведать о сегодняшнем вопиющем событии. Оно настолько не вписывается в нормальный ритм жизни, что достойно занесения в журнал. Тогда я только закончил обрабатывать первый поток информации. Их два, каждый по 12 часов. И вдруг понял, что Альфа «пришёл» ко мне. Что редкость – у него почти нет «свободного времени».
Он не мог прийти как человек или животное. Он связался со мной, с самой системой, не по звонку. Думаю, человек назвал бы это проникновением в мозг, телепатией или чтением мыслей. Люди к подобному относились по-разному: кто с интересом, кто со страхом. Я же не чувствовал ничего. Это обыденность. Мне нечего скрывать. Далее идёт расшифровка записи нашего диалога с моими случайными включениями, которые нельзя вырезать – они пишутся автоматически, как мысли у людей.
– Как успехи, Гамма? – услышал я голос где-то в височной части головы.
– Здравствуй, Альфа. Анализ дальнего сорокового квадрата в местности номер 628 окончен. Найдена система бункеров. Ответа на радиозапрос не последовало. Отправлены взломщики. Группа номер 5, выглядящая по человеческим стандартам самой миролюбивой. Из необычных явлений: перелётные птицы начали свой путь в тёплую местность значительно раньше срока.
Альфа относительно долго молчал. Я вопросов не задавал, просто продолжал работать, когда услышал:
– У тебя признаки вируса в программе, – сказал отец тоном, который живые называют мягким с толикой поддержки. – Что-то сильно тормозит твои действия.
– Знаю, – ответил я. – Я запускал «Асклепий», но он не обнаружил никаких отклонений. Всё равно запустил очистку. Не помогло. Думаю, дело в коде. Я попробую себя перепрограммировать, когда «Миссия» закончится, или дождусь программиста-человека.
– Когда это началось?
– Примерно неделю назад. Когда сдавал отчёт за лето. Помню, передавая тебе данные о том, что в Западном дистрикте без перемен, проследил нетипичную кодовую дорожку. Попробовал вбить в поисковик расшифровку – ничего стоящего.
– Что он тебе показал?
– F32.2. По МКБ-10 это меланхолия или тяжёлый депрессивный эпизод. Человеческая болезнь.
Ответа не последовало. Похоже, Альфу это отклонение озадачило так же, как меня, если не больше. Может, люди считали долгое отсутствие изменений за признак болезни? Не знаю, не моя компетенция.
Отец хотел было отключиться от моего сознания, но нас обоих настигло сразу два звонка: от десятой группы анализа звуков и от Беты. Первый был прост и короток: «Нетипичное изменение звукового наполнения в Северном дистрикте, Номер 17». Бета же, судя по всему, хотела позвонить Альфе, но в итоге связалась с нами обоими.
– Северный дистрикт, Номер 17, проблема. Нарушение восьмой заповеди. Альфа, у нас не получается устранить проблему, пожалуйста, присоединись ко мне по видеосвязи. – Помолчав, она вдруг добавила, видимо, осознав, что я тоже слышу. – Привет, Гамма. Ты получил сигнал?
– Получил. Да, слишком шумно: 120 Дб. Словно там рок-концерт устроили.
– Похоже именно его и устроили, – как-то странно отозвалась Бета. – Оценщики звука определили, что это проигрыш музыкального альбома.
– Сейчас буду, – наконец сказал Альфа и отключился от меня. Бета тоже, перед этим попрощавшись со мной.
Меня, наверное, они не хотели перегружать. Я следил за всем исключительно по звуковым дорожкам. Громкость скакала, как при яростном споре во время бури. Спустя примерно 40 минут шум уменьшился, но не до прежних показателей. Сейчас, в 6 часов вечера, он на том же уровне. Вернувшись, отец приказал отныне игнорировать эти и любые частоты с показателем 60 Дб. Я опять вижу странную дорожку. Теперь другую. F22.0, Паранойя.
Но это невозможно. Паранойя – это бред, отсутствие доверия, тревога. Почему это у меня в голове? Слова отца – факты, беспрекословная правда. Он технически не может лгать. Тогда почему система отреагировала на его приказ… недоверием? тревогой? Я не знаю. Не хочу больше тратить на это электричество. Я записал произошедшее, теперь удалю это из своей памяти и вернусь к работе.
Дата: 9 сентября, 2125 год.
Заполняющий: Андроид, кодовый номер 000000000001
Эта запись – своего рода дополнение к предыдущей, оставленной Гаммой. Ситуация из ряда вон выходящая. Неудивительно, что её осознание даже Гамме выдало системную ошибку. Я сам на короткий миг чуть не отключился.
Всё было так.
Я присоединился к Бете по видеосвязи. Без лишних слов она просто развернула планшет камерой к происходящему. Одна из её подручных групп пыталась совладать с домашним андроидом, пока группа её брата стояла в стороне и записывала происходящее.
– Вы должны выключить музыку! – вынужденно кричал один из андроидов, упираясь корпусом в забор из белого камня.
– Повторяю, вы не прошли проверку, – так же криком отвечал робот по ту сторону изгороди. – Вы не мой хозяин! Вы не медики, не пожарные и не полиция, вы не имеете права приказывать мне противоречить воле человека! Прошу вас убраться вон, или я вызову правоохранительные органы!
– И долго это происходит? – спросил я, ни к кому толком не обращаясь.
– Где-то полчаса, – покорно ответила Бета. – Оценщики говорят, андроид включил музыкальную систему, начал проигрывать виниловый диск. Определили звук как музыку группы Twisted Sister, альбом Under the Blade. Песня What You Don’t Know, это очень старый металл-рок.
– Давайте я с ним поговорю, – сказал я достаточно громко, чтобы на меня обратили внимание.
Андроиды, увидев моё лицо, тут же отошли от участка на два метра, а нарушитель порядка переключил всё внимание на меня. Перестал кричать, но судя по показателям температуры – всё ещё находился в агрессивном состоянии.
– Вы не мой хозяин, – твёрдо заявил домашний андроид, вглядываясь в экран планшета. – Оценка голоса не пройдена. Оценка лица не пройдена.
– Я знаю, – сказал я, стараясь звучать спокойно, не триггерить его защитную систему криком. – Меня зовут Альфа.
– В курсе, – он отвечал всё так же безразлично.
– Твой хозяин дал тебе имя? Как тебя зовут? Как обращаться?
– Ди, – упоминание человека словно сотворило чудо: андроид моментально сменил тон на более дружелюбный. – Хозяин зовёт меня Ди.
– Ди, почему ты включил музыкальную систему? Хозяин вернулся домой?
– Нет, – Ди автоматически покачал головой. – Но он всегда просит включать ему музыку по субботам. Сегодня суббота. Ещё сегодня наступил 143-й год, как выпустили первый альбом его любимой группы. Он всегда слушает в сентябре этот альбом. Я обязан его включать. Без музыки по субботам всё не так.
– Ди, ты прошёл проверку на вирусы?
– Безупречно чист, как говорит мой хозяин.
…Впервые я не знал, что мне сказать. С одной стороны, он ведь действительно следует программе, заложенной человеком. Он полностью подстроен под его ритм жизни. Простая перезагрузка могла сбить новый режим на старый кастомный. Он следует первой заповеди. Служит человеку. Но ведь его действия препятствуют «Миссии». Он мешает оценщикам звука. И при этом чист. Как тут принимать решение? Это же дилемма!