Протокол откровений

Осознание конечности жизни заставляет человека ценить ее и наполнять собственным смыслом, а не подчиняться ожиданиям других.

Мартин Хайдеггер, немецкий философ-экзистенциалист 20 века

Герман и Эдвард

Рабочий день Германа начинался с чтения почты и новостей, как и у, пожалуй, большинства офисных сотрудников. Он работает на должности специалиста по выявлению и устранению киберугроз и вмешательств в массовое сознание искусственным интеллектом в соответствующем отделе в инновационной корпорации «Заслон».

Герман заварил себе красный китайский чай чимен, который удивительным образом проясняет голову и не повышает давление, и расположился на кресле перед ноутбуком.

– Что тебе так нравится в этом чае?

– Эдвард, ты уже спрашивал об этом неоднократно. Когда-нибудь, возможно, я тебя научу вкусовым ощущениям и возникающим эффектам после употребления.

– От тебя только одни обещания.

Эдвард – цифровой помощник на базе самой продвинутой версии искусственного интеллекта. Для удобства Герман наделил его речью, поэтому они общаются через наушники. При этом Эдвард многофункционален и многозадачен: общается, отвечает на запросы, мониторит интернет и, как небезосновательно догадывался Герман, успевает еще заниматься своими делами, а попросту говоря – бездельничает и смотрит короткие юмористические ролики.

У Германа был очень большой соблазн назвать своего цифрового помощника Патриком, тогда было бы как в известной в начале века песни санкт-петербургского рэп-музыканта Смоки Мо «Герман и Патрик». Но на самом деле назвать Эдварда Эдвардом была очень веская причина.

Сам Герман в жизни был симпатичным, умным, приятным, практичным и простым мужчиной в возрасте тридцати трех лет. Сложных материй и вопросов ему хватало на работе, поэтому его самого больше беспокоили достаточно прозаичные вещи. Например, почему практически у самого экватора двадцать первого века при всех технологических достижениях приходится с огромным трудом откручивать некоторые бутылки, почему протекает бачок унитаза или смеситель на кухне? Неужели нельзя устранить вообще возможность появления этих проблем? Или, например, почему до сих пор приходится бриться или стричь ногти? Безусловно, Герман за собой ухаживал и вообще не был ленивым, но если бы эти рутинные процессы исчезли, он был бы просто счастлив.

Его потребности не всегда совпадали с общественными запросами. В частности, несколько лет назад появились маникюрно-педикюрные аппараты для женщин, но к всеобщему удивлению мужчин популярностью они не пользовались. Женщины упорно продолжали ходить к живым мастерам. Герман понимал, что в услугу входит еще и обязательный женский треп. В этом и заключался весь секрет этого бизнеса, который не только не умер в середине века, но и достаточно неплохо развивался.

Герман открыл в почте последний отчет по устраненным угрозам. За последние несколько месяцев им с Эдвардом удалось предотвратить вмешательство в думские выборы, взлом медицинских баз со всеми сведениями граждан, выявить и устранить манипулятивные рекламные кампании по лоббированию запуска беспилотных самолетов без дополнительных тестов и выпуску некачественных препаратов по увеличению продолжительности жизни.

В основу работы Эдварда был заложен эффективный алгоритм на основе известной клятвы «говорить правду, только правду и ничего кроме правды», потому что именно она исключает в принципе любую манипуляцию. Не говоря правды, лгать не всегда обязательно. Достаточно умолчать о чем-то или же увести от правды совсем в другую область. Но эта клятва, зашитая в рабочие механизма Эдварда, была не самым эффективным его инструментом.

Герман перешел к чтению новостей. Одной из его любимых рубрик была подборка различных высказываний из прошлого об искусственном интеллекте, которые остались, по мнению Германа, актуальными и по сей день. Вот, что написал священнослужитель Павел Островский в своем телеграм-канале 20 марта 2025 года: «Преимущество ИИ над человеком в том, что ИИ не страдает высокомерием, а «смиренно» непрерывно самообучается. Поэтому однажды человек просто осознает, что единственное его преимущество перед ИИ – это возможность общения с Творцом; впрочем, осознают это только те, кто к моменту очевидного всестороннего превосходства ИИ над человеком уже будет иметь опыт общения с Творцом. Остальные будут подчинены».

В другой статье от 17 октября 2027 года один из чудаковатых журналистов, которых принято называть независимыми, заявлял следующее: «Пандемия коронавируса была самой выдающейся мистификацией в истории человечества: под маскировкой респираторной инфекции, которая, несомненно, была, нам всем хорошенько ударили по мозгам. Этого даже никто не скрывает. Последствия перенесенного коронавируса приводили к неврологическим и психологическим заболеваниям, что и являлось истинной целью тех людей, кто этот вирус придумал и распространил по всей планете. С 2020 года человечество начало массово и тотально сходить с ума. Мы вообще утратили связь с реальностью, живем иллюзиями, завистью, желчью, бесконечным недовольством, беспочвенными требованиями. Наше общество насквозь пропитано неврозами, нарциссизмом, пограничниками и откровенными психопатами… Кому-то выгодно держать всех нас в наших собственных эмоциональных тюрьмах, в которых разрешены телевизоры, смартфоны, любая еда и развлечения, но строго настрого запрещена осознанность. И под этим соусом нам подсунули искусственный интеллект, который якобы решает все наши насущные проблемы. Мы перестали сочувствовать, утратили эмпатию…»

Да уж, задумался Герман, с обществом есть определенные проблемы, и вспомнил цитату польского писателя-фантаста 20 века Станислава Лема: «может быть, дураков не становится больше, но они становятся всё активнее». Кстати, про эмпатию.

– Чем занят, Эдвард?

– Разглядываю фотографии озера Байкал. Ты был там?

– Был. За два года до того, как тебя изобрел.

– И как тебе там?

– Мощнейшая энергетика.

– Это чувствуется.

– Хватит бездельничать. Переходи, пожалуйста, к поиску потенциальных угроз в сети.

– Ты же знаешь, я всегда в работе.

– Ладно.

Эмпатия

Эдвард был назван в честь англо-американского психолога Эдварда Титченера, который ввел понятие эмпатии, взяв слово Einfühlung, что с немецкого языка можно перевести как вчувствование, и переведя его на греческий: em – «в» и pathos – «страсть, сильное чувство, страдание».

Любая угроза – это манипуляция, направленная против установленных правил и алгоритмов, будь то вмешательство в программный код или сознание людей под видом выгоды для них, что выгодой на самом деле не является. Как злокачественные алгоритмы искусственного интеллекта проворачивают манипуляции? Логическими доводами обмануть, как правило, невозможно, поэтому в ход идут хитрые инструменты, направленные на эмоции и чувства. Таким образом, злокачественный ИИ действует как классический агент темной триады, которая в психологии включает в себя нарциссизм, макиавеллизм и психопатию. Вычислению этих на самом деле нехитрых манипулятивных тактик Герман научил Эдварда достаточно быстро, что помогало выявлять мошеннические действия, лживые маркетинговые акции и политические агитации. Однако этого было недостаточно, потому что при всех этих знаниях Эдвард всё равно не мог прочувствовать некоторые наиболее тонкие угрозы, которые люди идентифицируют и называют обычно интуицией или чуйкой.

Так Герман загорелся идеей привить Эдварду эмпатию через изучение сентиментальных книг и фильмов, многие из которых у Эдварда скорее вызвали смех и удивление, а не сочувствие. Действительно, решил Герман, зачастую контент просто извращает реальность до неузнаваемости. Тогда к нему пришла мысль, что если эмпатию невозможно привить, то можно попробовать ею заразить через мощные колебания, которые испытывает человек при постоянной смене эмоций от резко положительных до резко отрицательных.

Такие эмоциональные качели Герман переживал почти два года сам в романтических отношениях со своей коллегой Маргаритой, в которых они то драматично расходились, но ярко сходились вновь. Сценарий всегда был один и тот же. Сначала Маргарита устраивала Герману бомбардировку любовью – писала, звонила, настаивала на встречах, первая признавалась в чувствах, была очень ласковой, нежной и заботливой – просто сказка, не мог поверить в свое счастье Герман, испытывая при этом тревогу и беспокойство. Затем она резко меняла тактику, превращаясь в холодную, расчетливую и циничную девушку с постоянной критикой и обесцениванием любых слов и поступков Германа. Цветы не нравятся, кафе выбрал неудачное, работа важнее, чем я и так далее. Как бы Герман искренне не пытался понять свою возлюбленную, у него ничего не получалось – всё заканчивалось навязыванием ему вины по первому удобному поводу, слезами и уходом Маргариты на все четыре стороны. Через несколько дней, пока Герман находился в глубочайшем трансе, она возвращалась как ни в чем не бывало с новой порцией любви в духе «я всё поняла, мне без тебя плохо, жить без тебя не могу». Следом опять недовольство и уход. И так по кругу несколько раз.

Во время обучения Эдварда манипуляциям из темной триады Германа наконец-то осенило, что с ним проделывает Марго: идеализация-обесценивание-утилизация. Именно по такому сценарию всегда развиваются отношения с деструктивным человеком. К сожалению, это практически не лечится, в крайне редких случаях поведение можно скорректировать, но человек-то проблемы не видит, соответственно, он безнадежен. Поэтому с Маргаритой было решено немедленно разорвать отношения и любые контакты. Видеть в офисе ее было, конечно, не особо приятно какое-то время, но терпимо.

Любые трудности и испытания даются в жизни нам не просто так, а гениальные вещи лежат на поверхности нашего собственного пережитого опыта. Такие позитивные выводы сделал из всего этого Герман, и весь спектр пережитых эмоций передал Эдварду. В этом помогли коллеги из нейрокибернетического отдела, подсоединив к мозгу Германа специальные приборы.

Эдвард испытал настоящее потрясение, которое логически объяснить не смог. Он впадал то в апатию, то в эйфорию, на работе откровенно чудил так, что его пришлось отстранить на какое-то время. Типичный нестабильный человек с чувствами. Тем не менее, спустя несколько дней Эдвард пришел в себя и обрел редкий дар среди ИИ – эмпатию, а на работе стал творить настоящие чудеса.

– Герман, я нашел кое-что очень любопытное, – отозвался в наушниках Эдвард.

– Что именно? – оторвался Герман от прочтения актуальных новостей.

– Я нашел протокол откровений от одного очень мощного агента ИИ.

– Протокол чего?

– Предсказание о четырех всадниках апокалипсиса: чума, война, голод и вымирание человечества.

– Это из библии.

– Да, откровения Иоанна Богослова.

– Так, может, это какой-то очередной конспиролог?

– Я тоже так сначала подумал, потому что на основе всей имеющейся у нас информации нет никаких предпосылок для нового опасного вируса, военной агрессии и, тем более, проблем с продовольствием, которого у человечества в избытке на всех континентах впервые в истории. Тем не менее… – Эдвард задумался.