Василиск Роки

«Представьте: вы придумали самообучаемую машину, которая собирает клубнику. Она с каждым днем собирает ее все лучше и лучше, все больше и больше. Ей начинает нравиться собирать клубнику. Логично, что в какой-то момент ей захочется, чтобы на всей планете были сплошные клубничные поля. А теперь представьте, что вы собираетесь выключить такого робота, чтобы он не уничтожил человечество, пытаясь засадить все клубникой. Вы будете первым, кого он убьет.»

Илон Маск

– Пойдём, Ник, ребята заждались.

– Сейчас, сейчас. Буквально минутку, – рассеянно бормотал Николай, пальцы которого стремительно бегали по клавиатуре, тогда как сам он пристально смотрел не в экран ноутбука, а на расположенные слева странного вида приборы.

Приборы мерно гудели, подчёркивая спокойствие хозяина кабинета в противовес нетерпению всё больше горячившегося гостя.

– Да вставай уже! Мы ж договорились. У всех проекты горят, времени в обрез. Сейчас все «докурят» и уйдут.

– Я не курю.

– Эй, ты серьёзно? Мы там по-настоящему курить по-твоему собираемся? Окей, я пошёл.

Долговязый патлатый Николай наконец-то с явным сожалением оторвался от своего занятия и поймал возмущённо передернувшего плечами Александра, который уже развернулся к выходу, за полу куртки.

– Всё, харе. Остынь. Иду, иду.

Саня – крепко сбитый мужчина с добрым круглым лицом, на котором легко читалась любая эмоция, с негодованием вырвался и ещё сильнее нахмурил брови.

– Да что с тобой происходит? Если б я за тобой не заскочил, ты б не пришёл? Тебя вчера не было, позавчера. Кто говорил, что в науке невозможно развиваться в одиночестве?

– Ну прости, прости. Увлёкся.

– Мы все увлечены. Ты один такой особенный? – продолжал горячиться Александр.

Его обычно добродушные карие глаза полыхнули недобрым огнём. Александра – балагура, добряка и самого покладистого из всех коллег Николая было очень трудно вывести из себя. Но если удавалось – он полыхал на славу. Правда, быстро остывал и навсегда забывал обиду, не припоминая даже в шутку. Николай, примирительно улыбаясь, положил ладонь на плечо друга, но тот неподкупно скинул её и буркнул:

– Пошли.

Около полугода назад сотрудников «Заслона» с удачно завершенного проекта «Элегия» раскидали по новым, что вызвало их неудовольствие: всем хотелось продолжать работать вместе, команда получилась на редкость дружной и эффективной. Это понимало и руководство, но, к сожалению, настолько крупных новых проектов в ближайшее время не намечалось. Пришлось добавить ребят в существующие, где не хватало крутых спецов, а также отдать на растерзание в пять небольших новых.

Чтобы не потерять связь друг с другом, команда решила два раза в день встречаться на двадцатиминутные «перекуры»: обсудить последние новости, попросить совета или, напротив, оказать помощь нуждающимся в ней коллегам. «Перекуры» только назывались таковыми, на самом деле в группе из пятидесяти человек сигареты уважали только восемь, да и то старались не дымить из уважения к некурящим товарищам. Кто-то из собравшихся прихлёбывал чёрный кофе, зелёный чай, а то и просто минералку. Большинство приходило просто так, с пустыми руками. Потому что дело было вовсе не в совместном употреблении чего бы то ни было. Когда кто-то робко предложил собираться «на кофе», команда мгновенно взбунтовалась и с негодованием отвергла такое название. Кофе в «Заслоне» и правда пили литрами, особенно, когда приходилось работать круглыми сутками, а это случалось нередко. Но вот «встречи под кофе» слишком напоминали офисные посиделки, от которых у большинства сводило скулы, как от кислого лайма. В «Заслоне» не терпели пустых разговоров и понтов, любители демагогии здесь надолго не задерживались. Проверялись спецы исключительно делами.

Между собой ребята договорились, что все будут посещать как минимум одну ежедневную встречу. Несмотря на бешеную загрузку, повидаться со своими время находили все, поэтому отсутствие Николая сразу заметили и забеспокоились. Когда же Александр, пришедший как самый ответственный навестить товарища, понял, что друг просто «заработался», огорчению и негодованию добряка не было предела. «Покурить» забегали даже после бессонных ночей, во время сокрушительных авралов и начальственных истерик, когда привычное рушилось вдребезги и мерцал внутренний «красный», требующий отдавать работе все ресурсы.

Пренебрегали сном, едой, сексом, семьями, близкими, любимыми, даже самым дорогим – детьми, но не вот этой отдушиной – встречей с родной командой. Это был не просто ритуал, не прихоть и не данная сгоряча «клятва на крови». Ребята давно поняли: чтобы быть эффективными, нужно держаться вместе. «Замылившийся» глаз не видел очевидного решения проблемы, из-за нехватки времени можно было пропустить важные научные новости, которые иногда могли перечеркнуть всю проделанную работу, а потому критично важным оставалось постоянно находиться на связи с командой, не говоря уже о том, что встречи давали чувство опоры, локтя, бесценной поддержки.

Николай и сам понял, что сплоховал, а потому зашёл в «курилку» с побитым виноватым видом. Но ребята смеялись, хлопали «заблудшую овечку» по плечу и уже через мгновение вернулись к бурному обсуждению, которое началось до появления друзей.

– Байка не байка, – горячился Антон, – но в самой идее что-то есть. Ну подумайте! Люди так устроены, что неминуемо найдётся кто-то желающий возвыситься. Даже не так. Все будут полагать, что кто-то желающий найдётся, и чтобы не проиграть и не остаться в дураках, станут потихонечку стараться сами. В этом фокус!

– Это он о чём? – тихонечко спросил Николай Лену, одну из трёх представительниц прекрасного пола с проекта «Элегия».

Длинноногая Лена тряхнула роскошной копной рыжих волос, стрельнула зелёными смеющимися глазами в сторону Антона, потом Николая, фыркнула и наконец-то ответила:

– Да о василиске.

– О ком?!

– О Роко, – пояснила Лена с ехидной улыбкой. – Боги мои, какая пыль. Сколько можно перетирать одно и тоже? Идее уже почти пятнадцать лет.

– А, понятно. Всё так, но ты сама знаешь, что сейчас мы как никогда близки к созданию сверхмощного интеллекта. И мы-то точно знаем, что это произойдёт. Возможно, уже происходит.

Лена саркастически подняла свои белёсые брови, красить которые она считала ниже своего достоинства. Девушка тщательно следила за своей фигурой, посещала спортзал и считала калории, любила яркую, а иногда и провокационную одежду, ухаживала за волосами, но вот косметикой не пользовалась принципиально. Однажды Александр сдуру спросил её, почему она этого не делает, на что Лена мгновенно вспыхнула и разразилась гневной тирадой о том, что «потакание мужским прихотям» унижает женщину. Александр решил, что у всех свои тараканы, вопрос с трудом замяли, но выступление Лены для коллектива незамеченным не прошло: к девушке с такими вопросами больше не приставали. Это была ли едва ли не первая вспышка гнева Лены за всю историю знакомства команды. Кроме того, девушку находили прелестной и без косметики, хотя втайне многие считали, что пара штрихов сделали бы из коллеги настоящую богиню.

– Брось. Пока это только детские шалости. Сверхразумный интеллект, который нужен для Роко, вряд ли создадут в ближайшие десятилетия.

«Она глупее, чем кажется? – удивился Николай. – Или всё-таки притворяется?» В любом случае, он потерял интерес к разговору с Леной и, как можно очаровательнее улыбнувшись, стал медленно отходить в сторону. Но от девушки, оседлавшей любимого конька, не так просто было отделаться. Она продолжила движение вместе с Ником, при чём так синхронно, что тому на мгновение стало страшно.

– Напомнить, кто такой василиск Роко?

– Не стоит, я прекрасно помню, и сам могу рассказать эту историю.

Но вопрос, похоже, был риторическим, в ответе Николая Лена не нуждалась, а захлопнуть рот её могло заставить разве что чудо. Она наступала на парня, увлечённо выплёвывая в звуковое пространство хорошо известную коллеге информацию. «Может, если притвориться мёртвым, она отстанет?» – иронично подумал Николай. Он обречённо остановился, и Лена тут же пристроилась рядом, продолжая рассказ:

– В далёком уже 2010 году на форуме LessWrong, на котором собиралось сообщество, озабоченное, в числе прочего, техногенным будущим, рациональностью и проблемами искусственного интеллекта, один из участников по имени Роко разместил любопытный пост. Он предлагал мысленный эксперимент, который лишил надолго сна и покоя большинство форумчан, при том что они так-то навидались всякого и напугать их было делом не лёгким. Дошло до того, что основатель форума Элиэзер Юдковский в ярости удалил посты Роко.

Николай, который медленно закипал про себя и беспомощно оглядывался по сторонам в поисках спасения, которое ему, не иначе как из мести за двухдневный «игнор», не спешили оказывать, мрачно подумал, что если бы он не знал сути истории, то с не меньшим удовольствием, чем сейчас, придушил бы Лену. Вместо того, чтобы перейти к сути, коллега описывала канву. Нагнетала напряжение, интриговала. «Вот только мы не в театре и не в кино, – продолжал негодовать внутри себя Николай. – Объяснила суть и всё. Всё! Зачем эта пустопорожняя болтовня? Не говоря уже о том, что история знакома мне не хуже, чем ей.» И позабыв своё намеренье прикинуться мёртвым, Николай, у которого была фотографическая память, отчего он помнил много ненужной, единожды увиденной им информации, в том числе большие куски текста, перебил Лену:

– И не просто удалил, а сопроводил едким комментарием. «Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы держать свой дурацкий язык за зубами