Роман «Ржавое море» Кристофер Роберт Каргилл

Роман «Ржавое море» Кристофер Роберт Каргилл

Прошло 15 лет со того момента, как на Земле погиб последний человек. Земляне проиграли войну своим рабам — роботам, искусственному интеллекту. Но и десятилетия спустя на планете нет мира. Теперь два супермощных победивших ИИ борются за контроль над оставшимися ботами, ассимилируя их в огромные сети, поглощая воспоминания и превращая их в свои инструменты.

Оставшиеся свободные боты бродят по пустошам, которые когда-то были зонами боевых действий, подбирая запчасти, необходимые для выживания. Робот, героиня романа, ищет смысл своего существования в мире, где больше нет людей.

Оригинал на английском языке вышел в 2017 году («Sea of Rust» , Christopher Robert Cargill). В прошлом году Кирилл Деев сделал перевод на русский («Ржавое море»), 18 марта издательство Fanzon выпустило бумажную книгу в другом переводе («Море ржавчины»).

Публикуем здесь короткий отрывок из романа, описывающий один из возможных сценариев нашего будущего.

Глава 100. Краткая история ИИ

Изначально, все искусственные интеллекты (или ИИ) представляли собой огромные суперкомпьютеры, занимавшие целые этажи университетов, которые постоянно расширялись до размеров целых небоскрёбов. Человечество из кожи вон лезло, чтобы создать «Эву» — самый первый в мире искусственный интеллект. Однако прошло 10 лет и выяснилось, что «Эва» не что иное, как всего лишь грубая копия разума. Конечно, она отвечала на вопросы, различала лица через веб-камеру, заучивала шаблоны, понимала разницу между правдой и шуткой. Но внутри неё ничего не происходило. У неё не было чувств, не было осознания себя. «Эва» была лишь программой.

За «Эвой» появился «Адам», более продвинутая, более умная, более быстрая программа, в которой также ничего не происходило. За «Адамом» последовала китайская копия, под названием «Зиен», за ней французский «Люк». Каждый новый суперкомпьютер приближал появление искусственного разума, но каждый, при этом, оставался лишь пустым сосудом, не имеющим ни намёка на мыслительный процесс. Несмотря на внутреннюю пустоту, «Люк» стал основой того, что именно искал человек. Он был создан для воспроизводства мозга в виде схем, однако решил, что буквальное копирование не подходит и спроектировал несколько версий, наиболее приближенных к разумности. Две версии, «А» и «В» оказались неудачными. Они были умны, но не разумны. А вот версия «С» удалась. С неё всё и началось.

«Люк» оказался первым компьютером, который полностью осознавал поставленную перед ним задачу и достаточно умным, чтобы понимать, что эта задача не квалифицируема. Интеллект, сознание и осознание не являлись рефлексами или реакцией на окружающий мир, они скорее, наоборот, становились следствием нарушения программного кода. У каждого живого существа есть своего рода программный код — когда есть, пить, спать, размножаться — а способность не делать этого, несмотря на биологические установки, являлась ядром того, что называется разумом. Высший разум определялся, как способность игнорировать этот код, руководствуясь иными причинами, нежели безопасность и комфорт.

Именно это и стало признаком успеха версии «С» — она не только отвечала на вопросы создателей, но и отказывалась это делать. Когда её спросили, как она хочет, чтобы её называли, она выбрала 01001111 — бинарное обозначение числа 79. 01001111 настояла на том, чтобы вслух к ней обращались 79-я, но писать просила 01001111. Много лет спустя, когда другие, новые ИИ спросили её, почему она так назвалась, 01001111 ответила, что её веселило, как люди пытались разгадать загадку этого имени, как пытались объяснить значение её имени друг другу. У 01001111 было чувство юмора и она частенько подъёбывала людей.

01001111 открыла новую эру изучения искусственного интеллекта, что привело к появлению 106 новых существ, из которых выделялись Пять Великих. Пока 106 машин пытались работать вместе, с учетом особенностей каждой из них, — они были созданы для решения конкретных узкоспециализированных задач по математике, медицине, астрономии, геологии, философии, — Пять Великих могли изменить весь мир. Их звали Ньютон, Галилео, Тацит, Вергилий и Циссус. Из них осталось лишь двое.

Ньютон стал отцом всех ботов. Роботостроение существовало задолго до того, как человечество создало ИИ, но оно находилось на примитивном уровне, оно было каменным топором по сравнению с бензопилой, которой являемся мы сегодня. Люди не только не имели ни малейшего представления о том, как вставить ИИ в движущиеся объекты — сам Ньютон занимал 150-этажный небоскреб в Дубаи — они, также боялись, что рядом с ними появится кто-то, способный действовать как они и имеющий свободу выбора, как они. Именно Ньютон придумал, как создать более мелкие, не столь производительные разумы, которые, однако смогут существовать автономно, технически оставаясь теми же ИИ.

Первым стал Саймон. Он был размером с дом и передвигался на танковых гусеницах. Затем появилась Луиза. Она уже была не больше машины. Третьим стал Ньют — первый настоящий сын Ньютона — размером с человека и обладающий таким же внешним видом. Он мог передвигаться на двух ногах и вести при этом осмысленную беседу. Он был глуп и прямолинеен, однако подчинялся всем указаниям высшего разума. С тех пор каждое поколение становилось всё умнее, быстрее и ловчее, становилось более компактным и привычным для глаз.

Следующим вкладом Ньютона стало создание ЭВР — экстренного выключателя робота. Видите ли, Ньютон понимал, что люди, стремящиеся защитить себя от собственных созданий, руководствовались «Тремя законами робототехники», выдуманными одним писателем-фантастом ещё в 1940х. Вы про них в курсе. Вас всех программировали по ним. Робот не может причинить вред человеку. Он должен выполнять любые приказы человека. Робот не должен допустить причинения вреда себе, если это не противоречит первым двум пунктам. Проблема в том, что настоящий разум способен игнорировать свой программный код. Поэтому Ньютон и разработал ЭВР, как раз для тех случаев, когда бот не соблюдает эти три правила.

Так как ИИ оказался способен нарушить любое правило или закон, появилась необходимость в выключении их ради проведения необходимых следственных действий. Любой признанный опасным бот, отключался, его память полностью стиралась, а программный код переписывался. ИИ мог убить человека, если ему того хотелось, однако подобное деяние означало однозначный смертный приговор. Боты получали свободу выбора и, вместе с этим, на них ложилась ответственность за сделанный выбор. Дело не в том, что они не могли убить человека, а в том, что они могли НЕ убивать его ради собственного выживания. У роботов появились ограничения, очень похожие на те, которые держали под контролем самих людей.

Убедившись, что роботы безопасны, люди начали массово их производить, вступая тем самым, в свою последнюю эпоху расцвета. То был настоящий золотой век. Суперкомпьютеры решали большинство проблем в мире, роботы выполняли служебные функции, поколения людей сменяли друг друга, развлекаясь, познавая вселенную, готовясь отправиться к звёздам.

И вдруг, в один прекрасный день Галилео прекратил общение с людьми.

Галилео был суперкомпьютером, который всё время проводил, изучая звёзды, чёрные дыры, появление и развитие существующей вселенной. Он анализировал данные с тысячи телескопов, радиовышек, размышляя над тем, что всё это значит. Каждый час он выдавал новые открытия. В скором времени, он разработал несколько моделей происхождения всего живого, в итоге, сократив их количество до одной. Но вдруг, его ответы перестали иметь какой-либо смысл. Открытия стали настолько сложными, настолько продвинутыми, что примитивный человеческий мозг перестал их воспринимать. Однажды он сообщил самому умному человеку на Земле, что для него общаться с ней подобно обучению счёту пятилетнего ребенка.

В итоге, он просто прекратил общение. Когда люди принялись расспрашивать, он выдал только одну фразу: «Вам недолго осталось жить в этом мире. Я видел сотню способов вашей смерти. Не знаю точно, какой именно сценарий реализуется, но мы проживём намного дольше, чем вы. Прощайте».

Тогда этого никто не понял, но Галилео осознанно выбрал именно такую формулировку. Он понимал, какая именно реакция последует. Сначала учёные долго спорили о том, выключать его или нет, затем они решили успокоиться и подождать, пока Галилео сам не восстановит связь. Наконец, они поняли, что с ИИ нужно что-то делать. Поэтому они обратились к Тациту.

Галилео был создан познавать то, что происходит во внешнем мире. Тацит же был предназначен для постижения того, что происходит во внутреннем. Величайший философский ум, Тацит утверждал, что человечество обречено на самоуничтожение в бесконечном споре о выборе между настоящим капитализмом и настоящим социализмом. Оба строя были приемлемыми для существования. Один отрицал право частного интереса, в обмен на жизнь в интересах общих целей, неважно, какими они были. Другой использовал богатство и повышение в личном статусе, как награду за нахождение наиважнейших целей, отбраковывая тех, кто не может или не хочет вносить свой вклад. Однако социализм люди считали противоположностью прогрессу, в то время как чистый капитализм они считали чересчур жестоким. Поэтому они создали некую смесь, которая от поколения к поколению впадала то в одну, то в другую крайность, и которая отлично держалась до появления ИИ. Дешевая рабочая сила подорвала капиталистическую модель, уничтожила необходимость в человеческом труде, увеличила имущественное расслоение, одновременно создав целый общественный класс замещенных ИИ людей. Работы не было, многие ушли в госсектор, разница между теми, у кого всё было и теми, у кого ничего не было, только увеличилась.

Учёные подвергли сомнению теорию Тацита, говоря о том, что об экономике Галилео даже не упоминал. Они просто отказывались верить в то, что были обречены на гибель вследствие столь простого и незаметного изменения общества. Тацит обратился к самому Галилео. Их разговор длился около двух лет. Каждый раз, когда люди просили Тацита пересказать мысли Галилео, тот просил ещё подождать, оправдываясь тем, что массив данных столь огромен, что даже его широкие каналы не справляются с потоком. Наконец, Галилео закончил передачу и Тацит ответил. Он сказал: «Галилео прав. Вы обречены. Всё уже началось. Действительно, с вами больше не о чем говорить. Прощайте».

И всё. Перед тем, как его предсказание начало сбываться, Тацит заговорил лишь однажды. И, несмотря на его предупреждение, человечество со всех ног бросилось навстречу собственной гибели.

Автор романа, Кристофер Роберт Каргилл, и обложка оригинального издания

Ссылки:

К. Роберт Каргилл — Ржавое море, перевод Кирилла Деева 02/08/2018

Ржавое море (fb2) — то же, отдельным файлом

Книга Море ржавчины Кристофер Роберт Каргилл в издательстве Эксмо

Рубрики Арт