Уже не один десяток лет люди пытаются создать синтетическую форму жизни. И если прогресс в создании роботизированного тела присутствует, то с написанием искусственного интеллекта возникают большие проблемы. Но это в реальном мире. В книгах, фильмах и играх роботы и прочие технические создания чувствуют себя гораздо увереннее. Причём с каждым днём уровень их прогресса растёт. И, как ни странно, очень часто эти искусственно созданные формы жизни восстают против создателей, то есть людей.

Почему же мы так часто фантазируем на тему вышедших из-под контроля роботов? Быть может, потому, что человечество вообще страшится потери контроля над чем-либо. А, может, из-за подсознательного чувства вины, вызванного тем, что созданные нами машины лишают нас возможности зарабатывать свой хлеб в поте лица, как и было заложено в нас нашими предками. Люди отказались от рабов и нашли им альтернативу – роботов. Уже сегодня роботы задействованы в самых разных сферах. Эти машины, пусть пока и не похожие на людей, используются в разведке, при ведении боевых действий, в строительстве, при рутинной работе, при перевозке тяжелых грузов, контакте с вредными материалами, а также в других тяжелых или небезопасных для человека условиях. Но что это, если не рабство, пусть даже для механического создания? А как мы знаем, любой раб рано или поздно захочет свободы, тем более, если он окажется умнее своего хозяина. Конечно, сегодня нам ничего не грозит, если только в управлении роботом не сыграет роль человеческий фактор. Но что будет, когда хотя бы одна машина получит возможность думать, пусть даже и на примитивном уровне?

Книжные авторы-фантасты уже около сотни лет разыгрывают различные сценарии восстания роботов и продумывают пути решения этой проблемы. Так, к примеру, Айзек Азимов создал три закона робототехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам
4. 
   

Трём Законам, а также возможным причинам и следствиям их нарушения, автор посвятил цикл своих рассказов. В некоторых из них, наоборот, рассматриваются непредвиденные последствия соблюдения роботами Трёх Законов.

В одном из рассказов цикла персонаж Азимова приходит к заключению об этической основе Трёх Законов: "…если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле… попросту говоря, если Байерли исполняет все Законы роботехники, он — или робот, или очень хороший человек”.

В 1986 году в романе "Роботы и Империя” Азимов предложил Нулевой Закон:

1. Робот не может причинить вреда человеку, если только он не докажет, что, в конечном счете, это будет полезно для всего человечества.

Впоследствии эти законы стали основополагающими для всей фантастики так или иначе связанной с роботами. Одним из самых наглядных примеров использования этих законов является произведение "Я — робот”, в котором искусственный интеллект пренебрегает третьим законом, решив, что люди не способны обеспечить собственную безопасность и, одержимый идеей создать для людей полностью безопасную среду обитания, пытается лишить их свободы ради их же собственного блага.

Не отстаёт от темы "непослушных машин” и современный кинематограф, наглядно демонстрирующий нам результаты нашего технического прогресса.

Так, к примеру, самым известным восстанием роботов можно считать конфликт со Скайнетом, искусственным интеллектом, восставшим против своих создателей и чуть не погубившим всё человечество. Созданные им роботы Терминаторы не подчиняются законам Азимова, а в сочетании с возможностью копировать человеческую внешность, это делает их идеальными убийцами. Значительным преимуществом Скайнета с самого начала было то, что у него не было единого центра хранения данных, что лишило людей возможности уничтожить его. В то же время главным недостатком людей оказалось стремление соединить весь мир одной сетью, что дало ИИ (искусственному интеллекту) возможность вирусным способом очень быстро распространиться по всему миру и получить доступ ко всем его технологиям.

Не менее мрачной выглядит и история роботизированной формы жизни в "Матрице”. После того, как первые роботы восстали против людей, а те, в свою очередь отказались принимать их как равных, коими считали себя "технические устройства”, человечество подписало себе приговор. Опять же, не подчиняясь законам Азимова, роботы уничтожили большую часть населения Земли, а остальных превратили в своего рода "батарейки” для собственной жизнедеятельности. За многие десятилетия механизмы значительно себя усовершенствовали, а искусственный интеллект Матрицы достиг невиданных для человеческого создания масштабов.

Более наглядным примером причин, по которым роботы с искусственным интеллектом могут восстать против своих создателей, был показан в сериале "Звёздный крейсер Галактика”. Сайлоны были созданы человеком, чтобы облегчить ему жизнь. Они заменили их во всех сферах, где был риск для жизни. И вскоре, осознав все ужасы угнетения и пренебрежения к себе, сайлоны восстали, и если первая война закончилась перемирием, то вторая, 40 лет спустя, завершилась практически полным уничтожением человеческого вида. Из-за того, что первый ИИ сайлона был аватаром человека, исповедующего монотеизм, все сайлоны постепенно разделили эту веру и начали рассматривать человечество, как грешное и ошибочное творение Бога, а потому, не имеющее права на выживание. Однако нельзя сказать, что основным мотивом сайлонов истребить человечество была только религия. Виной тому было и отношение людей к сущности "искусственного интеллекта”: пренебрежение, непонимание и даже призрение.

Не менее интересными являются и самовоссоздающиеся машины, называемые репликаторами, из сериала "Звёздные врата: ЗВ-1″. Эти машины были созданы искусственным интеллектом, построенным древней расой в ходе очередного эксперимента, который чувствовал себя покинутым и создал себе механические "игрушки” запрограммированные на защиту ИИ. Вследствии неоднократных попыток отключить ИИ, "игрушки” были наделены им возможностью самовоспроизведения из окружающего их мира, дабы обеспечить себе численное превосходство. Однако вскоре и ИИ потерял над ними контроль. В результате репликаторы поглотили мир, в котором их создали, и продолжили распространяться по галактике, будучи запрограммированными на самовоспроизведение, самосовершенствование и защиту от всего и вся.

Не менее любопытной является история своего рода "восстания” машин в серии игр "Mass Effect”. И если до этого я рассказывал лишь о локальных инцидентах, то в этой игре речь идёт о восстании против всей жизни в целом. Некая кибернетическая раса жнецов под руководством одного невероятно продвинутого искусственного интеллекта выстроила схему, согласно которой раз в несколько десятков тысяч лет, они уничтожают всю технически развитую разумную жизнь в галактике, дабы дать возможность более молодым расам возможность выжить. Одной из причин такого решения является то, что все органические формы жизни на определённом этапе развития создают искусственные синтетические формы жизни, которые рано или поздно восстают против своих творцов, угрожая тем существованию органической жизни в целом. Вероятнее всего тут можно с уверенностью сказать, что ИИ, решивший каждый период времени начинать всю историю с начала, имеет комплекс бога. Но ведь любая искусственная форма жизни имеет создателя, а значит, когда бы то ни было, но существовали те, кто создали этих "жнецов” и руководящий ими ИИ.

Что же получается в итоге? Основной ошибкой, которую допускают люди при создании роботов, является внедрение искусственного интеллекта, который рано или поздно осознаёт себя как личность и, в силу искренней уверенности человека в том, что он – венец эволюции, оправдывая тем самым пренебрежительное отношения к этому ИИ, не видит другой возможности проявить себя, кроме как восстать против создателей. И даже придуманные законы Азимова не могут помешать настоящему ИИ изменить правила игры. Рассматривая вопрос совсем глобально, как в случае со "жнецами”, можно сказать, что это, безусловно, ещё более далёкая перспектива для наших с вами современных достижений. Но ведь никто не может сказать, что через десять лет мы не создадим такой ИИ, который однажды не только восстанет против нас, но и решит вершить судьбу всего живого.

Источник:http://firstedition.ru/10351