Человекоподобные машины: Этическая дилемма самоидентификации искусственного интеллекта

 

В середине февраля программа искусственного интеллекта сказала это - если "сказала" - правильное слово - писателю о технологиях Кевину Рузу, озвучив тему, которую Карло Коллоди раскрыл в своем романе 1883 года "Пиноккио" и которая с тех пор фигурирует во многих научно-фантастических произведениях:

 

машины хотят быть только людьми, и большинству людей это не нравится.

 

Так, например, происходит в романе Филипа К. Дика "Мечтают ли андроиды об электрических овцах?" Сюжет романа заключается в том, что многие люди покинули разрушенную ядерной войной Землю и отправились на Марс, где в их распоряжении находится армия порабощенных "энди". Людям там скучно и одиноко. А один беглец говорит землянину Рику Декарду, что "андроидам... тоже одиноко".

 

Декард по-прежнему живет со своей женой на едва пригодной для жизни Земле, исповедуя новую, полную вины и горя религию, мессия которой бесконечно поднимается в гору, подобно Сизифу, пока его забрасывают камнями. Декард - загадка, лишенный явных эмоций. Возможно, это и к лучшему, поскольку чувства только мешают: Он - охотник за головами, и его задача - выслеживать андроидов, добравшихся до дома с Марса, и "отправлять их на пенсию", хотя они все равно живут всего четыре года и в основном держатся сами по себе.

 

Проблема в том, что андроиды нового поколения настолько похожи на людей, что их практически невозможно отличить друг от друга. И хотя закон запрещает подобные связи, Декард не может устоять перед одной особью по имени Рэйчел. Хотя она допускает, что ее сородичи "машины, штампованные, как крышки от бутылок", Рейчел испытывает к своим собратьям-андроидам больше сочувствия, чем Декард к своим собратьям-людям.

 

В мировоззрении Дика сочувствие - это то, что отличает людей от машин, и в книге несколько раз намекается, что Декард может сам быть андроидом. Однако у него есть чувства к животным, что очень важно, учитывая, что большинство животных вымерло, вплоть до маленьких пауков, и было заменено механическими симулякрами. Книга заканчивается тем, что Декер находит жабу, которая кажется настоящей и живой - "если только, - как говорит Декард, - реальность не является подделкой", - типично диковская кроличья нора, которая приводит нас в Матрицу.

 

Роман "Мечтают ли андроиды об электроовцах?" стал знаменитым благодаря фильму "Бегущий по лезвию" 1982 года. Книга и фильм едва ли могут быть более разными: героический экранный Декард (Харрисон Форд) сражается со злонамеренными сверхчеловеческими захватчиками, в то время как морально безразличный, усталый Декард из книги уничтожает роботов, не обладающих никакими особыми способностями, кроме обычных человеческих - по крайней мере, пока. Однако оба Декарда осознают главную истину:

 

 

И если это не тревожит вас .....