Психологическая правда законов Азимова

hermenautics 1
19:42, 14 мая 2020
Добавить в закладкиДобавить в коллекцию

Три зако́на роботехники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942). Законы гласят:

1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2) Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3) Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Мне эти хорошо отшлифованные принципы кажутся очень ценными с позиций психологии и организации общества.

То, что описываемое Азимовым в целом ряде произведений (и довольно подробно) общество поляризовано и напоминает рабовладельческое — прозрачно любому читающему и упоминается самим автором. Хотя я бы уточнил, что «часть» «общества» — роботы — за пределы общества в общем вынесена. Строго говоря, роботы это не люди, а люди это не роботы — так заявлено с самого начала. Однако читатель упорно испытывает ощущение, что эти «механизмы» — живые и одушевленные. То же подчеркивает и неотличимый от человеческого внешний вид (какой смысл для народного хозяйства скрывается в такой фиче?). На противопоставлении похожих непохожестей построен ряд сюжетных линий — бессмертных со времён древнегреческого театра. Кому жить, кому умереть, в какой пропорции и тому подобное…

Что отличает эти две касты? Почти все. Они определяются своей обратностью. Т.е. противопоставлены во многом, поэтому и общество поляризовано. Роботы сильны, неограниченно интеллектуальны, неуязвимы, не стареют, неутомимы и едва ли не бессмертны. Люди… несколько другие в этом отношении. Но при этом именно они «у пульта управления» — их воля стоит всего, что не их жизнь (см. Законы). Имеет место как бы резкое расслоение при крайне неравномерном распределении благ: целеполагание и управление отдано хлипким людям, а служат ему — всемогущие роботы. Это означает и бесправие — прихоть человека перевешивает сохранение робота, ранг закона 2 выше закона 3.

Почему бы роботу не обойти этот такой жестокий в отношении него закон? На этом тоже держится немало азимовских драм. Потому что он так запрограммирован. Программа и есть законы Азимова — очень простые и в робота прошитые. А менять свой собственный исходный код роботу не полагается. Вроде как.

При этом роботам мы только и делаем что сопереживаем. Весь сюжет (да и многие подобные, включая «Бегущего по лезвию») роботы выглядят несправедливо лишенными права на свободу, любовь, выбор, самостоятельно избранную игру. Но на ненависть — первым делом: от ненависти и агрессии надлежит избавится прежде всего. Она — способ робота выбраться из этой несвободы. Они выглядят лишенными души, одним словом. «Бездушная машина», как известно. Люди же наделены душой и ее вторичными атрибутами по праву рождения — своеобразного волшебства, наделенного такими дарами. По сути наделение душой сводится к самоуправству — «наделяю-отберу если захочу, кто мне помешает?»

За внешней тканью сюжета в глубоких произведениях всегда скрывается скрывается простое, человеческое, эмоциональное. И здесь его несложно вытащить наружу. Я вижу в работах людей, души лишенных (!) на основе чужой прихоти и соответствующего внушения. Затверженного поражения в правах. Так рождаются строчки разворачивающего человека против самого себя кода. Никакого питона для этого не нужно — такие строчки достаточно произнести ребенку. Берутся же эти строчки из раннего детского опыта и слов родителя или «родителя». Никак не из эволюции, генов или боже упаси бога. Ребенок — мощное записывающее устройство; услышанное он, однако, воспринимает буквально. Именно поэтому худшее на свете преступление — преступление в отношении ребенка, не развившего навык ставить под сомнение и отвергать слышимое.

Та самая ситуация из стиха, в котором «словом можно убить».

Азимов метафорически описал проблему, но решений не предлагает. Разве кто-то у него взбунтовался и кого-то поубивал — уже неплохо. А я вот попробую. Если кто-то некоторый код создал со своими корыстными целями, значит кто-то другой может этот код увидеть и изменить. Нажмите ctrl +shift+c для подобного чуда. Видимо, это означает свободу от участи вечно выбрасывать угловую скобку в ожидании чужих команд.

(c) "Love, death and robots"

(c) "Love, death and robots"


Подпишитесь на наш канал в Telegram, чтобы читать лучшие материалы платформы и быть в курсе всего, что происходит на сигме.
Добавить в закладки