Сердце робота. Константин Ермихин
должна знать ответ на свой вопрос. Давай, расскажи-ка мне, как всё работает.
Тася немного сердилась на себя за то, что по собственной глупости выкопала себе ловушку. Но делать нечего, лучше ответить на вопрос, а то папа не отстанет.
– Содружество состоит из свободных государств под общим управлением единого правительства, – принялась рассказывать девочка. – При принятии решений правительство советуется с искусственным интеллектом Акили5. Правительство не обязано следовать его советам, но Акили имеет право отменить любое решение правительства, если оно может навредить человечеству. Например, он отменил запуск ядерных ракет во время двухдневной войны с Марсом…
– А почему он это сделал? – прервал Тасин доклад папа.
– Потому что… – снова задумалась девочка.
– Ну? – подбодрил Павел Сергеевич.
– Акили опросил всех людей, и они сказали, что не хотят войны, – неуверенно предположила Тася.
– Что ж, опрос был действительно проведён, но решающее значение имел не его результат, а заложенные в архитектуру интеллекта Акили общечеловеческие моральные принципы. В отличие от людей, Акили не подстраивает мораль под сиюминутные потребности и желания. Например, для него обман – это всегда обман, независимо от цели, ради которой ты лжёшь, – тряхнул головой Павел Сергеевич. – Так вот, в случае с запуском ядерных ракет было однозначно понятно, что это действие может привести к гибели огромного количества людей, а это неприемлемо ни под каким предлогом. Поэтому Акили отменил запуск, и никто не мог изменить его решения. Потому что Акили действует, думая о благе всех людей, а не какой-то отдельной группы или тем более кого-то одного. Понимаешь? А кроме всего прочего, у него есть установка, известная как закон номер ноль. Ты его знаешь?
– Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред, – отчеканила девочка.
– Правильно. А это возвращает нас к моему первому вопросу.
– Какому? – не поняла Тася.
– Как продвигается твоё эссе? Решила ты, как повлияют законы Азимова на человеческое общество, если применить их к людям?
– Ну это просто! – пожала плечами Тася. – Я вообще не понимаю, почему их до сих пор не применяют. Например, если переделать первый закон под людей вот так: «Человек не может причинить вред другому человеку или своим бездействием допустить, чтобы другому человеку был причинён вред», – то больше никогда не будет войн.
Павел Сергеевич одобрительно покачал головой.
– Прекрасная мысль! А как ты собираешься заставить людей подчиняться этому закону? Всех роботов, напомню тебе, азимизируют – законы робототехники становятся неотъемлемой частью их личности. А как же быть с людьми?
Тася задумалась.
– Не знаю… – наконец пожала она плечами. – Может, гипноз?
– То есть ты предлагаешь загипнотизировать всё человечество?
– Ну да.
– А чем же
«Акили» на суахили означает «Разум»