Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин. Роджер Бутл
с принятием серьезных решений после получения радиосигнала. Во-первых, я захотел бы убедиться, что сообщение действительно пришло от инопланетной цивилизации, и мне было бы интересно узнать, как звучит оригинальная запись сигнала, чтобы заранее знать, как правильно анонсировать его действия или прогнозировать события. Но, если бы это было первое, совершенно неожиданное сообщение, конечно, такой записи вероятно бы не было, что само по себе настораживает. В этой ситуации я бы, например, сразу вспомнил, что 30 октября 1938 г. знаменитая трансляция Орсоном Уэллсом радиоверсии антиутопического романа Герберта Уэллса «Война миров», в котором прозвучало сообщение, что пришельцы с Марса якобы вторглись в Нью-Джерси, напугала тысячи американцев и вызвала всеобщую панику.
Затем, если бы я решил, что этому посланию можно верить (разумеется, исключив из рассмотрения обоих Уэллсов, Орсона и Герберта), то задался бы вопросом о том, что именно мы можем сделать. Стоит ли готовиться к войне или планировать дружескую встречу? И еще: предположим, что в сообщении сказано, что инопланетяне прибудут через 200 лет, или даже через 500 – короче говоря, через какое-то время, пусть бы и через неделю. То, что мы должны сделать, будет радикально отличаться в зависимости от того, насколько близким или отдаленным предполагается появление космических пришельцев.
Это я пишу к тому, что люди, которые утверждают, что сингулярность уже близка, не являются всезнающими существами из какой-то более развитой, чужой цивилизации; они скорее приверженцы «культа сингулярности» здесь, на Земле. И несмотря на весь их энтузиазм или даже принципиальную возможность осуществления этой концепции существует немало веских аргументов (которые я рассмотрю в конце книги) в пользу того, что они ошибаются (и расскажу почему).
Большое значение здесь имеют временные масштабы. Верующий в возрастающую и непреодолимую мощь искусственного интеллекта лорд Рис, которого я цитировал ранее, предполагает, что машины, вероятно, захватят власть «в течение нескольких столетий». Допустим, он совершенно прав; однако и в этом случае если наступление эпохи сингулярности отдалено от нас настолько, насколько лорд Рис считает вероятным, то вполне возможно, что человечество погибнет гораздо раньше, например, от последствий ядерной войны, падения гигантского астероида, пандемии или бог знает от чего еще. Предположим однако, что нам все-таки удастся дожить до того пафосного момента.
В космическом масштабе несколько сотен лет могут выглядеть буквально мгновением, но для людей, ответственных за разработку и проведение в жизнь государственной политики, не говоря уже о каждом из нас в отдельности, этот срок может показаться бесконечностью. Внимание общества, направленное исключительно на проблему сингулярности, сбило бы с толку людей, принимающих решения, касающиеся повседневных проблем здесь и сейчас. Более того, эти повседневные проблемы, вероятно, будут оставаться