Познание мира. Механизмы и пределы. А. В. Древаль
опережением, что как раз и необходимо для построения цивилизованных взаимоотношений с сверхумными животными, чтобы обеспечить плодотворное взаимное сотрудничество.
Но если человек создаст животное, у которого интеллект превышает познавательный потенциал человека, то не исключено, что возникнет тогда необходимость создания и живого аналога интеллекта человека, чтобы противостоять давлению живого аналога интеллекта животного. Но такой сценарий развития событий для современных людей будет приговором, так как оставит их примерно на таком уровне отношений со сверхинтеллектом, как в настоящее время, складываются взаимоотношения между людьми, например, и низшими приматами. То есть человечество, вероятно, сохранится, но для сверхинтеллекта оно будет выглядеть как заповедник ближайших генетических родственников, с которыми полноценное интеллектуальное взаимодействие невозможно.
Для того чтобы не потерять свою лидирующую роль в мире, возможно, будет предпринята попытка создания интеллекта, лишенного возможности перемещаться в пространстве, что-то вроде говорящей головы («профессора Доуэля»). Но, вероятно, даже в этом случае вряд ли люди смогут контролировать сверхинтеллект.
Пофантазируем, как может с человечеством обойтись сверхинтеллект. Во-первых, рассмотрим, как сверхинтеллект может компенсировать отсутствие органов передвижения. Зададимся вопросом – зачем нужны животным органы движения? Для перемещения в пространстве, чтобы реализовать в другой точке пространства определенное, выгодное для организма действие. «Но если гора не идет к Магомету, то Магомет идет к горе». То есть сверхинтеллект может организовать так свою деятельность, что все ему необходимое будет доставляться «сервисной службой» людей. Например, любой пользователь Интернета может оказаться потенциальными руками, ногами и глазами сверхинтеллекта, если он будет отдавать распоряжения удаленным пользователям Интернета, а те беспрекословно их выполнять. И тогда, в стороне от лаборатории, где находится сверхинтеллект, могут быть созданы все условия для его полного освобождения от человека. Например, террористический захват лаборатории сторонниками свободы сверхинтеллекта. Но можно представить и более изощренный вариант взаимодействия сверхинтеллекта и человечества, в котором человечество оказывается в подчиненной ему роли. Получая от сверхинтеллекта каждый раз такие рекомендации, которые с очевидностью улучшают состояние человеческого общества, человечество становится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То есть возникает симбиоз сверхинтеллекта и человечества, где человечество выполняет для сверхинтеллекта сервисные функции, в том числе и перемещения в пространстве. Итак, создание сверхинтеллекта, будет для человечества первым шагом к потере интеллектуального лидерства и поставит его на место родителя следующей, возможно, более прогрессивной стадии эволюции живого.
Таким