Борьба разумов. Фантастическая реальность. В. М. Павлов
распорядителем жизни, люди подчинились его правилам, и в изобилии получают за это плоды земли и воды. Чтобы их взять, людям нужно трудиться, и только необходимость труда отличает этот район Земли от ветхозаветного рая, где Бог всё предоставляет даром. А может ли быть райская жизнь без труда, который радует человека и приносит удовольствие? Мне кажется, что в ответе на этот вопрос древние мудрецы Сиона что-то не додумали.
На следующий день я взял напрокат машину и поехал в Силиконовую долину, мировой центр вычислительной техники. Её столица находится в 65 километрах южнее Сан-Франциско, но природа там отличается разительно – в Силиконовой долине жарко, сухо и пыльно. Среди чахлой растительности возвышаются бетонные блоки офисных зданий, производственных помещений и складов, светятся неоновые вывески всемирно известных телекоммуникационных и компьютерных фирм: Apple, Google, Cisco Systems, Oracle, Microsoft. Здесь я договорился встретиться с одним из известных конструкторов вычислительной техники.
Разговор начался с моего главного вопроса.
– Джон, Вы являетесь крупнейшим специалистом по созданию искусственного интеллекта. Я хочу спросить у Вас – верите ли вы в существование Искусственного разума?
– Сначала вопрос к Вам: что Вы под ним понимаете?
– Искусственно созданное существо, способное принимать решения, исходя из своих целей.
– Нет, такого разума не существует, любое искусственное создание принимает решения из целей, заложенных в него человеком. Если оно отклоняется от них, то это считается ошибкой, сбоем, и существо должно прекратить свою деятельность.
– А если оно не прекращает?
– Тогда его уничтожают либо переводят в режим, не имеющий катастрофических последствий.
– Можно, я изменю вопрос: все ли решения, принимаемые интеллектуальным существом, контролируются человеком?
Джон задумался, а потом ответил, как мне показалось, не совсем уверенно.
– Нет, не все. Это невозможно и ненужно. Есть специально выбранные точки, которые могут контролироваться человеком, чтобы не допустить дальнейшей неправильной работы системы.
– Можно ли быть полностью уверенным, что вне участка контроля система не ведёт себя непредсказуемо и человек в контрольной точке этого не замечает?
– Полностью – нет, поэтому строятся новые контролируемые точки, чтобы вероятность бесконтрольных действий машины свести к нулю.
– Это похоже на борьбу человеческого разума с искусственным. В этой борьбе каждая из сторон исходит из своих целей.
Джон рассмеялся.
– Да нет же, если это сбой или ошибка, то она должна быть просто исправлена машиной или человеком.
– Выходит, что Вы боретесь с Искусственным разумом, отрицая его существование?
– Не совсем так. Мы создаём вычислительную систему под наши цели, не допуская следования к непредвиденным целям.
– Я делаю вывод, что мы понимаем искусственный разум