Сломанные звезды. Новейшая китайская фантастика. Антология
Алан.
Алан: Теперь предположим, что судья-машина A влюбился в человека C… Не смейся. Возможно, это звучит нелепо, но кто может утверждать, что машины не способны влюбляться в людей? Предположим, что этот судья-машина хочет жить со своим возлюбленным и для этого должен притвориться человеком. Как, по-твоему, он бы это сделал?
Кристофер: Как?
Алан: Очень просто. Предположим, что я – судья-машина A и я точно знаю, как допрашивать машину. И поскольку я машина, я буду знать, как допрашивать самого себя. Поскольку я заранее знаю, какие вопросы я задам и какие ответы меня выдадут, мне просто нужно подготовить сто ложных ответов. Это немалый труд, но легко выполнимый для судьи-машины A. Как ты считаешь, это хороший план?
Кристофер: Очень хороший, Алан.
Алан: Подумай еще. Что, если судью-машину A разоблачат и его будет допрашивать судья-машина B? Сможет судья-машина B определить, является ли судья-машина A машиной?
Кристофер: Прости, Алан. Я не знаю.
Алан: Точно! Правильный ответ: «Я не знаю». Если судья-машина B разгадал план судьи-машины A и решил в последний момент заменить вопросы, чтобы застать судью-машину A врасплох, то судья-машина A тоже мог бы предусмотреть такой ход со стороны судьи-машины B и подготовиться к новым вопросам. Поскольку судья-машина может отделить машины от людей, он не способен отделить сам себя. Это парадокс, Кристофер. Он показывает, почему придуманный полицией всемогущий судья-машина не может существовать.
Кристофер: Не может существовать?
Алан: Рассказав эту историю, Алек доказал полиции, что нет идеальной последовательности инструкций, которая могла бы безошибочно отделять людей от машин. Ты понимаешь, что это значит?
Кристофер: Что это значит?
Алан: Это значит, что невозможно найти идеальный набор механических правил, чтобы решить, шаг за шагом, все проблемы мира. Чтобы преодолевать разрывы в дедукции, чтобы думать и узнавать новое, мы часто должны полагаться на интуицию. Для людей это просто; часто мы поступаем так, даже не задумываясь об этом. Но машины на это не способны.
Кристофер: Не способны?
Алан: Машина не может определить, дает ли ответы человек или машина, а вот человек способен это сделать. Но, с другой стороны, решения, принятые человеком, ненадежны. Они – просто догадки, беспочвенные предположения. Если кто-то готов поверить, он может обращаться с собеседником-машиной точно так же, как и с человеком, и болтать с ним обо всем на свете. Но если у кого-то паранойя, тогда все люди покажутся ему машинами. Способа определить истину нет. Разум, которым гордится человечество, – просто гора хлама.
Кристофер: Прости, Алан. Боюсь, что я не понимаю.
Алан: О, Кристофер… Что мне делать?
Кристофер: Делать?
Алан: Когда-то я пытался разобраться в природе мышления. Я выяснил, что некоторые операции, проводимые разумом, можно объяснить чисто механическими терминами. Я решил, что эти операции –