Время как иллюзия, химеры и зомби, или О том, что ставит современную науку в тупик. Майкл Брукс
разума с их помощью.
Тьюринг был настоящий гений, однако, предлагая свой тест, он упустил из виду (быть может, намеренно) любопытную проблему, которая касается мыслящих машин. Его биограф Эндрю Ходжс предполагает, что сама идея этого теста – своего рода обходной маневр, «позволяющий Тьюрингу избегать дискуссий о том, что такое сознание». Возможно, углубление в идеи машинного сознания могло бы в те времена показаться слишком уж смелым шагом для человека, которого и без того считали опасным вольнодумцем. Ведь та знаменитая статья 1948 года начиналась с утверждения, способного насмешить многих его современников.
«Я предлагаю заняться изучением вопроса, может ли машина демонстрировать разумное поведение, – писал Тьюринг. – Обычно принимают как должное, что это невозможно». С тех пор прошло больше полувека, и Пентти Хайконен ответил на вопрос Тьюринга. Он не стал возиться с доводами «за» и «против» по поводу машин, ведущих себя как разумные существа. Он просто сконструировал такую машину и научил ее испытывать боль.
Боль – любопытное явление{25}. В сущности (как подчеркивает Хайконен), это результат возникновения сигнала, указывающего на то или иное повреждение клеток. Для мозга болевой сигнал в общем-то ничем не отличается от сигнала, который посылает зрительная или слуховая система. Но зрительные и слуховые сигналы могут обрабатываться без особого внимания к их содержанию, тогда как болевые сигналы, наоборот, привлекают внимание. Кроме того, они модифицируют наше поведение, заставляя отыскать способ минимизировать наносимый нам ущерб. Хайконен пишет: «Это глобальное привлечение внимания необходимо, поскольку сам по себе болевой сигнал не знает, что нужно сделать для того, чтобы ущерб перестал наноситься». Вот почему это послание передается по всем системам тела и мозга, прерывая все идущие в них процессы и заставляя нас реагировать, порой весьма остро, – кричать, корчиться, отпрыгивать в сторону. «Я считаю такое распространение сигнала, прерывающее все прочее, фундаментальным свойством боли», – замечает Хайконен. Потому-то он и решил соорудить робота, который будет способен реагировать на боль.
Когда Хайконен бьет своего Экспериментального Когнитивного Робота{26} (ЭКР), тот отступает. Изобретатель даже может научить его бояться того, что ассоциируется с возможным страданием. При этом робот не снабжен никаким компьютером в современном смысле слова! У него нет ни микропроцессоров, ни программ, в его распоряжении лишь компоненты обычной электросхемы – провода, резисторы, диоды и тому подобное. Из деталей такого же типа Тьюринг конструировал свои первые вычислительные машины. Когда Хайконен показывает ЭКР зеленый предмет и спрашивает, какого он цвета, тот дает верный ответ. Затем изобретатель слегка стучит ручкой по спине робота. «Ой, больно», – жалобно голосит робот и отодвигается от ручки подальше. Благодаря своим электронным схемам (без всяких программ) ЭКР теперь ассоциирует этот цвет с отрицательной эмоцией.