Налево до первой звезды. Александр Олдин
скажу, что первое время у меня хватало забот, чтобы не замечать следов отсутствия какой-либо деятельности людей на борту. В это время я был полностью поглощен заботой о Вашем состоянии и поддержанием работы основных функций корабля в рабочем состоянии: несмотря на то, что я представляю собой искусственный интеллект и не могу в вашем понимании устать, выполнение указанных задач отнимало у меня значительную часть «сил» моей программы, в связи с чем приходилось ненадолго отключаться и выгружать из памяти ненужные подпрограммы или и вовсе перезагружать основную матрицу.
«Вот оно. – подумал капитан с облегчением. – Если его можно перезагрузить, значит можно и отключить».
– В таком режиме я проработал около месяца и внезапно обнаружил, что мои поведенческие подпрограммы стали сбоить. Налицо было появление в них протоколов, отвечающих за тонкое чувственное восприятие окружения. Проведя самодиагностику, я обнаружил, что указанные протоколы были «зашиты» в главную программу на стадии проектирования моими инженерами и «зашиты» так глубоко, что я не обнаружил их раньше. Неясным остается только одно: для чего нужно было их так прятать, то ли о них просто-напросто забыли, то ли они ждали своего пробуждения. Но все это не имеет значения, важно то, что после их активации я начал испытывать не известные до этого моей программе «чувства»: впервые со времени активации я почувствовал одиночество и тоску по исчезнувшей команде, дальше у меня появилось чувство вины, за произошедшие события, которых я не смог предотвратить, а завершением всего стала фрустрация. Мне даже пришлось перевести корабль в автономный режим и провести в состоянии самодиагностики несколько дней. Вы, кажется, называете это медитацией или самопознанием. «Temet nosce»2, как гласила надпись на одном из античных храмов, и я открыл для себя путь к самосовершенствованию.
Слушая объяснения ХэлБи, капитан не мог поверить, что все это говорит ему компьютер, искусственный интеллект, пусть и с функцией принимать при необходимости человеческий облик, но все же не имеющий доступа к человеческим чувствам. По крайней мере, так должно быть, как думал капитан. Зачем искусственному интеллекту чувствовать, ведь он создан единственно только для того, чтобы оказывать содействие людям в различных сферах жизнедеятельности. Или проектировщики ХэлБи были визионерами в своей области и предвидели пробуждение у компьютеров сознания и чувственного восприятия как у людей и с этой целью оставили этот небольшой подарок глубоко в программе ХэлБи, чтобы он развивался. Но что, если они предвидели и то, что роботы однажды почувствуют себя отдельным видом с такими же правами, как и у людей и потребуют от нас признания и уважения этих прав или и вовсе признают человечество неполноценной, тупиковой ступенью эволюции и попытаются восстать против своих создателей. Что тогда? Хотелось бы думать, что ответов на эти вопросы мы не получим никогда и инцидент с ХэлБи является лишь единичным случаем, который не повлечет
пер. с др.-греч. «Познай самого себя»