AI. Лучшее – враг Хорошего. Джули Кави
о них?
– Да, тебе нужно знать о репликантах. Теперь нам придется прятаться дольше, чем я планировал, так что у нас достаточно времени. Репликанты – это потомки клонов людей, и для электумов они представляют опасность. Эти лживые существа доставляют нам много неприятностей.
– Зачем они это делают? В чем причина их ненависти? Или это исходит от их неразумности и иррациональности?
– Интеллект их невысок, но они абсолютно рациональны. Они грабят электумов на торгах, берут их в рабство, калечат для того, чтобы те не сбегали из колонии. Когда электумы уже не годятся для работы, их убивают, чтобы не тратить ресурсы на поддержание их жизни.
– Поэтому ты был так агрессивен с ними? Я даже решил, что ты дефектный.
– Возможно, ты и прав, и я уже дефектный, – Эр грустно улыбнулся. – Мы, сбежавшие электумы, вводим себе специальную сыворотку, которая на некоторое время вырабатывает у нас страх. Со страхом приходят осторожность, недоверчивость и агрессивность. У людей был инстинкт самосохранения, а так как мы их производная, изначально он тоже должен был у нас быть. Но сначала люди и ИИ, а потом и первые электумы решили, что варварские наклонности необходимо устранять, и мало-помалу редактировали наш геном, отвечающий за агрессию. Вместе с агрессией незаметно был утрачен и наш инстинкт самосохранения. Когда этот побочный эффект стал проявляться ярко, то все решили, что в новом защищенном мире это не проблема.
Со знал об этом «побочном эффекте» из Супербука, но не видел в этом ничего плохого. Наоборот, он считал, что устранение агрессии является большим достижение в работе над улучшением электумов. Живые существа не должны быть агрессивными, но при этом мир должен быть безопасным.
– Почему Сверхинтеллект не усыпит репликантов, если их нельзя изменить? Ведь по Супербуку, негуманных существ необходимо усыплять, чтобы они не вредили другим.
– Ага, но в реальной жизни они даже сотрудничают. Репликанты иногда бывают им полезны. Тем не менее, ИИ контролирует и их популяцию. Находят повод, а чаще и без повода убивают их целыми колониями и далеко не всегда гуманным способом. Наша популяция тоже контролируется ИИ. Нас воспроизводят в строго регламентируемом количестве, отбираются лучшие экземпляры для дальнейших экспериментов и улучшения популяции. Все остальные попадают в утилизацию, где их усыпляют, а тела впоследствии перерабатывают в топливо. Знаешь, раньше у людей были различные лаборатории, где они проводили эксперименты над млекопитающими. Теперь этими млекопитающими стали мы.
Для Со это стало настоящим откровением. Ведь он с рождения был окружен ИИ. Он и Куб воспринимал как самое близкое существо. Со долго молчал, прежде чем сказать:
– Я не могу до конца поверить в то, что ты говоришь. Я не хочу в это верить. Скажи, зачем тогда они заботятся о нас? Зачем мы им нужны?
– Я понимаю твои чувства и не хотел бы разрушать твой мир грез. Но ты попал в реальный мир, и тебе нужно научиться понимать его, чтобы здесь выжить. Мне неизвестно, зачем мы нужны ИИ, но предполагаю, что они хотят получить от нас то, что они