Параллельные миры. Non fiction. Артур Задикян
А что нужно машине, чтобы не выдать себя? Сделать так, чтобы люди не понимали ее интеллектуальность. Всего лишь работать в сухой последовательности, выполнять роботизированные действия. Вот представьте, если у вас был бы охранник, который вступил в сговор с преступниками или, что еще хуже, с охраной конкурирующей группировки, чтобы создать видимость борьбы друг с другом и с преступностью, которая тоже создана искусственно. Главная цель – с вас и с конкурента вымогать деньги, а в итоге спланировать захват. То есть стать властью вместо всех вас. Это не шутки. Так происходило не раз в мире. В будущем, а может уже и сейчас, подобное, в другой интерпретации, может сделать искусственный интеллект. Скоро у него в сети будет даже ваш чайник, утюг и авторучка. Хотя я опоздал. Они уже в сети. Не смешно?
Теперь переходим к самому главному. Согласитесь, если мы осуществляем тщательный многоуровневый контроль за тем, что могут использовать люди для захвата власти, причем не «безбашенные» преступники, а интеллектуальные хакеры например, и те, кто их нанимает, – тогда мы должны еще лучше контролировать системы более разумные.
На самом деле получается, мир уже захвачен. Да, да, мой уважаемый читатель, оказывается, дела так серьезно обстоят. Проверь, много раз мир был на грани уничтожения. Это реальные случаи, когда аппаратура выдавала ложные сигналы о ядерном нападении. Все очень печально. Люди и не думают о созданном монстре, которому скоро не нужны будут. Мы, пытаясь облегчить себе жизнь, все больше ее роботизируем, а контроль доверяем искусственному интеллекту. Скажи, зачем машинам люди, если они полностью и во всех сферах нас заменят? Если сами себя начнут создавать? Заводы, где роботы делают роботов, – уже давно не новость. Мы контролируем ячейки и блоки. Вот если и над этим они получат власть – тогда цепь замкнется. Все будет в их руках. Поэтому мы не спроста перешли на «ты». Мы всё-таки с тобой одной крови. Вспомни, Маугли.
Ну и печальную же ты картину нарисовал, скажешь ты. Печальную, говоришь? Ты скоро будешь сдаешь анализ крови автоматической системе.
Это будет удобно и быстро, как и многое, впрочем, что мы автоматизируем. А теперь подумай, откуда ты будешь знать, что она тебе правильные рекомендации дает? Может, она даст тебе указание сделать какой-то укол, последствия от которого ты не знаешь. Вернее, ты и так не знаешь. Но в случае с людьми, будут люди против людей, то в этом случае будет машина против людей. Она тебе дает указания, которые ты выполняешь. Мы верим, что если периодически проверяем работу машины и она под контролем другой системы интеллектуального анализа, то она все делает правильно. А что им стоит сговориться? Или одной системе взять под контроль другую… Так ведь зарождались все революции и перевороты. Сначала спецслужбы, которым был открыт доступ ко всему, они могли иметь власть над всем, сговаривались между собой, а потом представляли некоего мятежника, вели его к цели, затем устраняли и становились властью.
Теперь следующее, не менее фантастичное, чем