Предел Шенберга. Сен Сейно Весто
решало все. Никто так и не заметил: если то, что в конечном итоге способно оказаться, как предрекают и пугают, умнее, то ему уже по определению должно быть виднее, что лучше. Никому даже в голову не пришло отказаться в таком случае от самой возможности говорить ему, что делать: Как Правильно Думать.
И тут впервые всплывает на поверхность довольно странная вещь. Как обнаруживается, человеку вовсе не нужно то, что лучше.
Ему нужно то, что понятнее.
Потому что за всю свою бестолковую эволюции, историю крови нескольких десятков цивилизаций он сам так до сих пор и не смог внятно себе объяснить, что есть лучше. Но он тем более не знает, что есть лучше в восприятии того, чего он не понимает. Искусственный интеллект может быть сколько угодно хорошим – ровно до того момента, пока неторопливо думающие гоминиды будут его учить, что хорошо для них.
И возникает уникальная в своей бестолковости ситуация.
Вот создание, которое не человек, и вроде бы все видят, что это не человек. Но как объяснить, что никто упорно не видит, что тогда и всё человеческое должно быть ему чуждо? И здесь тот самый редкий случай, когда вульгарный в своей основе оборот «всё» следует понимать в буквальном смысле.
Давайте посмотрим, как обстоит сегодня с этим делом в обычном офисе. Есть менеджер и есть инструкция, согласно которой ему вменяется в обязанность «присматривать» за конгломератом подчиненных сотрудников И (!) за ЭЙ-АЙ, искусственным интеллектом, на предмет «чего-либо сомнительного в поведении», конец цитаты.
Я еще раз задаю вопрос в надежде, что кто-то услышит. Ребята, расскажите, как вы запланировали уличать в «сомнительном» того, чей интеллект уже по определению лежит за пределами вашего горизонта? Я доступно излагаю?
Разумеется, в конце концов кто-то вспомнит о такой замечательной во всех отношениях и такой вроде бы безупречной вещи, как изобретенном человеком в результате своей страшной истории принципе мирного сосуществования. Вопрос, что мешает всем нам счастливо сосуществовать с любым иным разумным видом, будь то стая велоцерапторов, как мы живем сейчас бок о бок, скажем, с акулами, – этот вопрос из категории детских. Нам помешает то, чего сейчас нет у акул: человеческого восприятия времени. У них нет разума, и это решает все.
Скажите кто-нибудь, на что этот выстраданный принцип сосуществования тому, о целях которого мы ничего не знаем, когда он так же легко обойдется без него? И кто возьмет на себя ответственность предсказать, что тот же принцип мирного сосуществования тот не истолкует и не переопределит – исходя из собственных интересов?
Я возьмусь показать, что на самом деле у человека шансов в противостоянии Искусственному Интеллекту даже еще меньше, чем думают.
Кто-то раньше заметил, что восприятие человека по природе исключительно линейно. Развитие технологии идет по экспоненте. Как много свидетелей уловили суть катаклизма?
Мир