Похороны смерти. Научно-фантастический роман. Исабек Ашимов
и социального прогресса.
– А с позиции гуманизма, нравственности, морали? – спросила Ирен.
– Если же мы стоим на позициях социогуманитарных наук, то ответ на вопрос, эволюционирует ли человек, будет другой. Тут критерии могут быть связаны с нравственностью, с возможностью трансформации среды вокруг, с созданием совершенно нового типа объектов, – сказал Джозеф.
– В таком случае является ли человек единственным источником системы ценностей? Может ли он относиться к другим субъектам как к носителям некоторых ценностей? – спросил Хасан.
– Понятно, что искусственный интеллект содержит в какой-то мере сознание, которое не локализуется в физическом теле, – сказал Джозеф. – Но при этом нужно понимать, если мы признаем, что сети, в которые, к примеру, я включен, и которые вместе со мной осуществляют мыслительные процессы, – это часть моего расширенного сознания, то рассматривать меня, мое эго как действующего субъекта уже не так просто.
– То есть уже непонятно, кто здесь действует – я действую, или сеть действует мной, – бросил реплику Билл.
– Ключевая проблема, которая возникает, это не столько проблема замены сознания человека мыслящей технологической сетью, сколько проблема доказательства того, что человек плюс искусственный интеллект – это лучше, чем просто искусственный интеллект, – сказал Джозеф.
Тут же посыпались вопросы: а почему лучше? Где тогда находится человек? Этот мозг – это система каких-то его вычислений? Что тогда останется от человека, что есть «я»? Мозг?
– Мозг – это последняя надежда тех, кто хочет локализовать сознание на каком-то очень и очень надежном материальном носителе, – отвечал Джозеф. – Это ныне главная метафора для человеческого эго. В этих условиях мозг оказывается, как бы внешним, мы проводим некоторую границу между нами и нашим мозгом.
– Мы говорим: наш мозг влияет на нас. Но если мозг влияет на нас, значит, мы – это что-то другое? – с иронией спросил Билл.
– Мой мозг – это «Я». Мозг служит идентификационным признаком «Я». Об этом вы все знаете, – сказал Джозеф и сделав небольшую паузу продолжил: – Вот мы мечтаем о создании интерфейса «мозг плюс суперкомпьютер». Однако, к сожалению, пока еще с трудом понимаем не только, где будет «мозг в контейнере», то есть «я» «аватара» и где будет искусственный интеллект, но и какими будут результаты такого интерфейса – «мозг плюс искусственный интеллект»?
– Ну, в этом случае, однозначно, при «мозге в контейнере» физическое тело отсутствует, а это полная свобода для мыслительной деятельности мозга, – сказал Хасан. – Но здесь есть над чем задуматься: мозг человека, интегрированный в общемировую компьютерную сеть искусственного интеллекта, станет уязвим для потенциальных вирусов, которые смогут превратить «мозг в компьютере» в психопата. Если искусственный интеллект будет у него обучаться, то прогнозы