2062: время машин. Тоби Уолш
мой аргумент, направленный против идеи неизбежности технологической сингулярности, затрагивает проблему метаинтеллекта. Как я уже отмечал ранее, понятие разума включает в себя множество различных способностей. Например, умение не только воспринимать мир, но и рефлексировать над этим миром, а также множество других навыков, таких как креативность.
Утверждение, что сингулярность неизбежна, сталкивает две разные способности интеллекта: это умение выполнять задачи и умение совершенствоваться в выполнении этих задач. Мы можем создать ИИ, который развивает свою способность выполнять конкретные задачи и выполняет их лучше нас. Например, Baidu создали Deep Speech 2, алгоритм машинного обучения, который лучше, чем люди, переводит с китайского. Однако Deep Speech 2 не развивается. Ему необходимо столько же времени на то, чтобы понять, как перевести с китайского, сколько и раньше. Его сверхчеловеческая способность переводить с китайского никак не улучшила суть алгоритма глубинного обучения. Чем больше люди учатся, тем лучше они начинают это делать. С Deep Speech 2 все иначе.
Совершенствование алгоритмов глубинного обучения происходит по-старому: люди долго и напряженно размышляют над тем, как это сделать. Пока мы не создали машины, способные развиваться самостоятельно. Нельзя быть уверенным, что это вообще когда-нибудь произойдет.
Убывающая отдача
Четвертый аргумент – закон убывающей отдачи. Даже если бы машины могли бесконечно себя совершенствовать, это вовсе не означает, что мы бы получили бесконечное их улучшение. Закон убывающей отдачи работает во многих областях человеческой деятельности. Например, мы не раз увеличивали топливную эффективность двигателей автомобилей, но чем дальше, тем меньше это приносит результатов, в то время как показатель продолжает увеличиваться.
Предположим, мы сначала создадим машину с интеллектом на уровне среднестатистического представителя нашего вида. По умолчанию ее IQ будет равен ста. Также допустим, что IQ этого искусственного интеллекта будет с каждым новым поколением увеличиваться на пятьдесят процентов от разницы с предыдущим поколением. IQ – не самый лучший показатель интеллекта, но это не главное. Второе поколение таких машин будет иметь IQ в размере ста пятидесяти – довольно впечатляющая цифра. Однако пока она, возможно, даже не обогнала вас. Коэффициент третьего поколения будет равен ста семидесяти пяти, четвертого – ста восьмидесяти семи с половиной и т. д. IQ этих машин никогда не преодолеет отметку в двести, как бы долго они ни просуществовали.
Даже если мы поднимем процент от пятидесяти до девяноста, мы все равно столкнемся с теми же ограничениями. У второго поколения IQ будет сто девяносто. У третьего – двести семьдесят один. Здесь и находится задокументированный предел человеческого интеллекта. Четвертое поколение его преодолеет и достигнет отметки в триста сорок три целых и девять десятых. Но как бы далеко в будущее мы ни заглянули, IQ этих впечатляющих компьютеров никогда не составит