2062: время машин. Тоби Уолш
авиации черный ящик (на самом деле он обычно красного или оранжевого цвета) записывает много внутренней информации о самолете. Черный ящик в ИИ – это система, где можно видеть только входные и выходные данные. Невозможно пронаблюдать, что происходит внутри и как входные данные превращаются в выходные. Противоположность черного ящика – стеклянный ящик, который позволяет следить за внутренними процессами.
27
Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М.: Манн, Иванов и Фербер, 2016.
28
Средний прогноз – это год, к которому, как говорят опрошенные, компьютеры сравняются с человеком по уровню интеллекта. Основной прогноз отсылал к неопределенному количеству времени в будущем: небольшой процент экспертов и обычных людей предположили, что этого никогда не произойдет.
29
Некоторые данные тестов IQ в датских и американских вооруженных силах свидетельствуют, что показатели в последнее время даже стали снижаться.
30
Закон Мура назван в честь Гордона Мура, сооснователя компаний Fairchild Semiconductor и Intel. В 1965 году он описал ежегодное удвоение количества компонентов на интегральной схеме. В 1975 году он округлил срок до двух лет. Закон Мура действовал больше пятидесяти лет. Мало кто знает, что он устарел уже несколько лет назад. Любой экспоненциальный тренд, существующий в реальном мире, рано или поздно заканчивается. В этом случае проблема заключалась в квантовых пределах. International Technology Roadmap for Semiconductors (ITRS) – это отраслевой орган, который, как следует из его названия, разрабатывает «дорожную карту» для достижения закона Мура. В 2014-м ITRS объявил о том, что цель индустрии больше не заключается в удвоении компонентов каждые два года. Учитывая, что теперь это не входит в планы больших компаний, производящих микропроцессоры, мы можем быть уверены в том, что этого не произойдет. Никто не собирается тратить миллиарды долларов, необходимых для изготовления следующего поколения станков для производства чипов, чтобы еще больше сократить размеры транзисторов. Любопытно, что нынешние цели Intel – это уменьшить потребление энергии, чтобы мобильные устройства могли иметь больше вычислительной мощности.
31
См. Martin Ford (2009) The Lights in the Tunnel: Automation, Accelerating Technology and the Economy of the Future, USA, Acculant Publishing.
32
Даймонд Джаред М. Коллапс. Почему одни общества приходят к процветанию, а другие – к гибели. М.: АСТ, 2016.
33
Paul Allen, ‘The Singularity Isn’t Near’, MIT Technology Review, 12 October 2011.
34
The Cutting Edge: A Moore’s Law for Razor Blades?’ The Economist, 16 March 2006.
35
Jonathan Hall, ‘Taking Another Look at the Labor Market for Uber’s Driver-Partners’, Medium, 22 November 2016.
36
H.G. Wells predicted the laser in The War of the Worlds (1897), and nuclear weapons in The World Set Free (1914).
37
Эдсгер Дейкстра (1930–2002), авторитетный голландский ученый, однажды сказал, что «вопрос о том, могут ли машины думать, так же уместен, как и вопрос, могут ли подводные лодки плавать» (Южная региональная конференция ACM. Остин, Техас. Ноябрь 1984 г.).
38
См. Stephen Omohundro (2008) ‘The Basic AI Drives’, in Pei Wang, Ben Goer