Власть и прогресс. Дарон Аджемоглу
его внедрения станет не рост производительности, а перераспределение власти и богатства – от обычных людей к тем, кто контролирует информацию и принимает ключевые корпоративные решения? Что, если на этом пути ИИ отбросит в нищету миллиарды жителей развивающихся стран? Усилит и укрепит существующие предрассудки – например, связанные с цветом кожи? Уничтожит демократические институты?
Число свидетельств, что эти опасения вполне оправданы, неизменно растет. По-видимому, развитие ИИ движется по траектории, умножающей неравенство не только в индустриальных странах, но и во всем мире. Опираясь на огромные массивы данных, собранные IT-компаниями и авторитарными правительствами, ИИ уже сейчас душит демократию и укрепляет автократию. Мы увидим в девятой и десятой главах, насколько глубоко и обширно его влияние и на экономику, хотя на нынешнем своем пути развития ИИ почти не повышает нашу производительность. Учитывая все это, новейший энтузиазм по поводу ИИ приходится признать лишь новой версией старого технооптимизма, с одинаковым восторгом приветствующего и автоматизацию, и усиление надзора, и выбрасывание обычных людей на обочину жизни.
Однако большинство лидеров в сфере высоких технологий не принимают эти опасения всерьез. Мы только и слышим, сколько добра принесет нам ИИ. А если возникнут какие-то проблемы… что ж, это неизбежно, но долго они не продлятся, и их будет легко исправить. Кто-то пострадает от ИИ? Есть выход: делать больше ИИ!
Например, основатель DeepMind Демис Хассабис не просто считает, что «ИИ станет самой важной из всех когда-либо изобретенных технологий», – он уверен:
«Углубляя нашу способность задаваться вопросами „как“ и „почему“, ИИ раздвинет границы наших познаний и откроет новые направления научного исследования, а это улучшит жизнь миллиардов людей».
Он не единственный. Схожие заявления мы слышим от целого ряда экспертов. Робин Ли, один из основателей китайского интернет-поисковика Baidu и инвестор нескольких компаний, лидирующих в разработке ИИ, утверждает: «Революция разума станет благотворной революцией как в нашем производстве и образе жизни, так и в образе мышления».
Многие идут еще дальше. Рэй Курцвейл, известный топ-менеджер, изобретатель и публицист, уверенно доказывает, что набор технологий, связанных с ИИ, очень скоро поможет нам достичь «сверхразумности» или «сингулярности» – иначе говоря, нам откроется путь к безбрежному процветанию и достижению всех наших материальных целей, а может быть, и нематериальных тоже. Он верит, что программы ИИ превзойдут по своим способностям человека настолько, что откроют в себе новые, сверхчеловеческие способности – или же, словно в фантастическом романе, сольются с людьми и породят сверхлюдей.
Справедливости ради заметим, что не все лидеры в IT-сфере так оптимистичны. Миллиардеры Билл Гейтс и Илон Маск, оба носившие звание «самого богатого человека в мире», уже выразили опасение по поводу злонамеренного или бесконтрольного