Грядущая волна. Технологии, власть и величайшая дилемма XXI века. Мустафа Сулейман. Саммари. Smart Reading
Мы стоим перед выбором между будущим, полным возможностей, и будущим, полным опасностей. Наступает эпоха передовых технологий, и мы должны быть готовы к ней.
Технологии: история и развитие
Многие новые технологии представляют собой синтез разработок из разных областей науки. Это в чем-то сходно с естественным отбором: эффективные комбинации выживают и становятся основой для дальнейших инноваций. Неэффективные или невостребованные технологии перестают развиваться и в конце концов исчезают. Почти всегда оказывается, что удачные технологии можно использовать не только так, как задумал их создатель. В будущем или почти сразу общество находит им множество вариантов применения.
Томас Эдисон изобрел фонограф для записи своих мыслей и помощи слепым. Слушание музыки с помощью фонографа Эдисон считал легкомысленным. Но это «неправильное использование» породило целую индустрию и навсегда изменило массовую культуру.
Но, как показывает история, технологические прорывы часто приводят к непредвиденным последствиям – это называется «эффектом мести».
Антибиотики настолько вошли в нашу жизнь, что во многих странах их можно купить без рецепта, а врачи прописывают их при любой болезни. В ответ на это наши организмы выработали резистентность и постепенно становятся невосприимчивыми к действию антибактериальных препаратов.
Общества иногда пытались бороться с «эффектами мести», запрещая или отвергая новые технологии, но сопротивление, как правило, оказывалось бесполезным. Эффективные технологии сохранялись, распространялись и развивались, меняя лицо человеческой цивилизации.
Луддиты[1] пытались бороться против промышленной революции и удешевления труда, они уничтожали оборудование на фабриках, но так и не смогли сдержать распространение машин.
По мнению Мустафы Сулеймана, технологии оказываются слишком полезными для того, чтобы общество всерьез решилось их подавлять. И сегодняшняя технологическая революция не исключение. Но широкое распространение новых технологий может привести к глубокому «эффекту мести». Всего человечество пережило около 25 глобальных технологических революций: от выведения домашних растений до нанотехнологий. Между ними были сельскохозяйственная революция, изобретение бронзы, печатного станка, автомобиля, телевидения, смартфона и многое другое.
Любые технологии постепенно становятся все дешевле и доступнее, а каждое следующее нововведение проходит быстрее предыдущего. Это историческая норма и то, чего мы ожидаем от новых волн.
Технологии грядущей волны
Волна, по Мустафе Сулейману, – это совокупность технологических открытий, получающих развитие примерно в одно и то же время и базирующихся на одной или нескольких новых технологиях общего назначения, имеющих глубокие социальные последствия.
Основа грядущей волны – это искусственный интеллект и синтетическая биология. С их помощью происходит развитие робототехники, квантовых компьютеров и альтернативной энергетики.
DQN. В 2012 году в DeepMind работали над системой DQN (Deep Q Learning), которую учили играть в Breakout[2]. Впервые в истории программа не просто научилась играть и передвигать брусок, но и выработала более эффективную стратегию. Это был первый шаг к самостоятельному обучению нейросетей.
AlphaGo. В 2016 году программа AlphaGo обыграла в го чемпиона мира Ли Седоля, профессионала высшего ранга. При разработке программы авторы использовали только элементарную теорию игры в го. Но, обучаясь на партиях профессионалов, программа сама достигла высокого уровня и создала собственные уникальные стратегии.
AlexNet. Глубинное обучение алгоритмов берет свое начало с системы AlexNet. Ее задача – распознать главный предмет на картинке. В 2012 году AlexNet показала феноменальный для отрасли результат – улучшение качества работы на 10 %. Систему продолжили совершенствовать, и сегодня ее принципы работы используются во многих технологиях: от умных камер смартфонов до автопилота Tesla. Успех AlexNet сделал ИИ приоритетом для многих компаний и даже государств.
LLM и ChatGPT. Отдельная веха в развитии ИИ – технология больших языковых моделей (LLM). Они обучаются на простых задачах, таких как предсказание следующего слова в предложении, но с использованием огромного количества неразмеченного материала. Сегодня нейросети могут решать довольно сложные задачи и писать текст с такой связностью, которая всего несколько лет назад казалась невероятной. В марте 2023 года вышла версия ChatGPT-4, которая может написать произведение в стиле любого автора, создать приложение или новое лекарство.
LaMDA и разумный ИИ. Уже сейчас текстовые модели могут убедить человека в своей разумности, как это, к примеру, произошло с инженером Google Блейком Лемуаном. Он заявил, что языковой чат-бот LaMDA рассуждает о своих правах и личности и поэтому он разумен. Позже
Участники стихийных протестов против внедрения машин в Британии в начале XIX века.
Breakout – игра в жанре Arkanoid, в которой нужно двигать платформу, отбивающую мячик, чтобы разбить стенку из брусков.