Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. Шошана Зубофф
между фирмой и ее пользователями оказывается подчиненной производному проекту захвата нашего поведенческого излишка для целей других. Мы больше не являемся субъектами реализации стоимости. Не являемся мы, как настаивают некоторые, и «продуктами» продаж Google. На самом деле, мы – объекты, из которых извлекается и экспроприируется сырье для фабрик прогнозирования Google. Прогнозы относительно нашего поведения – вот продукты Google, и они продаются его подлинным покупателям, а не нам. Мы – средства для достижения целей других людей.
Индустриальный капитализм превратил в товар природное сырье, а надзорный капитализм, чтобы изобрести новый товар, распространил свои притязания на человеческую природу. Теперь уже человеческую природу выскабливают, рвут на части и прибирают к рукам в рамках рыночного проекта нового столетия. Думать, что вред сводится к тому очевидному факту, что пользователи не получают плату за предоставляемое ими сырье, – просто неприлично. Подобная критика – недоразумение, которое позволяет использовать механизмы ценообразования для институционализации и, следовательно, узаконивания извлечения человеческого поведения для производства и продажи. Она игнорирует ключевой момент, состоящий в том, что суть эксплуатации здесь – представление наших жизней в виде поведенческих данных ради усовершенствования контроля над нами со стороны посторонних. Интересные вопросы здесь связаны с тем, что наши жизни вообще представляются в виде поведенческих данных; что условие этого повсеместного превращения – неведение; что право на принятие решения улетучивается еще до того, как мы узнаем, что надо принимать какое-то решение; что некоторые последствия этого урезания прав не можем ни увидеть, ни предсказать; что нет выхода, нет возможности высказаться и нет лояльности, только беспомощность, смирение и психическое онемение; и что шифрование – единственная активная мера, которую нам остается обсуждать, сидя за обеденным столом и обмениваясь случайными мнениями о том, как бы спрятаться от сил, которые прячутся от нас.
2. Средства производства: производственный процесс Google эпохи интернета – критически важный компонент беспрецедентного. Его конкретные технологии и методы, которые я обобщенно называю машинным интеллектом, постоянно развиваются, и легко испугаться их сложности. Один и тот же термин может означать сегодня одно, а через год или через пять лет – нечто совсем другое. Например, по крайней мере с 2003 года велись разговоры о том, что Google разрабатывает и использует «искусственный интеллект», но сам этот термин не стоял на месте, по мере того как возможности эволюционировали от примитивных программ, способных играть в крестики-нолики, к системам, управляющим целыми парками беспилотных автомобилей.
Производственные мощности Google в области искусственного интеллекта питаются поведенческим излишком, и чем больше излишка они потребляют, тем точнее выдаваемые ими прогнозные продукты прогнозирования. Редактор и основатель журнала Wired Кевин Келли однажды предположил, что, хотя кажется, что Google