© "Семь искусств"
  июль 2020 года

865 просмотров всего, 36 просмотров сегодня

Главные средства, способные ограничить наглость надзирающего капитализма, — это «право на частную жизнь» и «монополия». Но ни стремление к соблюдению правил конфиденциальности, ни введение ограничений на традиционную монопольную практику до сих пор не смогли сломать ключевые механизмы накопления — от маршрутов поставок до поведенческих фьючерсных рынков.

[Дебют]Шошана Зубофф

ЭПОХА НАДЗИРАЮЩЕГО КАПИТАЛИЗМА. БОРЬБА ЗА БУДУЩЕЕ ЧЕЛОВЕЧЕСТВА НА ГРАНИ РЕАЛЬНОСТИ

Перевод Сергея Катукова из книги Шошаны Зубофф

Удивлены, в чём прок сего запрета:
Сей фрукт не нов. Они горды собой,
Махнув на порицание за это,
Что могут жить на стороне другой.
У.Х.  ОДЕН
СОНЕТЫ ИЗ КИТАЯ, I.
(Перевод Сергея Катукова)

ГЛАВА ШЕСТАЯ

ЗАХВАТ: ПОДРАЗДЕЛЕНИЕ ПО ИЗУЧЕНИЮ ОБЩЕСТВА

I. Декларации Google

Шошана Зубофф4 декабря 1492 года Колумб, избегая встречных береговых ветров, отплыл с острова, который сейчас называется Куба. Спустя сутки он бросил якорь в виду большого острова, известного его матросам как Кискея или Бохио, положив начало тому, что историки назовут «модель завоевания». Описать её можно в три этапа: юридическое обоснование, чтобы придать вторжению видимость законности, объявление территориальных притязаний и, наконец, основание города, чтобы оправдать и узаконить захват1. Матросы и представить не могли, что этот день впишет себя в историю как событие, плоть и дух которого проложит путь сквозь пространство и время, достигнув цифровой эпохи двадцать первого столетия.

На Бохио Колумб обнаружил процветающую материальную культуру, достойную его чаяний и аппетитов испанской короны. Он узрел золото, искусные каменные и деревянные изделия, «церемониальные пространства… огороженные камнем площадки для игры в мяч… каменные бусы, подвески и стилизованные статуи… изящно вырезанные деревянные троны… замысловатые украшения…». Убеждённый, что остров — венец его исканий, с многообещающими условиями и одарённым населением, он сообщал королеве Изабелле, что «остаётся только подтвердить здесь испанское присутствие и приказать им подчиниться Вашей воле. Поскольку… они в Вашем полном распоряжении, чтобы работать, сеять, делать всё иное, что необходимо, выстроить город, научиться носить одежду и усвоить наши обычаи»2.

Согласно Джону Сёрлю, философу языка, декларация — особый способ говорения и действования, берущий факты из воздуха и формирующий новую реальность, доселе не существовавшую. Вот как это работает: иногда мы просто говорим, чтобы описать действительность: «У тебя карие глаза». Или воздействуем на неё: «Закрой дверь». Декларация сочетает оба способа, заявляя новую реальность, описывая действительность так, будто желаемое уже свершилось: «Все люди созданы равными», «Они в Вашем полном распоряжении». По словам Сёрля, «создавая что-либо, мы объявляем его как уже существовавшее»3.

Не всякая декларация произносится вслух. Иногда мы только описываем, ссылаемся на неё, говорим, думаем об этом, или даже действуем сообразно ситуации таким образом, что «создаём реальность, представляя её как уже существовавшую». Например, официант приносит моему другу и мне две одинаковые тарелки супа и ставит их перед нами. Ничего не говоря, он декларирует, что это две разные тарелки: одна — для моего друга, другая — для меня. Подкрепляется декларация тем, что я ем только из «моей» тарелки, а друг — только из «своей». Опустошив «свою» тарелку и всё ещё голодный, друг просит разрешения взять ложечку бобов из тарелки, стоящей передо мной, ещё больше подтверждая, что это моя тарелка с супом. Таким образом, декларации подтверждаются или отвергаются в силу принятия людьми новых фактов. Сёрль заключает, что «вся реальность институциональна и поэтому… все цивилизации созданы… декларациями»4.

Декларации по существу являются агрессивными, поскольку навязывают обществу новые факты, в то время как те, кто объявляет их, изобретают способы заставить других людей согласиться с этими новыми фактами. Декларация Колумба отражает такую «завоевательную модель», о которой историк Меттью Рестолл пишет:

Испанцы шестнадцатого века неизменно представляют свои деяния и деяния своих соотечественников так, словно предвосхищают завершение завоевательной компании, наполняя хроники завоевания атмосферой неотвратимого. Фраза «испанское завоевание» и подобные проходят через всю историю, поскольку испанцы были весьма заняты изображением своих устремлений как завоеваний и побед, как свершившихся контактов, как провиденциальных намерений, как faits accomplis1*.5

Испанская монархия и конкистадоры горели желанием оправдать своё вторжение, особенно в глазах европейской публики. Специальные мероприятия создавали «вид законности путём цитирования и следования узаконенным прецедентам»6. Так, перед нападением на деревню аборигенов солдат обязывали читать Королевский Эдикт 1513 года, известного как Requerimiento7. Эдикт декларировал, что власть Божья, папы и короля воплощена в конкистадорах, а потому туземные народы объявляются её подданными: «Вы, касики и индейцы этого континента… мы объявляем, да будет вам известно, что есть только один Господь, один папа и один Король Кастилии, владетель сей страны; явитесь без промедления и принесите клятву верности испанскому Королю как его вассалы»8. Далее Эдикт перечислял наказания, которые постигнут мятежных поселян. В этом беспрецедентном и сокрушительном столкновении туземцы были призваны, поставлены в известность и предупреждены на непонятном для них языке без сопротивления признать власть, которую они в глаза не видели. Показательны циничность и лицемерие захватчиков: продвигаясь под покровом ночи среди зарослей, они, перед тем, как напасть на деревню, исполняли свои информаторские обязанности, бормоча длинные параграфы Эдикта себе в бороду. Исполнив свой несложный долг по осведомлению, они тут же приступали к грабежу и насилию. Священник Бартоломе де лас Касас, свидетельствуя об испанских зверствах, писал, что Requerimiento обещал туземцам милосердие в случае покорности, но также присовокуплял список последствий неповиновения. Любое сопротивление приравнивалось к «бунту», узаконивая жестокое «возмездие», превосходящее любое разумное отношение к военнопленным, включая чудовищные пытки, ночные поджоги деревень, публичное повешение женщин: «Причиню вам всё то зло и ущерб, который господин учиняет над вассалами, непокорными или не принимающими его. И провозглашаю, что смерти и разрушения, учинённые так, да будут вашей виной, а не Его Величества, не моей и не тех, кто пришёл со мной»9.

Не правда ли, знакомые формулировки? Перенесённые надзирающим капитализмом уже в наше время, они воплощены в схожих декларациях, точно так же взятых с потолка и впервые объявленных Google. То, что их поддержали и утвердили, стало доказательством грабительской политики таких новых звёзд на небосклоне надзирающего капитализма, как Verizon. Восхищаясь достижениями молодых компаний, основатели Google, их поклонники и восторженная пресса обошли молчанием поразительный момент вторжения и завоевания, скрытый в следующих утверждениях10.

Шесть деклараций заложили фундамент для масштабного вторжения надзирающего капитализма с его грабительским «первородным грехом». Каждая из них должна быть защищена любой ценой, ибо каждая стоит на предыдущей. Падёт одна, падут все остальные:

  • Мы утверждаем, что человеческий опыт является бесплатным сырьем. На основании этого мы можем игнорировать соображения о правах личности, её интересах, осведомленности или понимании сего факта.
  • Далее, мы утверждаем, что имеем право использовать индивидуальный опыт для перевода в поведенческие данные.
  • Наше право брать, основанное на понимании человеческого опыта как бесплатного сырья, дает право владеть поведенческими данными, происходящими из человеческого опыта.
  • Наше право брать и владеть включает право знать, что содержат данные.
  • Наши право брать, владеть и знать включают право решать, как мы используем эти данные.
  • Наше право брать, владеть, знать и решать наделяют нас правами на условия, которые оберегают наше право брать, владеть, знать и решать.

Итак, вступление в эпоху надзирающего капитализма ознаменовалось шестью декларациями, определившими её как эпоху завоеваний. Надзирающий капитализм преуспел в деле агрессивных деклараций, и этот успех выглядит мощной иллюстрацией агрессивного характера декларативных слов и действий, нацеленных на навязывание новой реальности. Конкистадоры двадцать первого века уже не спрашивают разрешения; они идут по выжженной земле, выстилая путь фальшивыми практиками легитимации. Цинично поданные королевские эдикты заменяются цинично перевранным соглашением об условиях предоставления услуг, столь же мутным и невразумительным. Они возвели крепости, яростно защищающие захваченные территории, где собирают силы для новых вторжений. Наконец, они построили целые города с изощрённой коммерческой, политической и культурной инфраструктурой, заявляющие их права и неизбежность свершённого. Эрик Шмидт делал запрос о проверке на предмет законности таких «деклараций», но в Google заверили, что, чтобы быть успешными, не требуется никакой проверки. Что эти декларативные победы стали результатом накопленных за всю историю знаний и власти. Что это бастионы, позволяющие продолжать прогресс. Шмидт кое-что уточнил по этому пункту. Описывая «современные технологические платформы», он говорит: «почти ничто, кроме биологического вируса, не может расширяться так быстро, эффективно и агрессивно, как эти технологические платформы, и это делает людей, создавших, контролирующих и использующих их, столь же мощной угрозой»11.

Благодаря беспрецедентной концентрации знаний и власти надзирающий капитализм достиг господства над разделением обучения в обществе — осевым принципом социального порядка информационной цивилизации. Такое развитие событий тем более опасно, учитывая, что оно беспрецедентно. Оно не сводится к известным угрозам и поэтому неясно, какие выбрать формы борьбы. Каковы принципы нового социального порядка, как надзирающий капитализм распоряжается ими? Эти вопросы рассматриваются далее. Ответы помогают нам осмыслить, чему мы научились, и подготовиться к тому, что ждет впереди.

II. Кто знает?

Предпосылкой этой книги стал важный вопрос, который мне задал молодой директор целлюлозного завода в маленьком южном городке: «Мы собираемся работать на умные машины или машины будут обслуживаться умными людьми?» В течение многих лет после того дождливого вечера я вплотную наблюдала цифровизацию на целлюлозном заводе. Как я писала в книге «В эпоху умных машин», переход к информационным технологиям превратил печатный станок в «электронный текст», ставший для каждого работника главным объектом внимания. Вместо практических задач, связанных с сырьем и оборудованием, выполнение «хорошей работы» стало означать мониторинг данных на экране и овладение навыками понимания, обучения и работы с посредниками такого электронного текста. То, что сегодня кажется обычным, тогда было удивительным.

Эти очевидные изменения, утверждала я, означают глубокую и значительную трансформацию. Определяющий принцип работы — разделение труда — сменился на разделение обучения. Я писала о многих женщинах и мужчинах, которые удивлялись сами и удивляли своих начальников, овладевая новыми интеллектуальными навыками и преуспевая в сложной информацией среде, но я также фиксировала резкие противоречия, сопровождавшие эти достижения, сформулированные как дилеммы знания, управления и власти.

Рассматривая вопрос о разделении обучения, необходимо разрешить эти дилеммы, выраженные в трёх ключевых вопросах. Первый вопрос: «Кто знает?». Это вопрос о распределении знаний и о том, кто имеет, а кто не имеет доступ к этим знаниям. Второй вопрос: «Кто решает?». Это вопрос об управлении: какие люди, учреждения или процессы определяют, кому предоставить обучение, насколько они способны к обучению и как они могут применять свои знания. Какова правовая основа такого управления? Третий вопрос: «Кто решает, кому решать?». Это вопрос о власти. Каков источник власти, которая диктует, делиться знаниями или нет?

Молодой руководитель завода в итоге нашёл ответ на свой вопрос, но он оказался не таким, на который мы оба надеялись. Даже когда у работников целлюлозного завода случались перевесы в борьбе, взгляды Хайека брали верх на самых высоких уровнях, а производственные дисциплины Дженсена находили горячий прием на Уолл-Стрит, где быстро научились навязывать их любой публичной компании. Результатом стала бизнес-модель снижения издержек, ориентированная на аудиторию Уолл-Стрит, которая настаивала на автоматизации и экспорте рабочих мест, а не на инвестировании в интеллектуальные навыки и умения американских рабочих. На вопрос Кто знает? был ответ, что знает машина, а также элитные кадры, владеющие аналитическими инструментами, которые устраняют неполадки и извлекают из информации смыслы. На вопрос Кто решает? был ответ: тонкая рыночная прослойка и её успешные бизнес-модели. Наконец, без двустороннего движения в развитии человеческого и компьютерного потенциала ответом на вопрос Кто решает, кому решать? по умолчанию стал финансовый капитал, связанный с дисциплинами максимизации прибыли акционеров.

Неудивительно, что почти сорок лет спустя Брукингский институт в своём отчете сетует на то, что миллионы американских рабочих «не владеют удовлетворительной квалификацией», столкнувшись со «стремительной цифровизацией». Отчёт убеждает компании «срочно инвестировать в стратегию повышения IT-навыков для руководящих кадров, понимающих, что компьютерные навыки являются ключевым каналом увеличения продуктивности»12. Как могло бы измениться общество, если бы американский бизнес инвестировал в людей так же, как и в машины?

Большинство компаний умным людям предпочитают умные машины, разработав хорошо документированную модель, тогда как сторонники замены машин и алгоритмов человеческим потенциалом ратуют за расширение диапазона рабочих мест. В настоящее время они включают в себя много профессий, далеких от заводского цеха13. В результате, по словам экономистов, возникает «поляризация рабочих мест», когда есть работники с высокой и низкой квалификацией, а автоматизация вытеснила большинство видов деятельности, расположенных когда-то «посередине»14. И хотя некоторые бизнес-лидеры, экономисты и технологи описывают эти изменения как необходимые и неизбежные последствия компьютерных технологий, исследования показывают, что разделение обучения в экономической области отражает давление неолиберальной идеологии, политики, культуры и институциональных моделей. Например, в континентальной и Северной Европе, где ключевые элементы двойного движения сохранились в той или иной форме, поляризация рабочих мест смягчается значительными инвестициями в образование работников, которые в большей степени включены в разделение обучения и производят высококачественные инновационные продукты и услуги15.

Важным для нашей истории является то, что сейчас мы переходим ко второй фазе этого конфликта. Разделение обучения в экономической области производства и занятости имеет решающее значение, и это только начало новой борьбы в рамках еще более широкого вопроса о разделение обучения в обществе. Дилеммы знания, авторитета и власти вышли за пределы рабочего процесса и захлестнули повседневную жизнь. По мере того как люди, процессы и вещи переосмысливаются как информация, разделение обучения в обществе становится всё более важным принципом социального порядка.

Сегодня существует уже совершенно иной электронный текст, шагнувший далеко за пределы фабрики и офиса. Благодаря компьютерам, кредитным картам и телефонам, камерам и датчикам, уснастившим общественные и частные зоны, почти все, что мы делаем, потребляет технологии: они записывают и переводят в код мелочи повседневной жизни — в масштабах, невообразимых ещё несколько лет назад. Мы достигли точки, когда в непрерывном наращивании этого текста мало что ускользает из виду. В следующих главах будет рассмотрено множество иллюстраций того, как этот текст растекается — бесшумно и неумолимо, словно колоссальное масляное пятно, обволакивающее на своем пути абсолютно всё: ваш разговор за завтраком, улицы в вашем районе, размеры вашей гостиной, вашу пробежку в парке.

Мир вокруг и наша жизнь в нём, по существу, стали переработанной информацией. Упомянули в политических дебатах на Facebook о своих прыщах, ищете в Google рецепт или конфиденциальную информацию о здоровье, заказываете хозяйственное мыло или фотографируете своего девятилетнего ребенка, радуетесь или злитесь, смотрите телевизор или ищете парковочное место — всё стало сырьём для этого безудержно разрастающегося текста. Исследователь информации Мартин Гильберт и его коллеги отмечают, что даже фундаментальные элементы цивилизации, включая «язык, культурные ценности, традиции, социальные институты, правила и законы… в настоящее время оцифровываются и впервые переводятся в наглядный код», возвращаясь в общество сквозь фильтр «интеллектуальных алгоритмов», необходимых для управления стремительно плодящимися видами коммерческих, правительственных и социальных функций16. Ключевые вопросы встают на каждом шагу: Кто знает? Кто решает?

III. Надзирающий капитал и два текста

Существуют важные параллели с концом девятнадцатого и началом двадцатого веков, когда разделение труда впервые возникло как наиважнейший принцип социальной организации в зарождающемся индустриальном обществе Европы и Северной Америки. Этот опыт может послужить руководством, предупредив о том, что поставлено на карту. Например, когда молодой Эмиль Дюркгейм писал «О разделении общественного труда», сама тема была ещё спорной. Разделение труда понималось как важнейшее средство увеличения производительности труда через специализацию задач. Адам Смит замечательно описал этот новый принцип применительно к булавочной фабрике, введя эту тему в экономический дискурс и обсуждения в течение всего XIX века. Дюркгейм видел в производительности труда экономический императив индустриального капитализма, доводящий разделение труда до крайней точки, но не это его восхищало.

Дюркгейм, сосредоточившись на новых социальных изменениях, заметил, что «специализация» стала «влиять» на политику, управление, судебную систему, науку и искусство. Оказалось, разделение труда больше не заперто внутри заводских цехов. Оно вырвалось за их пределы, став важнейшим организующим принципом индустриального общества. Ещё один пример проницательности, уже Эдисона: принципы капитализма, первоначально направленные на производство, в конечном счете повлияли на социальную и духовную сферу. «Каково бы ни было мнение о разделении труда, — писал Дюркгейм, — все знают, что оно существует, все в большей и большей мере становясь одним из фундаментальных основ общественного устройства»17.

Экономические императивы предсказуемо требовали разделения труда в производстве, но какова была цель разделения труда в обществе? Этот вопрос мотивировал исследования Дюркгейма, и его выводы столетней давности все еще актуальны сегодня. Он утверждал, что разделение труда объясняет взаимозависимые и взаимовыгодные отношения, связывающие участников индустриального общества в более широкой перспективе объединения. Такие отношения порождают необходимость друг в друге, сотрудничество и уважение, и всё это пронизывает новый организующий принцип моральной силой.

Другими словами, разделение труда возникло в начале XX века на фоне быстро меняющихся условий в связи с недавним появлением нового типа личности, о чем говорилось в предыдущей главе. Это была жизненно необходимая реакция на «новые условия существования». Когда такие люди, как мои прадед и прабабушка, влившись в эмиграцию, стали создавать современный мир, старые источники взаимоотношений, связывавшие сообщества в пространстве и времени, начали уходить в прошлое. Но что в отсутствии племенных и родовых правил и ритуалов сможет удержать общество вместе? Дюркгейм отвечал: разделение труда.

Потребность в новом действенном источнике формы и содержания была причиной, её следствием стал организующий принцип, который приводил в действие и поддерживал здоровое состояние общества. Как объяснял молодой социолог,

«наиболее удивительный эффект от разделения труда не в увеличении продуктивности отдельных функций, а в том, что он сводит их эффективность воедино. Он… не просто украшает или улучшает существующие сообщества, но делает такие сообщества, которые без него не состоялись бы, возможными… Это выходит далеко за пределы чисто экономического интереса, поскольку располагается в основании sui generis2* социального и морального порядка»18.

Эти представления Дюркгейма не были идеалистическим или наивными. Он признавал, что дело может принимать дурной оборот, часто так и происходит, приводя к тому, что он называл «ненормальным» (или «патологическим») разделением труда, когда возникает социальная дистанция, несправедливость и раздор вместо взаимозависимости. В этом контексте Дюркгейм выделил разрушительные последствия социального неравенства при разделения труда, особенно то, что он рассматривал как наиболее опасную форму неравенства: предельную асимметрию власти, которая делает «невозможным сам конфликт», «отказ признать право на борьбу». Такие патологии можно излечить только политикой, признающей право человека на борьбу, сопротивление и возврата полномочий в обществе, где установилась несправедливая и незаконная власть. В конце XIX и на протяжении большей части XX века эта борьба велась трудовыми и другими общественными движениями, утверждавшими социальное равенство посредством таких институтов, как общественный договор и государственное образование.

Изменения, которые мы наблюдаем в наше время, перекликаются с историческими событиями, поскольку разделение обучения, так же, как когда-то разделение труда, движется от экономической области к социальной. Разделение обучения сегодня «выходит далеко за пределы чисто экономического интереса», поскольку располагается в основании нашего социального порядка и является его нравственным содержанием.

Разделение обучения для нас, участников второй современности, то же самое, чем было разделение труда для наших дедушек и прадедушек, пионеров первой современности3*. Происходя из экономической сферы, разделение обучения становится новым принципом социального порядка и в нашем стремлении к успешной жизни отражает главенство обучения, информации и знания. Как и общество времён Дюркгейма столетие назад, сегодня мы тоже стоим перед угрозой, когда разделение обучения может перерасти в патологическое состояние и несправедливость, что связано с беспрецедентной асимметрии знаний и власти, достигнутых надзирающим капитализмом.

Контроль нового капитализма над разделением обучения начинается с того, что я назвала проблемой двух текстов. Специфические механизмы производят вместо одного два «электронных текста». Под первым мы подразумеваем авторов и читателей. Это публичный текст, связанный с информационной вселенной, преподнесённый буквально к кончикам наших пальцев. Поисковик Google раскладывает информационное наполнение Всемирной паутины по полочкам. Новостная лента Facebook пронизывает Сеть. Большая часть этого публичного текста состоит из того, чем мы делимся на страницах: посты, блоги, видео, фотографии, обсуждения, музыка, истории, высказывания, «лайки», твиты и всё великое многообразие проявления нашей жизней, запечатлённой и связанной общением.

Но, находясь под властью надзирающего капитализма, первый текст не стоит особняком: за ним тянется тень. Первый текст, наивный и порывистый, нужен, чтобы возник второй, теневой текст. Из всего, чем мы делимся, каким бы оно ни было пустяковым и сиюминутным, извлекается дополнительная информация. Она-то и есть второй текст, скрытый от наших глаз и предназначенный «только для чтения» надзирающими капиталистами19. Наш опыт, вложенный в первый текст, служит сырьём, накапливаемым и анализируемым для чужих рыночных целей. Теневой текст аккумулирует о нас поведенческую информацию и её анализ, и он говорит о нас гораздо больше, чем мы знаем о себе сами. Хуже того, всё труднее и, вероятно, даже невозможно устраниться от участия в теневом тексте. Как только мы подключаемся к социальной жизни в Сети, он инстинктивно напитывается нашим опытом.

Еще более таинственны пути, которыми наблюдатели, благодаря теневому тексту, формируют в своих интересах новый публичный текст. Существует бесчисленное число разоблачений манипуляций Google и Facebook относительно преподносимой нам информации. Сейчас только отметим, что алгоритмы Google и Facebook собирают и упорядочивают поступающие данные, первый — из поисковых запросов, второй — из новостной ленты. В обоих случаях исследователи выяснили, что манипуляции отражают коммерческие цели каждой корпорации. По словам ученого-юриста Фрэнка Паскуале, «решения в Googleplex принимаются за закрытыми дверями… власть включать, исключать и сортировать информацию — это власть убеждать, что одна информация является важной, а другая — нет… Несмотря на провозглашения об объективности и нейтральности, они постоянно принимают оценочные, противоречивые решения. Они помогают создавать мир, который якобы просто «показывают» нам»20. Но если кто-то заговаривает о теневом тексте, они сразу же скрывают его существование и постоянный рост. Мы — объект его повествования, исключённые из диалога с ним. Будучи источником несметных информационных данных, второй текст про нас, но не для нас. Он создается, поддерживается и используется без нашего ведома в корыстных целях других.

В результате, разделение обучения — это одновременно и иерархический принцип социального порядка информационной цивилизации, и заложник привилегированного положения надзирающего капитализма как инициатора, хозяина и стража текстов. Возможность искажать и контролировать тексты порождает беспрецедентную асимметрию знаний и власти, поступающей точно так, как этого опасался Дюркгейм: относительная свобода действий в рамках рыночной формы и неразборчивость в методах позволяет контролировать разделение обучения без нашего участия и без средств на борьбу. Когда заходит речь о жизненно важных вопросах, надзирающий капитал собирает волю в кулак и заявляет об исключительной компетенции предоставить нам все ответы. Однако компетенции недостаточно. Надзирающий капитализм всего лишь предоставляет материальную инфраструктуру и необходимый кадровый состав, чтобы управлять разделением обучения в обществе.

IV. Новое жречество

Ученые предупреждают, что производство информации значительно превышает возможности её обработки и хранения, учитывая, что технологически ёмкость накопителей памяти удваиваются примерно каждые три года. В 1986 году только 1% мировой информации был оцифрован, а в 2000 году — 25%. К 2013 году прогресс цифровизации и датификации (использование программного обеспечения, позволяющего компьютерам и алгоритмам обрабатывать и анализировать данные) в сочетании с новыми и более дешевыми технологиями хранения данных перевел 98% поступающей информации в цифровой формат21.

Информация оцифрована, но её объемы превосходят нашу способность обработки. Чтобы решить проблему, специалист по информатике Мартин Гильберт советует: «… единственное, что нам остаётся, чтобы разобраться с данными, — выбивать клин клином», то есть использовать «компьютеры с искусственным интеллектом», «просеивая огромные объемы информации… Facebook, Amazon и Google обещают… с помощью интеллектуального компьютерного анализа отделить зёрна от плевел»22. В свете усиления надзирающего капитализма этот совет приобретает мрачную окраску. Но Гильберт только констатирует привилегированное положение капиталистов-наблюдателей и асимметрию власти.

Превосходство Google опирается на перечисленные ранее источники: декларации, технологические мощности, законодательные уловки, исключительное положение в системе использования данных, трудности адаптации людей в условиях второй современности и так далее. Но его мощь не была бы столь действенной без колоссальной материальной инфраструктуры, построенной на доходы от слежения за пользователями. Google — пионер в области «гипермасштабирования», является «крупнейшей компьютерной сетью на Земле»23. Гипермасштабные операции необходимы компаниям, чья деятельность связана с большими объёмами информации, — это область телекоммуникации и глобальных платежей, дата-центры которых требуют миллионы «виртуальных серверов», экспоненциально увеличивающие вычислительные возможности без существенного расширения физического пространства, охлаждения или потребления электроэнергии24. Машинный интеллект, лежащий в основе устрашающего доминирования Google, описывается как «80-процентная инфраструктура», система, включающая специально построенные, размером со склад дата-центры, охватывающие 15 местоположений, а в 2016 году он оценивался в 2,5 миллиона серверов на четырех континентах25.

Инвесторы считают, что Google сегодня «догнать труднее, чем когда-либо», т.к. недостижимым его делает связка масштабов инфраструктуры и использование науки. Как «компания полного цикла в области ИИ» Google использует собственные хранилища данных для обучения своих алгоритмов, работающих на своих чипах, развернутых в своём облаке». Его доминирование усугубляется тем, что машинное обучение напрямую зависит от объёма данных, на которых обучается, а у Google этих данных больше всех26. К 2013 году компания поняла, что переход на «нейронные сети», определяющие современные границы искусственного интеллекта, существенно увеличит объём вычислений и потребует удвоения количества дата-центров. Как выразился Урс Хёльцле, старший вице-президент Google технического подразделения, «посконная правда [ИИ] в том, что он требует безумного количества вычислений, чтобы действительно натренировать сеть». Если бы компания попыталась обработать растущую вычислительную нагрузку обычными процессорами, — объяснил он, — «Нам пришлось бы удвоить объем ресурсов Google — дата-центры и сервера — только чтобы распознать три-две минуты речи одного пользователя Android в день»27.

Дата-центры стали крупнейшими промышленными продуктами компании, а их мощности — наибольшими эксплуатационными затратами, таким образом Google изобрёл свой путь через инфраструктурные кризисы. В 2016 году было объявлено о создании нового чипа для «логического глубокого обучения» под названием tensor processing unit (TPU)4*. TPU резко увеличит способности машинного интеллекта Google, потребляя всего лишь часть мощностей традиционных процессоров, при этом капитальные затраты и производственный бюджет снизятся, а обучение ускорится28.

Общая выручка от продукции и услуг ИИ увеличится в 56 раз, с 644 млн долл. в 2016 году до 36 млрд долл. в 2025 году29. Среди хай-тек компаний началась настоящая гонка за специалистами, которых на планете около 10 000, способных использовать силу ИИ против бурлящего материка неупорядоченных данных. Компания Google/Alphabet сегодня самый агрессивный стяжатель технологий ИИ и талантов в этой сфере. В 2014-2016 годах она приобрела девять компаний, специализирующихся в области ИИ, что вдвое больше, чем его ближайший конкурент Apple30.

Привлечение талантов в Google отражает более широкую тенденцию. В 2017 году в США было выделено более 650 млн долл. на рекрутинг специалистов, а это более 10 000 вакансий ведущих работодателей по всей стране. Топ-5 корпораций имеют необходимый капитал, чтобы вытеснить конкурентов: стартапы, университеты, муниципалитеты, корпорации в других отраслях и менее богатые страны31. Руководство британских университетов уже поговаривает о «потерянном поколении» ученых, специалистов в области данных. Огромные зарплаты в отрасли вызвали отток специалистов из сферы образования, так что почти не осталось тех, кто будет обучать следующее поколение студентов. Один ученый описал это так: «Главная проблема в том, что эти люди не распределены в обществе. Интеллект и опыт сконцентрированы в малом числе компаний»32.

Благодаря финансовым вливаниям в рекрутинг, Google всего за несколько лет утроил число своих специалистов в сфере ИИ, возглавив список компаний, чьи сотрудники являются авторами самых престижных научных журналов — в 2016 году их было в четыре-пять раз больше, чем авторов из других компаний по всему миру. В условиях надзирающего капитализма ученые больше не привлекаются для решения проблемы голода или «парникового эффекта». Теперь они призваны обрушить цитадель человеческого опыта, перемалывая его в данные и претворяя в нового рыночного колосса, который создаёт богатства через соглядатайство, воздействие и контроль над человеческим сознанием.

Более шестисот лет назад печатный станок упростил доступ простых людей к письменности, сохраняя их молитвы, избавляя от посредничества священников и влагая сакральное слово в руки молящихся. Для нас в порядке вещей, что интернет позволяет беспрепятственно распространять информацию, донося всё больше знаний до всё большего числа людей: мощная демократизирующая сила экспоненциально продолжает революцию Гутенберга в жизни миллиардов людей. Но наряду с этим великим достижением исподволь и незаметно появилась новая сила, цель которой исключать, запутывать и скрывать. Конкурентная борьба за доходы от слежения за пользователями возвращает нас к догутенберговым порядкам: разделение знания становится патологическим, захваченное жреческой кастой профессионалов, их корпоративными машинами и экономическими интересами, ради которого и происходит это разделение.

V. Присвоение разделения знаний

Разделение обучения было захвачено надзирающим капитализмом. При отсутствии устойчивого двойного движения, при котором демократические институты и гражданское общество обязывали бы информационный капитализм действовать в интересах людей — пусть и недостаточно хорошо — мы отброшены к такой рыночной форме, при которой компании имеют все возможности осуществлять это разделение. Специалисты в сфере ИИ знают об этом, но едва предполагают о далеко идущих последствиях. Как пишет специалист по обработке данных Педро Домингос: «Побеждает тот, у кого лучшие алгоритмы и больше данных… Преимущества и крупная доля рынка позволяет Google лучше знать о ваших желаниях… Побеждает тот, кто учится быстрее всех…» The New York Times сообщает, что рабочее место генерального директора (CEO) Google Сундара Пичаи теперь находится рядом с исследовательской лабораторией и отмечает это как тренд среди CEO: буквально брать власть в свои руки33.

Чуть больше тридцати лет назад ученый-юрист Спирос Симитис опубликовал основополагающее эссе на тему конфиденциальности в информационном обществе. Симитис рано понял, что едва наметившиеся тенденции в «обработке информации», общественной и частной, таят угрозу выхода за рамки понимания конфиденциальности и владения данными: «Персональная информация все чаще используется для коррекции поведения. Обработка информации, таким образом, обращается в важнейший элемент долгосрочных стратегий манипулирования, чтобы формировать и менять поведение индивидуума»34. Симитис утверждал, что этот тренд не только несовместим с соблюдением конфиденциальности, но и с сущностью демократии, характеризующейся такими возможностями свободы личности, как автономность морального суждения и самоопределения.

Основываясь на работе Симитиса, Пол М. Шварц, профессор Университета Беркли, предупреждал в 1989 году, что компьютеризация нарушит хрупкий баланс прав и обязанностей, от которого зависит закон о неприкосновенности частной жизни: «Сегодня огромные объемы персональных данных, записанные в компьютерах, угрожают приватности, т.к. прежняя правовая защита устаревает». Самое важное предвидение Шварца, что масштаб перманентного кризиса вынужденно ведёт к рискам, превосходящим возможности закона о неприкосновенности частной жизни: «Опасность компьютера — в угрозе личностной автономии. Чем больше известно о человеке, тем легче его контролировать. Залогом свободы, питающим демократию, является ограничение общественного использования информации и даже допущение некоторого её сокрытия»35.

Симитис и Шварц ощущали нарастающее разделение знаний как осевого принципа новой компьютеризированной социальной среды, но не предвидели господства надзирающего капитализма и его последствий. Внезапное вторжение информационного материка сдвигает несущую ось социального порядка от разделения труда к разделению знаний, при котором новые капиталисты овладевают игровым полем и единолично претендуют на непропорциональную долю в принятии решений, формирующих разделение знаний.

Новые капиталисты актами цифрового обезземеливания создают новый род контроля за личностью, населением и целыми обществами. Жертва этого контроля — неприкосновенность частной жизни, защитить которую можно, изменив дискурс приватности, законодательства и судебных решений. «Вторжение в частную жизнь» изменяет наши представления о социальном неравенстве, но оно не приходит в одиночку. Это системное явление «патологического» разделения знаний, при котором надзирающий капитализм знает, решает и решает, кому решать. Требовать конфиденциальности или прекращения коммерческой слежки в интернете — все равно, что просить, чтобы каждый автомобиль Генри Форда собирался вручную или чтобы жираф укоротил себе шею. Это невозможно, поскольку нарушает базовые механизмы и законы, помогающие новому Левиафану накапливать знания, власть и богатства.

Итак, нам известно, что новый капитализм глубоко антидемократичен, его власть не исходит от государства, как складывалось исторически. Его воздействие не сводятся к технологиям или плохим намерениям плохих людей; они — результат последовательной, внутренне безупречной и успешной логики накопления. В условиях нехватки правовых норм в новых обстоятельствах надзирающий капитализм достиг в США процветания. Захватив Европу, теперь он совершает набеги во все уголки мира. Компании, начиная с Google, обогащаются, накапливая и обрабатывая поведенческие данные. Их знания о нас огромны, но нам доступ к ним заказан: они таятся в теневом тексте, открытого только новым жрецам, их хозяевам и машинам.

Беспрецедентной концентрации знаний соответствует подобная же концентрация власти: такой перекос следует считать несанкционированным присвоением разделения общественных знаний. Всесильный частный интерес навязывает новый принцип социального устройства, о чём век назад предупреждал Дюркгейм: промышленный капитал извращает принцип разделения труда. Истинное состояние дел хорошо известно в корпорациях. Рынок за всех решает. Та самая капиталистическая конкурентная борьба, которая решает, кому решать.

VI. Власть беспрецедентного: введение в тему

В двадцатом веке борьба за власть шла между промышленным капиталом и трудом, но в двадцать первом надзирающий капитализм бросает вызов уже всему обществу, каждому человеку. Борьба за прибыль проходит через наши тела, дома и города, настолько жестокая, какой мир еще не знал. Надзирающий капитализм — не «что-то там», на производстве и в офисах. Он нацелен на то, что здесь… на нас.

Мы не просто попали в засаду и обезоружены. Нас застигли врасплох, никто не мог вообразить подобного вторжения и ограбления, точно так же, как ничего не подозревающие касики таино5* не могли предвидеть реки крови, которыми обратятся их гостеприимные жесты к волосатым, хрипящим, потным adelantados6*, когда те, возникнув словно из ниоткуда, победоносно маршировали по берегу со своими монаршими и папскими знамёнами. Почему мы медлили, распознавая грабительский «первородный грех» нового капитализма? Подобно таино, мы столкнулись с чем-то совершенно новым, чего не было в истории: с беспрецедентным. Как и они, мы можем потерпеть катастрофу, если будем оценивать новые угрозы, оборачиваясь на старый опыт.

Что касается «предложения», то капиталисты вероломно использовали весь арсенал деклараций, утверждая власть и легитимность в новом цифровом мире. Они декларировали, чтобы брать без разрешения. Маскируя цели труднообъяснимыми машинными операциями, двигаясь на предельных скоростях, они воплощали в жизнь корпоративные практики, одурачивали риторическими убеждениями, приучали быть беспомощными, целенаправленно присваивая культурные знаки и символы, связанные с темами второй современности — эмансипация, соучастие, право голоса, внимание к личности, сотрудничество — и ловко манипулировали страхами людей второй современности, брошенных в противоречие между личными устремлениями и общественным безразличием.

Действуя таким образом, пионеры надзирающего капитализма в Google и Facebook обошли этику корпоративного управления и отклонили демократические принципы, притязая на финансовое и политическое влияние. Кроме того, они извлекли прибыль, памятуя о временах, когда управление приравнивалось к тирании, особенно в ситуации, связанной с террористическими атаками 11 сентября, когда потребовалась исключительность надзора — это позволило новому рынку еще больше укорениться и процветать. Целеустремлённость и плоды нового капитализма, которые могут быть полезными и создают привлекательное и обманчивое впечатление, — всё это разбивается о безжалостную эффективность в уничтожении пространства демократических обсуждений, социальных дебатов, индивидуального самоопределения и права на борьбу, поскольку закрывают пути выхода из нового порядка.

Что касается «спроса», то люди второй современности, изголодавшиеся по доступным ресурсам, были настолько восхищены изобилием мешков с рисом и сухим молоком, которые им вышвыривали из грузовиков, что никто не обращал внимание на водителей и направление движения. Мы нуждались в них; казалось, не сможем без них жить. Но, присмотревшись, увидели, что эти долгожданные грузовики — безжалостные механизмы вторжения и завоевания: скорее, «Безумный Макс», чем Красный Крест, скорее, «Чёрные паруса»7*, чем круизный лайнер. Чародеи, рулившие вдоль холмика и лощинки, зыркали, как бы чего стащить себе в фургон, без обиняков полагая это за свою добычу.

Без ясного взгляда на этот новейший тип обогащения любая попытка понять, предсказать, регулировать или запретить деятельность новых капиталистов потерпит неудачу. Главные средства, способные ограничить наглость надзирающего капитализма, — это «право на частную жизнь» и «монополия». Но ни стремление к соблюдению правил конфиденциальности, ни введение ограничений на традиционную монопольную практику до сих пор не смогли сломать ключевые механизмы накопления — от маршрутов поставок до поведенческих фьючерсных рынков. Напротив, капиталисты расширили и усложнили способы получения знаний из всех областей человеческой деятельности, овладев практическими и политическими навыками. Сегодня надзирающий капитализм угрожает важнейшим принципам социального порядка в условиях информационной цивилизации, самовольно беря на себя управление разделением знаний в обществе.

Если предстоит борьба, пусть это будет борьба за капитализм. Пусть она начнётся с утверждения, что надзирающий капитализм опасен как для общества, так и для самого себя. Ведь это не просто какая-то технологическая организация, не программа продвинутого шифрования, улучшающая анонимность или владение данными. Эти механизмы делают коммерческий шпионаж всего лишь неизбежным. Остаётся только уходить в оффлайн, уступая контроль тем, кто наживается за наш счёт. Надзирающий капитализм завязан на социальное, только в и через общее коллективное взаимодействие можно отвоевать позитивные возможности информационного капитализма, способного воплотиться в процветание третьей современности.         

Примечания

1*    Свершившиеся факты (фр.) – здесь и далее прим. переводчика.

2*    Единственный в своём роде (лат.).

3*    Об этом речь шла в предыдущей главе.

4*    Тензорный процессор, разработанный в Google.

5*    Таино – коренное население островов Карибского моря. Касики – вожди племён таино.

6*   Аделантадо – в колониальной Испании титул конкистадора, который направлялся королём на исследование и завоевание новых земель.

7*    “Black Sails” — американский приключенческий телесериал о пиратах.

1          Matthew Restall, Seven Myths of the Spanish Conquest (Oxford: Oxford University Press, 2004), 19.

2          See Felipe Fernández-Armesto, 1492: The Year the World Began (New York: HarperOne, 2010), 196.        

3          John R. Searle, Making the Social World: The Structure of Human Civilization (Oxford: Oxford University Press, 2010), 85-86.

4          Searle, Making the Social World, 13.

5          Restall, Seven Myths, 65.

6          Restall, 19.

7          For a fascinating analysis of the Requirimiento, see Paja Faudree, “How to Say Things with Wars: Performativity and Discursive Rupture in the Requerimiento of the Spanish Conquest,” Journal of Linguistic Anthropology 22, no. 3 (2012): 182-200.

8          Bartolomé de las Casas, A Brief Account of the Destruction of the Indies (Penguin Classics), Kindle 334-38.

9          de las Casas, A Brief Account, 329-33.

10 David Hart, “On the Origins of Google,” National Science Foundation, August 17, 2004, http://www.nsf.gov/discoveries/disc_summ.jsp?cntn_id=100660&org=NSF.

11 Eric Schmidt and Jared Cohen, The New Digital Age: Transforming Nations, Businesses, and Our Lives (New York: Vintage, 2014), 9-10.

12 Mark Muro et al., “Digitalization and the American Workforce,” Metropolitan Policy Program, Brookings Institution, November 15, 2017, https://www.brookings.edu/research/digitalization-and-the-american-workforce. As the report observes,

            In 2002, a one-point increase in digitalization score predicted a $166.20 (in 2016 dollars) increase in real annual average wages for occupations with the same education requirements. By 2016 this wage premium had almost doubled to $292.80. In sum, workers with superior digital skills are more and more earning higher wages (all other things being equal) than similarly educated workers with fewer digital skills… Thus, a sizable portion of the nations critical middle-skill employment now requires dexterity with basic IT tools, standard health monitoring technology, computer numerical control equipment, basic enterprise management software, customer relationship management software like Salesforce or SAP, or spreadsheet programs like Microsoft Excel… In sum, tens of millions of jobs that provide the best routes toward economic inclusion for workers without a college degree turn out to be less and less accessible to workers who lack basic digital skills. (23-24, 33)

13 Philipp Brandes, Roger Wattenhofer, and Stefan Schmid, “Which Tasks of a Job Are Susceptible to Computerization?” Bulletin of EATCS 3, no. 120 (2016), http://bulletin.eatcs.org/index.php/beatcs/article/view/467; Carl Benedikt Frey and Michael Osborne, “The Future of Employment: How Susceptible Are Jobs to Computerisation?” Technological Forecasting and Social Change 114 (September 17, 2013): 254-80; Seth G. Benzell et al., “Robots Are Us: Some Economics of Human Replacement” (National Bureau of Economic Research, 2015), http://www.nber.org/papers/w20941; Carl Benedikt Frey, “Doing Capitalism in the Digital Age,” Financial Times, October 1,2014, https:, www.ft.com/content/293780fc-4245-lle4-9818-00144feabdc0.

14 Frey and Osborne, “The Future of Employment”; Martin Krzywdzinski. “Automation, Skill Requirements and Labour-Use Strategies: High-Wage and Low-Wage Approaches to High-Tech Manufacturing in the Automotive Industry” New Technology, Work and Employment 32, no. 3 (2017): 247-67, https://doi.org/10.1111/ntwe.12100; Frey, “Doing Capitalism»; William Lazonick, “Labor in the Twenty-First Century: The Top 0.1% and the Disapearing Middle-Class” (working paper, Institute for New Economic Thinking. February 2015), https://www.ineteconomics.org/research/research-papers/labor-in-the-twenty-first-century-the-top-0-1-and-the-disappearing-middle-class; Dirk Antonczyk, Thomas DeLeire, and Bernd Fitzenberger, “Polarization and Rising Wage Inequality: Comparing the U.S. and Germany» (IZA Discussion Paper, Institute for the Study of Labor, March 2010), https://ideas.repec.org/p/iza/izadps/dp4842.html; Erik Brynjolfsson and Andrew McAfee, The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (New York: W. W. Norton, 2016); Daron Acemoglu and David Autor, “What Does Human Capital Do? A Review of Goldin and Katzs ‘The Race Between Education and Technology,’” Journal of Economic Literature 50, no. 2 (2012): 426-63; Sang Yoon Lee and Yongseok Shin, Horizontal and Vertical Polarization: Task-Specific Technological Change in a Multi-Sector Economy” (SSRN Scholarly Paper, Rochester, NY: Social Science Research Network, March 1, 2017), https://papers.ssrn.com/abstract=2941261.

15 Kathleen Thelen, Varieties of Liberalization and the New Politics of Social Solidarity (Cambridge: Cambridge University Press, 2014); Olivier Giovannoni, «What Do We Know About the Labor Share and the Profit Share? Part HI: Measures and Structural Factors” (working paper, Levy Economics Institute at Bard College, 2014), http://wwwlevyinstitute.org/publications/what-do-we-know-about-the-labor-share-and-the-profit-share-part-3-measures-and-structural-factors; Francisco Rodriguez and Arjun Jayadev, “The Declining Labor Share of Income,” Journal of Globalization and Development 3, no. 2 (2013): 1-18; Antonczyk, DeLeire, and Fitzenberger, “Polarization and Rising Wage Inequality”; Duane Swank, “The Political Sources of Labor Market Dualism in Postindustrial Democracies, 1975-2011” (American Political Science Association Annual Meeting, Chicago: Social Science Research Network, 2013), https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2299566; David Jacobs and Lindsey Myers, “Union Strength, Neoliberalism, and Inequality: Contingent Political Analyses of US Income Differences Since 1950,” American Sociological Review 79 (2014): 752-74; Viki Nellas and Elisabetta Olivieri, “The Change of Job Opportunities: The Role of Computerization and Institutions” (Quaderni DSE Working Paper, University of Bologna & Bank of Italy, 2012), http://papers.ssrn.com/sol3/papers.cfm?abstract_id=1983214; Ian Gough, Anis Ahmad Dani, and Harjan de Haan, “European Welfare States: Explanations and Lessons for Developing Countries,” in Inclusive States: Social Policies and Structural Inequalities (Washington, DC: World Bank, 2008).

16 Martin R. Gillings, Martin Hilbert, and Darrell J. Kemp, “Information in the Biosphere: Biological and Digital Worlds,” Trends in Ecology and Evolution 31, no. 3 (2016).

17 Emile Durkheim, The Division of Labor in Society (New York: Free Press, 1964), 41.

18 Durkheim, The Division of Labor, 60-61.

19 Harvard legal scholar John Palfrey observed the “read-only” nature of electronic surveillance in his wonderful 2008 essay, “The Public and the Private at the United States Border with Cyberspace,” Mississippi Law Journal 78 (2008): 241-94, especially 249.

20 Frank Pasquale, The Black Box Society (Cambridge, MA: Harvard University Press, 2015), 60-61.

21 Martin Hilbert, “Toward a Synthesis of Cognitive Biases: How Noisy Information Processing Can Bias Human Decision Making,” Psychological Bulletin 138, no. 2 (2012): 211-37, https://doi.org/10.1037/a0025940; Martin Hilbert, “Big Data for Development: From Information- to Knowledge Societies” (United Nations ECLAC Report, Social Science Research Network, 2013), 4, http://papers.ssrn.com/sol3/papers.cfm?abstract_id=2205145; Viktor Mayer-Schonberger and Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, Work, and Think (Boston: Houghton Mifflin Harcourt, 2013), 9.

22 Hilbert, “Toward a Synthesis of Cognitive Biases.”

23 Paul Borker, “What Is Hyperscale?” Digital Realty, February 2,2018, https://www.digitalrealty.com/blog/what-is-hyperscale; Paul McNamara, “What Is Hyperscale and Why Is It so Important to Enterprises?» http://cloudblog.ericsson.com/digital-services/what-is-hyperscale-and-why-is-it-so-important-to-enterprises; James Manyika and Michael Chui. “Digital Era Brings Hyperscale Challenges,” Financial Times, August 13, 2014, http://www.ft.eom/intl/cms/s/0/t3005lb2-1e36-11e4-bb68-00144feabdc0.html?siteedition»intl#axzz3JJXPNno5; Cade Metz, “Building an Al Chip Saved Google from Building a Dozen New Data Centers,” Wired, April 5,2017, https://www.wired.com/2017/04 /building-ai-chip-saved-google-building-dozen-new-data-centers.

24 Smaller firms without hyperscale revenues can leverage some of these capabilities with cloud computing services.

25 Catherine Dong, “The Evolution of Machine Learning,” TechCrunch, August 8, 2017, http://social.techcrunch.com/2017/08/08/the-evolution-of-machine-learning; Metz, “Building an Al Chip”; “Google Data Center FAQ,” Data Center Knowledge, March 16,2017, http://www.datacenterknowledge.com /archives/2017/03/16/google-data-center-faq.

26 ARK Investment Management, “Google: The Full Stack Al Company,” Seeking Alpha, May 25,2017, https://seekingalpha.com/article/4076671-google-full-stack-ai-company; Alon Halevy, Peter Norvig, and Fernando Pereira, “The Unreasonable Effectiveness of Data,” Intelligent Systems, IEEE 24 (2009): 8-12, https://doi.org/10.1109/MIS.2009.36.

27 See Tom Krazit, “Googles Urs Holzle Still Thinks Its Cloud Revenue Will Catch Its Ad Revenue, but Maybe Not by 2020,” GeekWire, November 15,2017,

            https://vnvw.geekwire.com/2017/googles-urs-holzle-still-thinks-cloud-revenue.will-catch-ad-revenue-maybe-not-2020.

28 Norm Jouppi, “Google Supercharges Machine Learning Tasks with TPU Custom Chip,” Google Cloud Platform Blog, May 18,2016, https://cloudptaform.googleblog.com/2016/05/Google-supercharges-machine-leaming-tasks-with-custom-chip.html; Jeff Dean and Urs Holzle, “Build and Train Machine Learning Models on Our New Google Cloud TPUs,” Google, May 17,2017, https://blog.google/topics/google-cloud/google-cloud-ofier-tpus-machine-learning; Yevgeniy Sverdlik, “Google Ramped Up Data Center Spend in 2016,” Data Center Knowledge, February 1,2017, http://www.datacenterknowledge.com/archives/2017/02/01/google-ramped-data-center -spend-2016; Courtney Flatt, “Google’s All-Renewable Energy Plan to Include Data Center in Oregon,” Oregon Public Broadcasting December 6,2016, http:/ www.opb.org/news/article/google-says-it-will-consume-oniy-renewable-energy.

29 Michael Feldman, “Market for Artificial Intelligence Projected to Hit $36 Billion by 2025,” Top500, August 30, 2016, https://www.top500.org/news/market-for-artificial-intelligence-projected-to-hit-36-billion-by -2025.

30 Kevin McLaughlin and Mike Sullivan, “Googles Relentless Al Appetite,” Information, January 10,2017, https://www.theinformation.com/googles-relentless-ai-appetite.

31 Cade Metz, “Tech Giants Are Paying Huge Salaries for Scarce A.I. Talent,” New York Times, October 22,2017, https://www.nytimes.com/2017/10/22/technology/artificial-intelligence-experts-salaries.html; “Artificial Intelligence Is the New Black,” Paysa Blog, April 18,2017, https://www.paysa.com/blog/2017/04/17/artificial-intelligence-is-the-new-black.

32 Ian Sample, “Big Tech Firms Al Hiring Frenzy Leads to Brain Drain at UK Universities,” Guardian, November 2,2017, http://www.theguardian.com/science/2017/nov/02/big-tech-firms-google-ai-hiring-frenzy-brain-drain-uk-universities.

33 Pedro Domingos, The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World (New York: Basic, 2015), 12-13; Cade Metz, “Why A.I. Researchers at Google Got Desks Next to the Boss,” New York Times, February 19,2018, https://www.nytimes.com/2018/02/19 /technology/ai-researchers-desks-boss.html.

34 Spiros Simitis, “Reviewing Privacy in an Information Society,” University of Pennsylvania Law Review 135, no. 3 (1987): 710, https://doi.org/10.2307 /3312079.

35 Paul M. Schwartz, “The Computer in German and American Constitutional Law: Towards an American Right of Informational Self-Determination,” American Journal of Comparative Law 37 (1989): 676.

Share

[Дебют]Шошана Зубофф: Эпоха надзирающего капитализма. Борьба за будущее человечества на грани реальности: 13 комментариев

  1. sergey

    Спасибо за положительные отзывы и критику перевода одной из глав книги.
    Данная глава была выбрана, как правильно предположили, за, с одной стороны, провокационность — яркий образ: конкистадоры, силой и обманом покоряющие аборигенов Нового Света (то бишь незащищённых пользователей Сети), с другой стороны, за промежуточные итоги описанного в предыдущих главах. Не всё важное вошло в неё: например, нет описания такого механизма, как поведенческие фьючерсные рынки, когда на основе пользовательских данных (по сути, используемых без спроса), корпорации вроде Гугл формируют цифровые профили пользователей, могут предсказывать, и, более того, формировать их поведение в будущем.
    Кроме того, эти данные (нам говорят, что в неперсонализированном виде) продаются другим компаниям. В виде статистических данных. Но кто знает, что происходит на самом деле. Гугл не забывает ничего. Всё документируется с предельной точностью и используется для машинного обучения. И чем это может обернуться в будущем, неизвестно.
    В этом, на мой взгляд, главная миссия Ш. Зубофф — быть алармистской. Пусть иногда слишком далеко заходящей.
    Я прочитал далеко не всю книгу. Она большая, местами занудная (мне больше по душе художественная литература:) ) и иногда неоправданно демагогична (но это — на мой взгляд. Если рассматривать книгу как своего рода манифест предупреждения о цифровом будущем, то это может быть и оправдано).
    Кстати, в комментариях писали о Круппе, и в книге он действительно сравнивается с Гугл. Но чаще это происходит с производством и идеологией Форда.
    Что касается того, бояться Гугла или нет: на мой взгляд, это машина, механизм, инфраструктура, знания, которые могут быть как на благо, так и на беду. Главное — люди, которые стоят за этим. А они во многом — «тёмные лошадки».

  2. Игорь Ю.

    Мне кажется, уважаемый Бенни, что ваша конкретная критика не совсем справедлива. Это ведь только одна из многих глав большой книги. Что в других главах, не знаю, не читал. Возможно, эта глава и была выбрана для перевода именно из-за ее провокативности.
    Что же касается почти всех остальных отзывов, то скажу очень цивилизованно — я с ними не согласен. В их основе лежит старое и глубоко внутреннее убеждение в НЕ зловредности западной либеральной демократической модели государства и в том, что коротко сформулировал наш общий товарищ: «Я ничего плохого для государства не сделал, и мне нечего его бояться». Оба подхода говорят о глубокой вере в наше государство (наше — американское) и оба, на мой взгляд, ошибочны. Трагедийно ошибочны

    1. Элла Грайфер

      В их основе лежит старое и глубоко внутреннее убеждение в НЕ зловредности западной либеральной демократической модели государства и в том, что коротко сформулировал наш общий товарищ: «Я ничего плохого для государства не сделал, и мне нечего его бояться».

      Ну, про меня это не совсем так. Модель в любом случае на ладан дышит, надеяться на нее смешно и очень даже есть, чего бояться, только не в гугле опасность. Если я свои взгляды в интернете объявляю открыто, никаких хитрых алгоритмов отлавливания меня не требуется, а если я этого не делаю — это не значит, что меня минет чаша сия, в 37-м реальной вины никто не искал, ее рисовали. Разумеется, в случае чего можно использовать и интернет, коль скоро он уже существует, но ОНИ и без него прекрасно справляются. опасность не в нем.

      1. Benny B

        Элла Грайфер: …. только не в гугле опасность. …
        =======
        Верно. В эпоху невиданного прежде материального изобилия — опасность тоталитаризма она в ЗАВИСИМОСТИ слишком многих людей от гуманненько-тоталитарных доброхотов Большого Государства, Больших Корпораций и прочих богатых и влиятельных «патрициев».

        Задача Морального Государства это косвенно(!!!) создавать условия, когда массы граждан бы на личном примере убедились, что им ОЧЕНЬ ВЫГОДНО стремится уменьшить свою зависимость от «доброхотов государства и корпораций» и полагаться на порядочность, трудолюбие, личную ответственность и прочие ценности иудео-христианской цивилизации — полагаться у себя, у своих близких и у уважаемых тобой людей.

        Для этого моральному государству надо постепенно отменять «увеличивающие зависимость» гос. регуляции (бизнеса, образования, науки, полиции, прокуратуры и всего остального) и постепенно вводить «защищающие свободу и поощряющие личную ответственность» гос. регуляции.

        Например:
        1) Законодательно защищать свободу любого желающего платить наличными за покупки в магазинах. Доброхоты из гуглов против — ну так пошли они к чёрту.
        2) Законодательно разобраться, являются ли монополисты ФБ, Твитер и т.д. «издателями контента» или «нейтральными платформами».

  3. Benny B

    Статья упускает самое-самое главное: манипуляции нескольких мега-корпораций с монопольно собранными ими «больших данных» о гражданах это второй уровень манипуляций, требующий первого уровня — их-же манипуляций с цензурой «маленьких данных». От профессора экономики и бизнес-администрацию в Гарварде я ожидаю лучшего освещения темы.

    Конкретно:

    1) Сначала надо законодательно разобраться, являются ли монополисты ФБ, Твитер и т.д. «издателями контента» или «нейтральными платформами»: это легче всего концептуально, технически и законодательно — и именно это будет иметь максимальный эффект для Свободы Слова.

    2) Только на следующем этапе можно и нужно законодательно разобраться с цензурой в веб-поиске у монополиста поиска Гугла.
    Это website-specific и query-word-specific «коэффициентами поиска», то есть «чёрные списки» скрываемых веб-сайтов (или слов поиска) и прочие «подавляющие» поиск и «продвигающие» его коэффициенты.
    Последнее это частично открытый бизнес-интерфейс Гугла к «продвигателям веб-сайтов» и к рекламодателям, с которым нет никаких проблем. Проблемы начинаются тогда, когда монополист поиска начинает продвигать некую идеологию через цензуру в веб-поиске. Этого нельзя допустить и это довольно легко сделать концептуально, технически и законодательно. Была бы политическая воля.

    3) И только после этих двух этапов имеет смысл говорить об опасностях монополии в «больших данных» и их обработке методами ИИ.

    П.С.: ссылка на статью о манипуляций с цензурой «маленьких данных»:
    «Адольф Берлин: Как Интернет-гиганты манипулируют нами»
    http://club.berkovich-zametki.com/?p=56107.

  4. Benny B

    Элла Грайфер: … Не могу согласиться бояться того, что пугает автора. Что она, гугла эта, мне сделать может? … Пришлет рекламу с предложением покупать какую-нибудь ненужную дрянь фирмы А, а не фирмы В? А я вот возьму и ненужное вовсе покупать не буду! ….
    =========
    Вы не будете, а дети и молодёжь будут (статистически). И не только покупать, но также ради удобства отказываться от исторически проверенных в их цивилизации свобод.

    Конкретный и очень актуальный пример: отказ от платежей наличными.

    И таких примеров много. Это социальная инженерия общества несколькими корпорациями, ради их идеологических целей и их узких интересов. Это путь к гуманненько-тоталитарному обществу, которое потом быстро перестанет быть гуманненьким.

  5. Борис Дынин

    И я согласен с Эллой.
    Многое узнали Гугл, Амазон… обо мне. Как только сделал поиск на шины, так и появились предложения. Как только поинтересовался ценами в лондонских отелях сегодня, та и пошли предложения. Амазон помнит все мои поиски и подосовыываею Гугл помнит все мой поиски страховок и выдает информацию. Cookies делают свое дело (правда сегодня сайты предупреждают, что будут оставлять cookies). Так или иначе, если собрать всею информацию обо мне в Интернете, то мой я узнаю о себе самом много интересного.

    Одной из самых ценных для меня аспектов жизни на Западе – в Америке, Канаде, Англии – было осознание, что я являюсь и могу быть частным человеком, включая право приобщаться к общинам по своему выбору. Нарушили ли все эти Гуглы, Амазон… это осознание. Нет! А как насчет правительства, тех или иных органов, налоговой инспекции и пр., которые собрали или могут достать информацию обо мне? Разговор должен быть конкретным с учетом законодательства, судопроизводства, общественной атмосферы. Не для короткого комментария. В двух словах: я продолжаю чувствовать себя частным человеком, в чью жизнь государство вмешивается мало, и чьи потребности в вещах и информации часто удовлетворяются Гуглом, Амазон и пр. лучше, чем в раньше (особенно в эти дни коронавируса) . А как насчет формирования моей психики и идеологии? Так мы никогда не жили в идеологическом вакууме, а сейчас есть возможность добывать самую разную информацию. НЕ добываешь, — частное право Но как много из нашего же окружения, кто громко протестует против промывания мозгов, левыми и правыми, смотрят только правых и наоборот, выбирают информацию себе по вкусу, объявляю иную – промыванием мозгов. Здесь Гугл и Амазон не причем. Года ими станет руководить государство с однопартийной (фактичекски) системой, да еще и вождем, будет дело иное.

  6. Элла Грайфер

    И мне не понравилось тоже. Не могу согласиться бояться того, что пугает автора. Что она, гугла эта, мне сделать может? Ну, узнает мои параметры, и что? Пришлет рекламу с предложением покупать какую-нибудь ненужную дрянь фирмы А, а не фирмы В? А я вот возьму и ненужное вовсе покупать не буду! Выдаст меня гондурасской разведке? Ну, если я ей понадоблюсь, она меня и без гуглы отыщет, дело нехитрое. Создаст у меня неправильное впечатление о чем-то, подсовывая сперва мнения, которые ей нравятся? Если это «что-то» мне важно, то я первой страницей не ограничусь, а если не важно — так и фиг с ним.

    У авторессы просто фобия какая-то, повсюду ищет заговоры с целью захвата мирового господства.

    1. Илья Г.

      Элла — Вы правы даже не 100, а на 1000%! До всяких гуглов-шмуглов маркетинг узнавал наши данные так: зарегистрируйте вашу покупку и мы продлим гарантию, заполнив карточку. Потом получал всякую макулатуру, тка что изменилась технология, а не идея. А что за нами следят, то нам ли, пережившим КГБ:), бояться?!

  7. B.Tenenbaum

    Игорь, при всем уважении к вам — не понравилось. И мутно, и высокопарно, и вообще — так было всегда. Технологии меняются. Всякое изменение в технологиях находит немедленное военное применение. В этом смысле фирма Круппа была чем-то вроде Гугла — наилучшая сталь позволяла создавать наилучшие пушки.

    Сдвиги в технологии меняют общество. Появляются новые виды управления и менеджмента — вплоть до появления новых сословий, вроде европейских рыцарей. А дальше появляется порох, и наступает пора \»пороховых империй\». И кто не успел, тот опоздал, используя русский новояз.

    Сейчас такую же роль, как когда-то порох, играет управление информацией. Через \»Фэйсбук\» идут буквально миллиарды эккоунтов — так неужели компания откажется использовать это могущество в своих интересах? А уж как бороться с этим излишком мощи — это дело общества. По-видимому, примерно так же, как с избытком мощи полиции — во всех ее формах, от постового на углу и до ФБР.

  8. Игорь Ю.

    Это самая важная, самая страшная и самая на сегодня безнадежная книга из мной прочитанных. Может быть, потому что я на своем уровне давно безнадежно трубил о тех же проблемах и том же состоянии общества. Но переведенная книга — и огромное спасибо переводчику за отличный профессиональный перевод — конечно, сильнее и основательнее всего мной прочитанного раньше. Апологетам информационной революции и апологетам эволюции американского капитализма в сторону мнения «польза всем» и «нам нечего бояться, ибо мы хорошие» — крайне рекомендую прочесть данную часть книги. Дела действительно, по-настоящему, плохие. Что уже очевидно просто посмотрев ТВ.

    1. Zbig

      Может быть, потому что я на своем уровне давно безнадежно трубил о тех же проблемах и том же состоянии общества.
      +++
      Игорь! Ваши предложения?! Что вами было сделано, чтобы это состояние изменить?

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

AlphaOmega Captcha Mathematica  –  Do the Math