Подписаться

Задача следующего десятилетия — сделать цифровой век совместимым с демократией.

Перед лицом сегодняшних вызовов, включая цифровизацию и изменение климата, обеспечение человеческого развития потребует от нас выйти за рамки с трудом завоеванного акцента на индивидуальной автономии, деятельности и возможностях и перейти к новым границам, которые определяются личностью в отношениях с коллективом, — говорит Шошана Зубофф.

Вы много лет работали на стыке технологий, власти и общества. Ваша последняя работа, Эпоха наблюдательного капитализма: борьба за будущее человечества на новых рубежах власти, решает ключевые проблемы, которые цифровые технологии бросают нашему человечеству. Вы также являетесь социальным психологом с большим опытом работы в междисциплинарных исследовательских группах. Имея это в виду, как мы должны переосмыслить человеческое развитие сегодня? Каковы основные проблемы? Какие надежды?

Концепция человеческого развития является современной психологической концепцией, но феномен человеческого развития не является чисто современным. Есть длинная дуга и более современная дуга. Это явление, которое развивалось на протяжении тысячелетий, потому что человеческое развитие происходит в условиях существования, которые имеют место в истории. С точки зрения этой большой дуги человеческое развитие двигалось к метапроцессу индивидуализации на протяжении тысячелетий. Если мы вспомним историю ментальности и человеческой чувствительности, то представление об индивидууме как психологической сущности выдавливалось, вытягивалось с большим трудом и жертвами на протяжении многих столетий и тысячелетий. Этот большая дуга тысячелетий представляет собой длительный процесс дифференциации и конструирования себя. Она породила психологических индивидуумов, о которых мы думаем сегодня, когда говорим о человеческом развитии.

Этот новый индивидуум отмечен построением внутренней жизни как легитимной сферы, которая — в конечном счете, в истории возникновения индивидуальной внутренней жизни — приобретает не только легитимное положение, но и неотложность и авторитет, которые в некотором роде вытесняют социальные. и коллективной жизни. Психологический индивид лежит в основе самой возможности и идеи демократии, не говоря уже о ее практической конструкции, какой бы несовершенной она ни была. Мы не можем представить себе демократическое общество без воображения психологических личностей, обладающих свободой воли, автономией, способностями к самоотнесению к нормам, ценностям и правам и способных представить себе ситуации, когда внутренняя ссылка на основные права сильнее, чем непосредственные требования власти или коллектива.

Современная дуга отражает условия существования, которые мы переживаем сегодня, которые теперь также заставляют нас смотреть дальше самих себя из-за угроз, которые требуют коллективных действий, основанных на внимании к нашей общей человечности. Перед нами стоит задача привнести возможности индивидуализации в более широкий контекст, который на самом деле является контекстом «нас». Сегодняшние угрозы не могут быть преодолены исключительно с помощью этих лелеемых способностей автономии, свободы действий и способности к индивидуальному суждению, самореференции и саморефлексии. Мы не оставляем их позади, но мы должны интегрировать их в более широкое войлочное пространство, и это будет еще больше отличать нашу композицию от того, что мы считаем «развитым».

Теперь задача состоит в том, чтобы перейти от этих чудес индивидуализации к новым границам, определяемым индивидуальным отношением к коллективу. Не через оппозицию, господство и подчинение, а через необходимую солидарность. Это новый вид чувствительности. Климатический кризис, например, требует такого сдвига. Мы не можем думать о себе только как о личностях, что существенно, но мы также должны думать как о «одном», как о коллективе, как о человечестве, потому что невозможно отделить угрозу для нас от угрозы для нас — это one угроза.

Я считаю вызовы цифрового века аналогом климатических вызовов: вызовами для всех нас и в то же время вызовами для каждого из нас. Когда мы говорим об угрозах цифрового века, мы слышим, что конфиденциальность является главной из них. Тем не менее, конфиденциальность — это «броская фраза». Мы находимся в заблуждении, что неприкосновенность частной жизни является чем-то личным, потому что мы думаем об этом понятии через призму индивидуализации. Это разбавляет значение частной жизни чем-то вроде частных расчетов, расчетов, которые эксплуатируются империями слежки за капитализмом.

Например, мы думаем: «Я дам вам немного личной информации — возможно, фотографию, которую я размещаю в социальных сетях, — в обмен на «бесплатную» услугу по обмену моей фотографией с друзьями и семьей и установлению связи». На самом деле приватность не может быть частным расчетом по крайней мере по двум причинам: во-первых, общество, которое лелеет приватность, всегда будет принципиально отличаться от общества, которое к приватности безразлично. Общество, за которым ведется слежка, никогда не будет таким же, как общество, которое отдает приоритет неприкосновенности частной жизни как праву. Они будут расходиться в своем отношении к достоинству суверенной личности, способности к человеческой автономии, свободе воли и праву принятия решений — ко всем качествам, необходимым для демократического «я». В то же время каждый раз, когда мы прибегаем к этим простым компромиссам между бесплатными услугами ради личной выгоды, мы попадаем в ловушку лжи. Империи капиталистического наблюдения накопили беспрецедентную концентрацию информации о нас с помощью систем, предназначенных для сокрытия. Большая часть того, чем они владеют, была отобрана у нас без нашего ведома. Эти данные поступают в системы искусственного интеллекта для обнаружения закономерностей и прогнозирования будущего поведения. Конечный результат этого обмена не имеет ничего общего с нашими предполагаемыми частными расчетами; это информация, извлеченная из нашего опыта без нашего ведома и без нашего согласия. Это, довольно просто, наблюдения. Выбирая участие в этих беспрецедентных системах знания и власти, мы невольно способствуем широкомасштабному мониторингу и контролю над обществом.

Например, мы невинно и добровольно размещаем свои фотографии на Facebook и в других частях Интернета. Эти фотографии сделаны без нашего ведома и, конечно же, без нашего разрешения, например, Microsoft — ведущим капиталистом в сфере видеонаблюдения — для крупнейшего в мире набора данных, используемого для обучения алгоритмов распознавания лиц. Когда Microsoft создала обучающий набор данных «Microsoft Celeb» для распознавания лиц (оказалось, что они НЕ просто снимали лица знаменитостей), они сказали, что это только для академических исследований. Но на самом деле набор данных был продан правоохранительным органам, компаниям и военным операциям, в том числе воинскому подразделению китайской армии, в котором содержатся представители уйгурского мусульманского меньшинства в Синьцзяне. Вся провинция, по сути, представляет собой мини-государство наблюдения. В Синьцзяне есть специальные лагеря для задержанных, где люди содержатся в заключении из-за повсеместного присутствия систем распознавания лиц, которые постоянно следят за ними на улице, в их домах, на рабочих местах и ​​т. д. Эти системы распознавания лиц построены на наших лицах, которые мы дали добровольно, полагая, что частная жизнь — это личное. Нет это не так. Конфиденциальность общедоступна — коллективное благо, которое теперь может быть сохранено только коллективной волей.

Здесь у нас есть очень наглядный пример того, как размышление об этой проблеме, как если бы мы были всего лишь индивидуумами, обладающими правом на суждения и решения, чтобы сделать личный компромисс, способствует коллективным системам трагедии и насилия, контроля и несправедливости. Вот почему я связываю вызовы цифрового века с вызовами климатических катаклизмов. Это проблемы, которые превосходят наши индивидуальные возможности для решения. Они требуют, чтобы мы интегрировали наши с трудом завоеванные индивидуальные способности в более широкую структуру того, как мы думаем, чувствуем и действуем как члены класса, называемого человечеством. Это положительный вызов для людей на всей Земле. Это новый конкурс человеческого развития.

Альтернатива нашей деятельности на этом дальнем рубеже человеческого развития уже присутствует в видении нашего будущего капиталистами-наблюдателями. Их решение заключается в использовании систем наблюдения и контроля над населением для реконструкции общества как улей. Это общество-улей удаленно настраивается и контролируется психологическими триггерами, подсознательными сигналами, сконструированной динамикой социального сравнения, вознаграждениями и наказаниями в реальном времени и удовольствиями от геймификации. Это инструменты, которые настройщики, те, кто управляет человеческим ульем, изобретают, чтобы переопределить социальное.

В этом будущем мы обнаруживаем, что вместо общество, его население; вместо физические лица, это статистике; вместо демократическое управление, его вычислительное управление, где популяции настраиваются удаленно на основе потоков данных о поведении и их соответствии заранее определенным алгоритмическим параметрам. Это вычислительное управление навязывается как нисходящее решение возникающих проблем человеческого развития. Здесь развиваются алгоритмы, а не люди. Вычислительное управление является заменой тяжелой сложной работы человеческого развития.

Политика улья — это феодальная политика, иерархическая политика контроля, односторонних зеркал. Они не требуют насилия, террора или убийства, но это, тем не менее, системы одностороннего контроля, где механизмы черного ящика неразборчивы. В этом будущем демократия становится далеким воспоминанием, потому что больше нет необходимости в участии, свободе воли, автономии, свободе действий, правах принятия решений или основных правах. Вместо этого существует идеальное слияние улья и необходимых показателей эффективности и результативности, измеряемых не только результатами, связанными с выживанием, но на Западе — по крайней мере, на данный момент — результатами, связанными с прибылью и прибыльностью систем. которыми управляют настройщики, феодалы алгоритмического управления.

Вот как я вижу ландшафт и проблемы человеческого развития. Это те мысли, которые вызываются вашими вопросами о значении человеческого развития сегодня, проблемах и пути вперед. Если мы должны ответить на эти вызовы, то именно на этой самой встрече, в этом самом соревновании и борьбе мы отдаемся именно тем переживаниям, процессам и конфликтам, которые в первую очередь являются двигателем человеческого развития.

Человеческое развитие происходит не через наблюдение, а через участие; не только через гармонию, но и через конфликт; не только через стабильность и удовлетворение, но и через нестабильность, угрозу и решение проблем. Эти переживания составляют человеческое развитие. Сам по себе принцип удовольствия не требует человеческого развития. Цивилизация — это продукт сублимации — горя и соперничества, неудовлетворенности и обиды. Точно так же мы развиваемся только потому, что участвуем в испытаниях и соревнованиях. Именно так на протяжении тысячелетий мы создавали верховенство права и хартии прав человека, чтобы обуздать насилие. Вовлечение в конфликт и продвижение его вперед — это то, как мы продвигаем человеческое развитие.

Дайте нам несколько заключительных мыслей о том, на что вы надеетесь использовать эти мощные цифровые технологии и системы, которые их создают и управляют, чтобы действовать по-другому и вернуться к фундаментальным демократическим ценностям.

У меня нет ничего, кроме надежды. Задача следующего десятилетия заключается в том, как сделать цифровой век совместимым с демократией? Как нам создать цифровой век и цифровое будущее, которые смогут удовлетворить чаяния демократических людей? Только в последние несколько лет мы пришли к пониманию того, что цифровой век движется по траектории, совершенно отличной от той, которую мы ожидали или которую выберем. Это время. Нам еще не поздно и не слишком рано принять этот вызов и создать необходимые правовые рамки, регулятивные парадигмы, новые институциональные формы и новые хартии прав, которые будут утверждать демократическое управление цифровыми технологиями. Это большая работа сейчас. Эта большая работа созвучна задачам развития личности. Развитие одного не может быть отчуждено от развития всех.


Ученый, писатель и активист Шошана Зубофф является автором трех крупных книг, каждая из которых знаменовала собой начало новой эпохи в технологическом обществе. Ее недавняя работа, Эпоха наблюдения капитализма, был провозглашен лидером технологической отрасли. Безмолвная весна. Зубофф — почетный профессор Гарвардской школы бизнеса имени Чарльза Эдварда Уилсона.

Изображение на обложке: Батист Мишо через Flickr.

перейти к содержанию