Завдання наступного десятиліття – зробити цифрове століття сумісним із демократією

Ви багато років працювали над поєднанням технологій, влади та суспільства. Ваша остання робота, Епоха капіталізму спостереження: боротьба за майбутнє людини на новому кордоні влади, розглядає ключові проблеми, які ставлять перед нашим людством цифрові технології. Ви також соціальний психолог з довгою траєкторією роботи в міждисциплінарних дослідницьких групах. З огляду на це, як ми маємо переосмислити людський розвиток сьогодні? Які ключові виклики? Які надії?

Концепція розвитку людини є сучасною психологічною концепцією, але феномен розвитку людини не є суто сучасним. Є довга дуга і більш сучасна дуга. Це явище, яке розвивалося протягом тисячоліть, тому що розвиток людини відбувається в умовах існування, які відбуваються в історії. З точки зору цієї великої дуги людський розвиток просувався до мета-процесу індивідуалізації протягом тисячоліть. Якщо подумати про історію ментальності та людської чутливості, то поняття особистості як психологічної сутності видавлювалося, витягувалося з великими труднощами і жертвами, протягом багатьох століть і тисячоліть. Це більша дуга тисячоліть являє собою тривалий процес диференціації та конструювання Я. Вона породила психологічних індивідів, про яких ми сьогодні думаємо, коли говоримо про розвиток людини.

Ця нова особистість позначена конструюванням внутрішнього життя як легітимної сфери, яка – зрештою, в історії виникнення внутрішнього життя особистості – займає не лише легітимну позицію, але й актуальність і авторитет, які певним чином витісняють соціальні. і колективне життя. Психологічна особистість є фундаментом самої можливості та ідеї демократії, не кажучи вже про її практичну конструкцію, хоча б недосконалу. Ми не можемо уявити демократичне суспільство, не уявляючи психологічних індивідів, які мають вільну волю, автономію, здатність до самопосилання на норми, цінності та права, і які можуть уявити ситуації, коли внутрішнє посилання на основні права є сильнішим, ніж безпосередні вимоги влади або колективу.

Сучасна дуга відображає умови існування, які ми переживаємо сьогодні, які тепер також змушують нас дивитися за межі самих себе через загрози, які вимагають колективних дій, заснованих на увазі до нашої спільної людяності. Перед нами стоїть завдання вивести можливості індивідуалізації в ширший контекст, який насправді є контекстом «нас». Сьогоднішнім загрозам неможливо протистояти лише за допомогою цих заповітних здібностей автономії, свободи волі та здатності до індивідуального судження, самореференції та саморефлексії. Ми не залишаємо їх позаду, але ми повинні інтегрувати їх у більший повстяний простір, і це ще більше відрізняє нашу композицію від того, що ми вважаємо «розвиненим».

Завдання тепер полягає в тому, щоб перейти від цих чудес індивідуалізації до нового кордону, який визначається індивідом у відносинах з колективом. Не через опозицію, панування та підкорення, а радше через необхідну солідарність. Це новий вид чутливості. Кліматична криза, наприклад, вимагає цього зрушення. Ми не можемо думати про себе лише як про індивідів, що є істотним, але ми також повинні думати як про «один», як про колектив, як про людство, тому що немає способу відокремити загрозу собі від загрози для нас – це один загроза.

Я вважаю виклики цифрового століття аналогічними кліматичним викликам: виклики всім нам і водночас виклики кожному з нас. Коли ми говоримо про загрози цифрового століття, ми чуємо, що конфіденційність є найважливішою. Тим не менш, конфіденційність є «крилатою фразою». Ми перебуваємо в омані, що конфіденційність — це щось приватне, тому що ми думаємо про цю концепцію через призму індивідуалізації. Це розбавляє значення конфіденційності до якогось приватного розрахунку, розрахунків, які експлуатують імперії капіталізму нагляду.

Наприклад, ми думаємо, що «я дам вам цю невелику частину особистої інформації – можливо, фотографію, яку я публікую в соціальних мережах – в обмін на «безкоштовну» послугу обміну моєю фотографією з друзями та родиною та спілкування». Насправді, конфіденційність не може бути приватним розрахунком принаймні двома способами: по-перше, суспільство, яке цінує конфіденційність, завжди буде принципово відрізнятися від суспільства, яке йому байдуже до приватності. Суспільство, за яким наглядають, ніколи не буде таким же, як суспільство, яке віддає перевагу приватності як право. Вони будуть відрізнятися у своїй повазі до гідності суверенної особистості, здатності до людської автономії, свободи волі та прав на прийняття рішень – усіх здібностей, необхідних для демократичного «я». У той же час, щоразу, коли ми беремо участь у цих простих компромісах з безкоштовними послугами заради приватної вигоди, ми потрапляємо в полон брехні. Капіталістичні імперії нагляду накопичили безпрецедентну концентрацію інформації про нас за допомогою систем, призначених для приховування. Більшість того, чим вони володіють, було відібрано у нас без нашої свідомості. Ці дані подають системи штучного інтелекту для виявлення закономірностей і прогнозування майбутньої поведінки. Кінцевий результат цього обміну не має нічого спільного з нашим передбачуваним приватним розрахунком; це інформація, яка витягується з нашого досвіду без нашого відома і без нашої згоди. Це, досить просто, спостереження. Вибираючи участь у цих безпрецедентних системах знань і влади, ми мимоволі сприяємо широкомасштабному моніторингу та контролю суспільства.

Наприклад, ми невинно й охоче публікуємо свої фотографії у Facebook та інших частинах Інтернету. Ці фотографії зроблені без нашого відома і, звичайно, без нашого дозволу, наприклад, Microsoft – провідного капіталіста стеження – для найбільшого набору даних у світі, який використовується для навчання алгоритмів розпізнавання обличчя. Коли Microsoft створила свій навчальний набір даних «Microsoft Celeb» для розпізнавання облич (виявилося, що вони НЕ просто знімали обличчя знаменитостей), вони сказали, що це було лише для академічних досліджень. Але насправді набір даних був проданий правоохоронним органам, компаніям і військовим операціям, включаючи військовий підрозділ китайської армії, який ув’язнює представників уйгурської мусульманської меншини в Сіньцзяні. По суті, вся провінція — це міні-держава для спостереження. У Сіньцзяні є спеціальні табори для ув’язнення, де людей ув’язнюють через повсюдну присутність систем розпізнавання облич, які постійно контролюють їх на вулиці, в їхніх будинках та на робочих місцях тощо. Ці системи розпізнавання облич побудовані на наших обличчях, що ми вільно дали, вважаючи, що конфіденційність є приватною. Ні, це не так. Конфіденційність є публічною – це колективне благо, яке тепер може бути збережене лише колективною волею.

Тут ми маємо цей дуже наочний приклад того, як роздуми про цю проблему так, ніби ми є лише окремими особами, які мають здатність судити і приймати рішення, щоб зробити приватний компроміс, сприяє створенню колективних систем трагедії та насильства, контролю та несправедливості. Ось чому я пов’язую виклики цифрового століття з проблемами кліматичного катаклізму. Це виклики, які виходять за межі наших індивідуальних можливостей. Вони вимагають від нас інтегрувати наші тяжко здобуті здібності як особистості в ширшу структуру того, як ми думаємо, відчуваємо і діємо як члени класу, який називається людством. Це позитивний виклик для людей по всій Землі. Це новий конкурс людського розвитку.

Альтернатива нашому залученню на цьому подальшому рубежі людського розвитку вже присутня в баченні нашого майбутнього капіталістами нагляду. Їхнє рішення полягає у використанні систем моніторингу та контролю населення для реконструкції суспільства як а вулик. Це суспільство вулика дистанційно налаштовується та контролюється психологічними тригерами, підсвідомими сигналами, розробленою динамікою соціального порівняння, винагородами та покараннями в реальному часі та насолодами від ігрування. Це інструменти, які винаходять тюнери, ті, хто керує людським вуликом, щоб по-новому визначити соціальне.

У майбутньому ми знайдемо, що замість суспільство, його населення; замість особи, це статистика; замість демократичне управління, його обчислювальне управління, де популяції налаштовуються дистанційно на основі поведінкових потоків даних та їх дотримання заздалегідь визначених алгоритмічних параметрів. Це обчислювальне управління нав’язується як рішення зверху вниз для нових проблем людського розвитку. Тут розвиваються алгоритми, а не люди. Обчислювальне управління є заміною важкої складної роботи людського розвитку.

Політика вулика — це феодальна політика, ієрархічна політика контролю, односторонніх дзеркал. Вони не вимагають насильства, терору чи вбивства, але, тим не менш, це системи одностороннього контролю, де механізми чорної скриньки нерозбірливі. У цьому майбутньому демократія стає далеким спогадом, тому що більше немає потреби в участі, свободі волі, автономії, свободі волі, правах на прийняття рішень чи основних правах. Натомість існує ідеальне злиття вулика та необхідних показників ефективності та результативності, що вимірюються не лише результатами, пов’язаними з виживанням, але на Заході – принаймні наразі – результатами, пов’язаними з прибутком та прибутковістю систем. якими керують настроювачі, феодали алгоритмічного управління.

Ось як я бачу ландшафт і виклики людського розвитку. Це думки, які викликають ваші запитання щодо сенсу людського розвитку сьогодні, викликів і шляхів вперед. Якщо ми хочемо зустрітися з цими викликами, то саме в цій зустрічі, у тій самій боротьбі та боротьбі ми віддаємо себе саме тим видам досвіду, процесів і конфліктів, які є двигуном людського розвитку в першу чергу.

Розвиток людини відбувається не через спостереження, а через участь; не лише через гармонію, а й через конфлікт; не тільки через стабільність і задоволення, але через нестабільність, загрозу та вирішення проблем. Ці переживання складають розвиток людини. Сам по собі принцип задоволення не вимагає розвитку людини. Цивілізація є продуктом сублімації – горя і змагання, невдоволення і кривди. Так само ми розвиваємось лише тому, що беремо участь у викликах та змаганнях. Ось як ми протягом тисячоліть створювали верховенство права та хартії прав людини, щоб приборкати насильство. Втягнення в конфлікт і просування його вперед – це те, як ми просуваємо розвиток людини.

Дайте нам кілька підсумкових думок про те, які надії ви маєте, щоб використовувати ці потужні цифрові технології та системи, які їх створюють і керують, щоб робити речі по-іншому та повернутися до фундаментальних демократичних цінностей.

У мене немає нічого, крім надії. Завдання наступного десятиліття полягає в тому, як зробити цифрове століття сумісним із демократією? Як створити цифрове століття та цифрове майбутнє, які можуть задовольнити прагнення демократичних людей? Лише за останні кілька років ми зрозуміли, що цифрове століття рухається зовсім іншою траєкторією від тієї, яку ми очікували або яку ми б обрали. Це час. Нам ще не пізно і не надто рано зайнятися цим викликом і створити необхідні правові рамки, нормативні парадигми, нові інституційні форми та нові хартії прав, які стверджуватимуть демократичне управління цифровим. Це зараз велика робота. Ця велика робота співзвучна з проблемами, які виникають у особистості. Розвиток одного не може бути відчуженим від розвитку всіх.

Вчений, письменник і діяч Шошана Зубофф є автором трьох великих книг, кожна з яких ознаменувала початок нової епохи в технологічному суспільстві. Її останні роботи, Епоха наглядового капіталізму, був визнаний індустрією технологій Безмовна весна. Зубофф є почесним професором Чарльза Едварда Вілсона Гарвардської школи бізнесу.

Обкладинка: Батист Мішо через Flickr.