Provocarea următorului deceniu este de a face secolul digital compatibil cu democrația

Ați lucrat mulți ani la interfața tehnologiei, puterii și societății. Cea mai recentă lucrare, Era capitalismului de supraveghere: lupta pentru un viitor uman la noua frontieră a puterii, abordează provocările cheie puse de tehnologiile digitale umanității noastre. De asemenea, sunteți psiholog social cu o lungă traiectorie de lucru în echipe de cercetare interdisciplinare. Având în vedere acest context, cum ar trebui să ne regândim astăzi dezvoltarea umană? Care sunt provocările cheie? Care sunt speranțele?

Conceptul de dezvoltare umană este un concept psihologic modern, dar fenomenul dezvoltării umane nu este pur modern. Există un arc lung și un arc mai contemporan. Este un fenomen care s-a dezvoltat de-a lungul mileniilor, deoarece dezvoltarea umană se întâmplă în condițiile existenței care apar în istorie. În ceea ce privește acest arc mare, dezvoltarea umană sa îndreptat către un meta-proces de individualizare de-a lungul mileniilor. Dacă ne gândim la istoria mentalităților și a sensibilității umane, noțiunea de individ ca entitate psihologică a fost extrudată, trasă cu mare dificultate și sacrificiu, de-a lungul multor secole și milenii. Acest arc mai mare de milenii constituie un lung proces de diferențiere și construcție a sinelui. A produs indivizii psihologici la care ne gândim astăzi când vorbim despre dezvoltarea umană.

Acest nou individ este marcat de construcția vieții interioare ca un tărâm legitim care - în cele din urmă, în istoria apariției vieții interioare individuale - preia nu numai o poziție legitimă, ci o urgență și o autoritate care, în anumite privințe, înlocuiește situația socială. și viața colectivă. Individul psihologic este fundamental pentru însăși posibilitatea și ideea democrației, darămite construcția sa practică - oricât de imperfectă ar fi. Nu ne putem imagina o societate democratică fără să ne imaginăm indivizi psihologici care au liber arbitru, autonomie, capacități de auto-referință la norme, valori și drepturi și care pot concepe situații în care o referință interioară la drepturile fundamentale este mai puternică decât cerințele imediate ale autorității sau a colectivului.

Arcul contemporan reflectă condițiile de existență pe care le experimentăm astăzi, care acum ne provoacă și să privim dincolo de noi înșine din cauza amenințărilor care necesită o acțiune colectivă bazată pe atenția asupra umanității noastre comune. Suntem provocați să aducem capacitățile individualizării într-un context mai larg, care este într-adevăr contextul „noi”. Amenințările de astăzi nu pot fi întâmpinate numai cu acele prețuite capacități de autonomie, agenție și capacitatea de judecată individualizată, auto-referință și auto-reflecție. Nu le lăsăm în urmă, dar trebuie să le integrăm într-un spațiu mai simțit și acest lucru va diferenția și mai mult compoziția noastră a ceea ce considerăm „dezvoltat”.

Provocarea este acum trecerea de la aceste minuni ale individualizării la o nouă frontieră care este definită de individ în relație cu colectivul. Nu prin opoziție, dominație și subjugare, ci mai degrabă prin solidaritatea necesară. Acesta este un nou tip de sensibilitate. Criza climatică, de exemplu, necesită această schimbare. Nu ne putem gândi la noi înșine doar ca indivizi, ceea ce este esențial, ci trebuie să gândim și ca „unul”, ca colectiv, ca umanitate, deoarece nu există nicio modalitate de a separa amenințarea pentru noi înșine de amenințarea pentru noi - este unu amenințare.

Consider provocările secolului digital ca fiind analoage provocărilor climatice: provocări pentru noi toți și, în același timp, provocări pentru fiecare dintre noi. Când vorbim despre amenințările secolului digital, auzim că confidențialitatea este una majoră. Cu toate acestea, confidențialitatea este o „frază captivă”. Ne amăgim că intimitatea este ceva privat, deoarece ne gândim la acest concept prin prisma individualizării. Acest lucru diluează sensul vieții private într-un fel de calcul privat, calcule care sunt exploatate de imperiile capitalismului de supraveghere.

De exemplu, credem că „vă voi oferi acest pic de informații personale - poate o fotografie pe care o postez pe rețelele de socializare - în schimbul serviciului„ gratuit ”de partajare a fotografiei mele cu prietenii și familia și conectarea”. De fapt, confidențialitatea nu poate fi un calcul privat în cel puțin două moduri: în primul rând, o societate care prețuiește confidențialitatea va fi întotdeauna fundamental diferită de o societate care este indiferentă față de confidențialitate. O societate supravegheată nu va fi niciodată aceeași cu o societate care acordă prioritate vieții private ca drept. Vor fi în divergență în ceea ce privește respectul pentru demnitatea individului suveran, capacitatea de autonomie umană, agenție, liber arbitru și drepturi de decizie - toate capacitățile esențiale pentru sinele democratic. În același timp, de fiecare dată când ne angajăm în aceste compromisuri simple de servicii gratuite pentru un avantaj privat, suntem capturați de o minciună. Imperiile capitaliste de supraveghere au adunat concentrații fără precedent de informații despre noi prin sisteme concepute pentru a fi ascunse. Majoritatea a ceea ce posedă a fost luat de la noi fără conștientizarea noastră. Aceste date alimentează sisteme de inteligență artificială pentru a descoperi tipare și a prezice comportamentul viitor. Rezultatul final al acestui schimb nu are nicio legătură cu presupusul nostru calcul privat; sunt informații care sunt extrase din experiența noastră fără știrea noastră și fără consimțământul nostru. Este, pur și simplu, supraveghere. Alegând să participăm la aceste sisteme de cunoștințe și putere fără precedent, contribuim fără să vrem la monitorizarea și controlul la scară largă al societății.

De exemplu, ne postăm inocent și de bunăvoie fotografiile pe Facebook și în alte părți ale internetului. Aceste fotografii sunt făcute, fără știrea noastră și cu siguranță fără permisiunea noastră, de exemplu de către Microsoft - un capitalist de supraveghere de vârf - pentru cel mai mare set de date din lume folosit pentru antrenarea algoritmilor de recunoaștere facială. Când Microsoft și-a creat setul de date de formare „Microsoft Celeb” pentru recunoașterea facială (sa dovedit că NU purtau doar chipuri de vedete), au spus că este doar pentru cercetare academică. Dar, de fapt, setul de date a fost vândut agențiilor de aplicare a legii, companiilor și operațiunilor militare, inclusiv diviziei militare a armatei chineze care îi încarcerează pe membrii minorității musulmane uigur din Xinjiang. Întreaga provincie este în esență un mini-stat de supraveghere. Există tabere de detenție specifice în Xinjiang în care oamenii sunt închiși de prezența omniprezentă a sistemelor de recunoaștere facială care le monitorizează continuu pe stradă, în casele lor și la locul de muncă etc. Aceste sisteme de recunoaștere facială sunt construite pe fețele noastre, am dat în mod liber, sub iluzia că confidențialitatea este privată. Nu Nu este. Confidențialitatea este publică - un bun colectiv care acum poate fi păstrat doar prin voință colectivă.

Aici avem acest exemplu foarte vizibil al modului în care gândirea la această problemă ca și cum suntem doar indivizi, cu capacitatea de a judeca și de a lua decizii de a face un compromis privat, contribuie la sistemele colective de tragedie și violență, control și nedreptate. Acesta este motivul pentru care leg provocările secolului digital de cele ale cataclismului climatic. Sunt provocări care depășesc capacitatea noastră de rezolvare ca indivizi. Acestea ne impun să integrăm capacitățile noastre câștigate cu greu ca indivizi într-un cadru mai larg al modului în care gândim, simțim și acționăm ca membri ai unei clase numite umanitate. Aceasta este provocarea pozitivă pentru oameni de pe tot Pământul. Acesta este noul concurs de dezvoltare umană.

Alternativa la angajarea noastră la această frontieră ulterioară a dezvoltării umane este deja prezentă în viziunea capitalistilor de supraveghere asupra viitorului nostru. Soluția lor este de a utiliza sisteme de monitorizare și control al populațiilor pentru a reconstrui societatea ca o stup. Această societate de stup este reglată și controlată de la distanță de declanșatori psihologici, indicii subliminale, dinamici de comparație socială proiectate, recompense și pedepse în timp real și plăcerile gamificării. Acestea sunt instrumentele pe care tunerii, cei care administrează stupul uman, le inventează pentru a redefini socialul.

În acest viitor vom constata că, în loc de societate, este populație; in loc de indivizi, e statistică; in loc de guvernare democratică, este guvernanță computațională, unde populațiile sunt reglate de la distanță pe baza fluxurilor de date comportamentale și a aderenței lor la parametrii algoritmici predeterminați. Această guvernanță computațională este impusă ca soluție de sus în jos la provocările emergente ale dezvoltării umane. Ceea ce se dezvoltă aici sunt algoritmi, nu oameni. Guvernanța computațională este un înlocuitor pentru munca dificilă provocatoare a dezvoltării umane.

Politica stupului este o politică feudală, o politică ierarhică de control, de oglinzi unidirecționale. Nu necesită violență, teroare sau crimă, dar sunt, totuși, sisteme de control unilateral în care mecanismele cutiei negre sunt indescifrabile. În acest viitor, democrația devine o memorie îndepărtată, deoarece nu mai este nevoie de participare, liber arbitru, autonomie, agenție, drepturi de decizie sau drepturi fundamentale. Există, în schimb, confluența perfectă a stupului și metricele necesare de eficiență și eficacitate, măsurate nu numai prin rezultatele legate de supraviețuire, ci și în Occident - cel puțin deocamdată - rezultatele legate de profit și profitabilitatea sistemelor. care sunt administrate de sintonizatori, stăpânii feudali ai guvernării algoritmice.

Așa văd peisajul și provocările dezvoltării umane. Acestea sunt gândurile evocate de întrebările dvs. care se întreabă despre semnificația dezvoltării umane de astăzi, provocările și calea de urmat. Dacă trebuie să facem față acestor provocări, tocmai în acea întâlnire, chiar în acea luptă și luptă, ne predăm exact tipurilor de experiențe, procese și conflicte care sunt motorul dezvoltării umane în primul rând.

Dezvoltarea umană se întâmplă nu prin observare, ci prin participare; nu doar prin armonie ci prin conflict; nu doar prin stabilitate și satisfacție, ci prin instabilitate, amenințări și rezolvarea problemelor. Aceste experiențe alcătuiesc dezvoltarea umană. Numai principiul plăcerii nu necesită dezvoltare umană. Civilizația este produsul sublimării - durerea și disputa, nemulțumirea și rănirea. În același mod, ne dezvoltăm doar pentru că ne angajăm cu provocări și concursuri. Acesta este modul în care de-a lungul mileniilor am creat statul de drept și cartele drepturilor omului pentru a supune violența. Angajarea conflictului și conducerea acestuia este modul în care avansăm dezvoltarea umană.

Oferiți-ne câteva gânduri concluzive cu privire la speranțele pe care le aveți pentru a utiliza aceste puternice tehnologii digitale și sistemele care le creează și le operează pentru a face lucrurile diferit și pentru a reveni la valorile democratice fundamentale.

Nu am decât speranță. Provocarea următorului deceniu este cum putem face ca secolul digital să fie compatibil cu democrația? Cum creăm un secol digital și un viitor digital care poate îndeplini aspirațiile oamenilor democrați? Abia în ultimii ani am ajuns să apreciem că secolul digital se deplasează pe o traiectorie foarte diferită de cea pe care o anticipasem sau pe care am alege-o. Acesta este timpul. Nu este prea târziu și nici prea devreme pentru ca noi să ne angajăm în această provocare și să creăm cadrele juridice necesare, paradigmele de reglementare, noile forme instituționale și noile cartele de drepturi care vor afirma guvernanța democratică asupra digitalului. Aceasta este marea lucrare acum. Această mare lucrare este în concordanță cu provocările ca persoane în curs de dezvoltare. Dezvoltarea unuia nu poate fi înstrăinată de dezvoltarea tuturor.

Savant, scriitor și activist Shoshana Zuboff este autorul a trei cărți majore, fiecare dintre acestea semnalând începutul unei noi epoci în societatea tehnologică. Lucrarea ei recentă, Epoca capitalismului de supraveghere, a fost apreciat ca fiind industria tehnologiei Silent Spring. Zuboff este profesor emerit Charles Edward Wilson la Harvard Business School.

Imagine de copertă: de Baptiste Michaud prin Flickr.