Le défi de la prochaine décennie est de rendre le siècle numérique compatible avec la démocratie

Face aux défis d'aujourd'hui, y compris la numérisation et le changement climatique, assurer le développement humain nous obligera à dépasser l'accent durement gagné sur l'autonomie, l'agence et la capacité individuelles à une nouvelle frontière qui est définie par l'individu en relation avec le collectif, dit Shoshana Zuboff.

Le défi de la prochaine décennie est de rendre le siècle numérique compatible avec la démocratie

Vous avez travaillé pendant de nombreuses années à l'interface de la technologie, du pouvoir et de la société. Votre travail le plus récent, L'ère du capitalisme de surveillance: la lutte pour un avenir humain à la nouvelle frontière du pouvoir, aborde les principaux défis posés par les technologies numériques à notre humanité. Vous êtes également psychologue social avec une longue trajectoire de travail dans des équipes de recherche interdisciplinaires. Dans ce contexte, comment repenser le développement humain aujourd'hui ? Quels sont les principaux défis ? Quels sont les espoirs ?

Le concept de développement humain est un concept psychologique moderne, mais le phénomène du développement humain n'est pas purement moderne. Il y a un arc long et un arc plus contemporain. C'est un phénomène qui s'est développé au fil des millénaires, car le développement humain se produit dans les conditions d'existence qui se produisent dans l'histoire. En termes de ce grand arc, le développement humain a évolué vers un méta-processus d'individualisation au cours des millénaires. Si nous pensons à l'histoire des mentalités et de la sensibilité humaine, la notion d'individu en tant qu'entité psychologique s'est extrudée, étirée avec beaucoup de difficulté et de sacrifice, au cours de nombreux siècles et millénaires. Cette plus grand arc de millénaires constitue un long processus de différenciation et de construction de soi. Elle a produit les individus psychologiques auxquels nous pensons aujourd'hui lorsque nous parlons de développement humain.

Ce nouvel individu est marqué par la construction de la vie intérieure en tant que domaine légitime qui - en définitive, dans l'histoire de l'émergence de la vie intérieure individuelle - prend non seulement une position légitime, mais une urgence et une autorité qui, à certains égards, supplante le social. et la vie collective. L'individu psychologique est à la base de la possibilité et de l'idée mêmes de la démocratie, sans parler de sa construction pratique – même imparfaite. Nous ne pouvons pas imaginer une société démocratique sans imaginer des individus psychologiques qui ont un libre arbitre, une autonomie, des capacités d'autoréférence aux normes, valeurs et droits, et qui peuvent concevoir des situations où une référence intérieure aux droits fondamentaux est plus forte que les exigences immédiates de l'autorité ou du collectif.

L'arc contemporain reflète les conditions d'existence que nous vivons aujourd'hui, qui nous interpellent désormais à regarder au-delà de nous-mêmes en raison de menaces qui nécessitent une action collective basée sur l'attention à notre humanité partagée. Nous sommes mis au défi d'intégrer les capacités d'individualisation dans un contexte plus large, qui est vraiment le contexte de « nous ». Les menaces d'aujourd'hui ne peuvent pas être affrontées uniquement avec ces précieuses capacités d'autonomie, d'agence et la capacité de jugement individualisé, d'autoréférence et d'autoréflexion. Nous ne les laissons pas derrière nous, mais nous devons les intégrer dans un espace ressenti plus large, et cela différenciera encore plus notre composition de ce que nous considérons comme « développé ».

L'enjeu est désormais de passer de ces miracles de l'individualisation à une nouvelle frontière qui se définit par l'individuel en relation avec le collectif. Non pas par opposition, domination et soumission, mais plutôt par solidarité nécessaire. C'est un nouveau genre de sensibilité. La crise climatique, par exemple, exige ce changement. Nous ne pouvons pas nous considérer seulement comme des individus, ce qui est essentiel, mais nous devons aussi penser comme « un », comme un collectif, comme une humanité, car il n'y a aucun moyen de séparer la menace pour nous-mêmes de la menace pour nous - c'est UN menace.

Je considère les défis du siècle numérique comme analogues aux défis climatiques : des défis pour nous tous et en même temps des défis pour chacun de nous. Lorsque nous parlons des menaces du siècle numérique, nous entendons que la vie privée est une préoccupation majeure. Pourtant, la vie privée est un « slogan ». Nous sommes dans l'illusion que la vie privée est quelque chose de privé parce que nous pensons à ce concept à travers le prisme de l'individualisation. Cela dilue le sens de la vie privée dans une sorte de calcul privé, des calculs qui sont exploités par les empires du capitalisme de surveillance.

Par exemple, nous pensons « Je vais vous donner ces informations personnelles – peut-être une photo que je publie sur les réseaux sociaux – en échange du service « gratuit » de partager ma photo avec mes amis et ma famille et de me connecter ». En fait, la vie privée ne peut pas être un calcul privé d'au moins deux manières : premièrement, une société qui chérit la vie privée sera toujours fondamentalement différente d'une société qui est indifférente à la vie privée. Une société surveillée ne sera jamais la même qu'une société qui accorde la priorité à la vie privée en tant que droit. Ils seront en désaccord dans leur respect de la dignité de l'individu souverain, de la capacité d'autonomie humaine, d'agence, de libre arbitre et de droits de décision – toutes les capacités essentielles au moi démocratique. En même temps, chaque fois que nous nous engageons dans ces simples compromis de services gratuits pour un avantage privé, nous sommes capturés par un mensonge. Les empires capitalistes de la surveillance ont amassé des concentrations sans précédent d'informations sur nous à travers des systèmes conçus pour être cachés. La plupart de ce qu'ils possèdent nous a été pris à notre insu. Ces données alimentent les systèmes d'intelligence artificielle pour découvrir des modèles et prédire le comportement futur. Le résultat final de cet échange n'a rien à voir avec notre calcul privé présumé ; ce sont des informations qui sont extraites de notre expérience à notre insu et sans notre consentement. C'est, tout simplement, surveillance. En choisissant de participer à ces systèmes de savoir et de pouvoir sans précédent, nous contribuons involontairement à la surveillance et au contrôle à grande échelle de la société.

Par exemple, nous publions innocemment et volontairement nos photos sur Facebook et sur d'autres parties d'Internet. Ces photos sont prises, à notre insu et certainement sans notre autorisation, par exemple par Microsoft – l'un des principaux capitalistes de la surveillance – pour le plus grand ensemble de données au monde utilisé pour former des algorithmes de reconnaissance faciale. Lorsque Microsoft a créé son ensemble de données de formation « Microsoft Celeb » pour la reconnaissance faciale (il s'est avéré qu'ils ne prenaient PAS simplement des visages de célébrités), ils ont dit que c'était uniquement pour la recherche universitaire. Mais, en fait, l'ensemble de données a été vendu aux forces de l'ordre, aux entreprises et aux opérations militaires, y compris la division militaire de l'armée chinoise qui incarcère des membres de la minorité musulmane ouïghoure au Xinjiang. La province entière est essentiellement un mini-État de surveillance. Il existe des camps de détention spécifiques au Xinjiang où les gens sont emprisonnés par la présence omniprésente de systèmes de reconnaissance faciale qui les surveillent en permanence dans la rue, dans leurs maisons et leurs lieux de travail, etc. Ces systèmes de reconnaissance faciale sont construits sur nos visages, qui nous avons donné librement, sous l'illusion que la vie privée est privée. Non, ce n'est pas le cas. La vie privée est publique – un bien collectif qui ne peut désormais être préservé que par la volonté collective.

Nous avons ici cet exemple très visible de la façon dont penser à ce problème comme si nous n'étions que des individus, avec la capacité de jugement et de droit de décision pour faire un compromis privé, contribue aux systèmes collectifs de tragédie et de violence, de contrôle et d'injustice. C'est pourquoi je relie les défis du siècle numérique à ceux du cataclysme climatique. Ce sont des défis qui dépassent notre capacité en tant qu'individus à résoudre. Ils nous obligent à intégrer nos capacités durement acquises en tant qu'individus dans un cadre plus large de la façon dont nous pensons, ressentons et agissons en tant que membres d'une classe appelée humanité. C'est le défi positif pour les humains partout sur Terre. C'est le nouveau concours du développement humain.

L'alternative à notre engagement à cette nouvelle frontière du développement humain est déjà présente dans la vision de notre avenir des capitalistes de la surveillance. Leur solution est d'utiliser des systèmes de surveillance et de contrôle des populations pour reconstruire la société comme un ruche. Cette société ruche est réglée et contrôlée à distance par des déclencheurs psychologiques, des indices subliminaux, une dynamique de comparaison sociale conçue, des récompenses et des punitions en temps réel et les plaisirs de la gamification. Ce sont les outils que les accordeurs, ceux qui administrent la ruche humaine, inventent pour redéfinir le social.

Dans cet avenir, nous constatons qu'au lieu de société, c'est population; à la place de personnes, il est statistiques; à la place de la gouvernance démocratique, c'est gouvernance informatique, où les populations sont réglées à distance en fonction des flux de données comportementales et de leur adhésion à des paramètres algorithmiques prédéterminés. Cette gouvernance computationnelle s'impose comme la solution descendante aux défis émergents du développement humain. Ce qui se développe ici, ce sont des algorithmes, pas des personnes. La gouvernance informatique remplace le travail difficile et ardu du développement humain.

La politique de la ruche est une politique féodale, une politique hiérarchique de contrôle, de miroirs sans tain. Ils n'exigent pas la violence, la terreur ou le meurtre, mais ce sont néanmoins des systèmes de contrôle unilatéral où les mécanismes de la boîte noire sont indéchiffrables. Dans cet avenir, la démocratie devient un lointain souvenir, car il n'y a plus besoin de participation, de libre arbitre, d'autonomie, d'agence, de droits de décision ou de droits fondamentaux. Il y a, à la place, la confluence parfaite de la ruche et les mesures nécessaires d'efficience et d'efficacité telles que mesurées non seulement par les résultats liés à la survie, mais en Occident - pour l'instant du moins - les résultats liés au profit et à la rentabilité des systèmes qui sont administrés par les tuners, les seigneurs féodaux de la gouvernance algorithmique.

C'est ainsi que je vois le paysage et les défis du développement humain. Telles sont les réflexions qu'évoquent vos questions sur le sens du développement humain aujourd'hui, les défis et la voie à suivre. Si nous voulons relever ces défis, c'est dans cette même rencontre, dans ce même concours et cette lutte, que nous nous abandonnons précisément aux types d'expériences, de processus et de conflits qui sont le moteur du développement humain en premier lieu.

Le développement humain ne passe pas par l'observation mais par la participation ; pas seulement par l'harmonie mais par le conflit ; non seulement par la stabilité et la satisfaction, mais par l'instabilité, la menace et la résolution de problèmes. Ces expériences composent le développement humain. Le principe de plaisir seul n'exige aucun développement humain. La civilisation est le produit de la sublimation – chagrin et contestation, insatisfaction et blessure. De la même manière, nous ne nous développons que parce que nous nous engageons dans des défis et des concours. C'est ainsi qu'au cours des millénaires, nous avons créé la primauté du droit et les chartes des droits de l'homme pour maîtriser la violence. Engager le conflit et le faire avancer est la façon dont nous faisons progresser le développement humain.

Donnez-nous quelques réflexions finales sur les espoirs que vous avez pour tirer parti de ces puissantes technologies numériques et des systèmes qui les créent et les exploitent pour faire les choses différemment et revenir aux valeurs démocratiques fondamentales.

Je n'ai que de l'espoir. Le défi de la prochaine décennie est de savoir comment rendre le siècle numérique compatible avec la démocratie ? Comment créer un siècle numérique et un avenir numérique qui puissent répondre aux aspirations des peuples démocratiques ? Ce n'est qu'au cours des dernières années que nous avons compris que le siècle numérique s'engage sur une trajectoire très différente de celle que nous avions anticipée ou que nous choisirions. Il est temps. Il n'est ni trop tard, ni trop tôt, pour nous engager dans ce défi et créer les cadres juridiques nécessaires, les paradigmes réglementaires, les nouvelles formes institutionnelles et les nouvelles chartes des droits qui affirmeront la gouvernance démocratique sur le numérique. C'est le gros travail maintenant. Ce grand travail est en accord avec les défis en tant qu'individus en développement. Le développement de l'un ne peut être aliéné du développement de tous.


Chercheur, écrivain et militant Shoshana Zuboff est l'auteur de trois livres majeurs, dont chacun a marqué le début d'une nouvelle ère dans la société technologique. Son travail récent, L'ère du capitalisme de surveillance, a été salué comme l'industrie technologique Silent Spring. Zuboff est professeur émérite Charles Edward Wilson à la Harvard Business School.

Image de couverture : par Baptiste Michaud via Flickr.

VOIR TOUS LES ARTICLES CONNEXES

Passer au contenu