Regístrate

El desafío de la próxima década es compatibilizar el siglo digital con la democracia

Frente a los desafíos actuales, incluida la digitalización y el cambio climático, garantizar el desarrollo humano requerirá que vayamos más allá del enfoque ganado con esfuerzo en la autonomía, la agencia y la capacidad individuales hacia una nueva frontera que define el individuo en relación con lo colectivo. dice Shoshana Zuboff.

Ha trabajado durante muchos años en la interfaz de la tecnología, el poder y la sociedad. Tu trabajo más reciente La era del capitalismo de la vigilancia: la lucha por un futuro humano en la nueva frontera del poder, aborda los desafíos clave que plantean las tecnologías digitales a nuestra humanidad. También es psicólogo social con una larga trayectoria de trabajo en equipos de investigación interdisciplinarios. Con estos antecedentes en mente, ¿cómo deberíamos repensar hoy el desarrollo humano? ¿Cuáles son los desafíos clave? Cuales son las esperanzas?

El concepto de desarrollo humano es un concepto psicológico moderno, pero el fenómeno del desarrollo humano no es puramente moderno. Hay un arco largo y un arco más contemporáneo. Es un fenómeno que se ha desarrollado durante milenios, porque el desarrollo humano ocurre dentro de las condiciones de existencia que ocurren en la historia. En términos de este gran arco, el desarrollo humano se ha movido hacia un metaproceso de individualización durante milenios. Si pensamos en la historia de las mentalidades y de la sensibilidad humana, la noción de individuo como entidad psicológica ha sido extruida, extraída con gran dificultad y sacrificio, durante muchos siglos y milenios. Esta arco más grande de milenios constituye un largo proceso de diferenciación y construcción del yo. Ha producido los individuos psicológicos en los que pensamos hoy cuando hablamos de desarrollo humano.

Este nuevo individuo está marcado por la construcción de la vida interior como un ámbito legítimo que, en última instancia, en la historia del surgimiento de la vida interior individual, asume no solo una posición legítima, sino una urgencia y autoridad que de alguna manera reemplaza a la social. y vida colectiva. El individuo psicológico es fundamental para la posibilidad y la idea misma de la democracia, y mucho menos para su construcción práctica, por imperfecta que sea. No podemos imaginar una sociedad democrática sin imaginar individuos psicológicos que tengan libre albedrío, autonomía, capacidad de autorreferenciarse a normas, valores y derechos, y que puedan concebir situaciones en las que una referencia interna a los derechos fundamentales es más fuerte que las demandas inmediatas de la autoridad o del colectivo.

El arco contemporáneo refleja las condiciones de existencia que vivimos hoy, que ahora también nos desafían a mirar más allá de nosotros mismos debido a las amenazas que requieren una acción colectiva basada en la atención a nuestra humanidad compartida. Tenemos el desafío de llevar las capacidades de la individualización a un contexto más amplio, que realmente es el contexto de "nosotros". Las amenazas de hoy no se pueden enfrentar únicamente con esas apreciadas capacidades de autonomía, agencia y la capacidad de juicio individualizado, autorreferencia y autorreflexión. No los dejamos atrás, pero debemos integrarlos en un espacio de fieltro más grande, y esto diferenciará aún más nuestra composición de lo que consideramos "desarrollado".

El desafío ahora es pasar de estos milagros de individualización a una nueva frontera que define el individuo en relación con lo colectivo. No por oposición, dominación y subyugación, sino por la necesaria solidaridad. Este es un nuevo tipo de sensibilidad. La crisis climática, por ejemplo, requiere este cambio. No podemos pensar en nosotros mismos solo como individuos, lo cual es esencial, sino que también tenemos que pensar como 'uno', como colectivo, como humanidad, porque no hay forma de separar la amenaza para nosotros mismos de la amenaza para nosotros - es one amenaza.

Considero que los desafíos del siglo digital son análogos a los desafíos climáticos: desafíos para todos nosotros y, al mismo tiempo, desafíos para cada uno de nosotros. Cuando hablamos de las amenazas del siglo digital, escuchamos que la privacidad es una de las principales. Sin embargo, la privacidad es un 'eslogan'. Estamos bajo la ilusión de que la privacidad es algo privado porque pensamos en este concepto a través de la lente de la individualización. Esto diluye el significado de privacidad en una especie de cálculo privado, cálculos que son explotados por los imperios del capitalismo de vigilancia.

Por ejemplo, pensamos 'Te daré esta pequeña información personal, tal vez una foto que publique en las redes sociales, a cambio del servicio "gratuito" de compartir mi foto con amigos y familiares y conectarme ". De hecho, la privacidad no puede ser un cálculo privado al menos de dos maneras: primero, una sociedad que aprecia la privacidad siempre será fundamentalmente diferente de una sociedad que es indiferente a la privacidad. Una sociedad vigilada nunca será lo mismo que una sociedad que prioriza la privacidad como un derecho. Estarán en desacuerdo en su respeto por la dignidad del individuo soberano, la capacidad de autonomía humana, agencia, libre albedrío y derechos de decisión, todas las capacidades esenciales para el yo democrático. Al mismo tiempo, cada vez que nos involucramos en estas simples compensaciones de servicios gratuitos por una ventaja privada, somos capturados por una mentira. Los imperios capitalistas de vigilancia han acumulado concentraciones sin precedentes de información sobre nosotros a través de sistemas diseñados para ocultarse. La mayor parte de lo que poseen nos ha sido arrebatado sin que nos demos cuenta. Estos datos alimentan sistemas de inteligencia artificial para descubrir patrones y predecir comportamientos futuros. El resultado final de este intercambio no tiene nada que ver con nuestro supuesto cálculo privado; es información que se extrae de nuestra experiencia sin nuestro conocimiento y sin nuestro consentimiento. Es, simplemente, vigilancia. Al optar por participar en estos sistemas de conocimiento y poder sin precedentes, contribuimos inconscientemente al seguimiento y control de la sociedad a gran escala.

Por ejemplo, publicamos nuestras fotos de manera inocente y voluntaria en Facebook y en otras partes de Internet. Esas fotos se toman, sin nuestro conocimiento y ciertamente sin nuestro permiso, por ejemplo, por Microsoft, un capitalista líder en vigilancia, para el conjunto de datos más grande del mundo utilizado para entrenar algoritmos de reconocimiento facial. Cuando Microsoft creó su conjunto de datos de entrenamiento 'Microsoft Celeb' para el reconocimiento facial (resultó que NO estaban simplemente tomando caras de celebridades), dijeron que era solo para investigación académica. Pero, de hecho, el conjunto de datos se vendió a agencias policiales, empresas y operaciones militares, incluida la división militar del ejército chino que encarcela a miembros de la minoría musulmana uigur en Xinjiang. Toda la provincia es esencialmente un miniestado de vigilancia. Hay campos de detención específicos en Xinjiang donde las personas son encarceladas por la presencia ubicua de sistemas de reconocimiento facial que los monitorean de manera continua en la calle, en sus hogares y en sus lugares de trabajo, etc. Estos sistemas de reconocimiento facial se construyen en nuestras caras, que hemos dado libremente, bajo el engaño de que la privacidad es privada. No, no es. La privacidad es pública, un bien colectivo que ahora solo puede preservarse mediante la voluntad colectiva.

Aquí tenemos este ejemplo muy visible de cómo pensar en este problema como si fuéramos solo individuos, con la capacidad de juicio y derechos de decisión para hacer un intercambio privado, contribuye a los sistemas colectivos de tragedia y violencia, control e injusticia. Por eso relaciono los desafíos del siglo digital con los del cataclismo climático. Son desafíos que superan nuestra capacidad como individuos para resolverlos. Requieren que integremos nuestras capacidades ganadas con tanto esfuerzo como individuos en un marco más amplio de cómo pensamos, sentimos y actuamos como miembros de una clase llamada humanidad. Este es el desafío positivo para los seres humanos en toda la Tierra. Este es el nuevo concurso del desarrollo humano.

La alternativa a nuestro compromiso en esta nueva frontera del desarrollo humano ya está presente en la visión de nuestro futuro de los capitalistas de la vigilancia. Su solución es utilizar sistemas de seguimiento y control de poblaciones para reconstruir la sociedad como un colmena. Esta sociedad colmena está remotamente sintonizada y controlada por disparadores psicológicos, señales subliminales, dinámicas de comparación social diseñadas, recompensas y castigos en tiempo real y los placeres de la gamificación. Estas son las herramientas que los sintonizadores, los que administran la colmena humana, están inventando para redefinir lo social.

En este futuro encontramos que en lugar de society, Es población; en vez de individuos, es statistics; en vez de la gobernabilidad democrática, Es gobernanza computacional, donde las poblaciones se sintonizan de forma remota en función de los flujos de datos de comportamiento y su adherencia a parámetros algorítmicos predeterminados. Esta gobernanza computacional se impone como la solución de arriba hacia abajo a los desafíos emergentes del desarrollo humano. Lo que se desarrolla aquí son algoritmos, no personas. La gobernanza computacional es un reemplazo del arduo y desafiante trabajo del desarrollo humano.

La política de la colmena es una política feudal, una política jerárquica de control, de espejos unidireccionales. No requieren violencia, terror o asesinato, pero son, sin embargo, sistemas de control unilateral donde los mecanismos de la caja negra son indescifrables. En este futuro, la democracia se convierte en un recuerdo lejano, porque ya no hay necesidad de participación, libre albedrío, autonomía, agencia, derechos de decisión o derechos fundamentales. En cambio, existe la confluencia perfecta de la colmena y las métricas necesarias de eficiencia y efectividad, medidas no solo por los resultados relacionados con la supervivencia, sino en Occidente, al menos por ahora, los resultados relacionados con las ganancias y la rentabilidad de los sistemas. que son administrados por los sintonizadores, los señores feudales de la gobernanza algorítmica.

Así es como veo el panorama y los desafíos del desarrollo humano. Estos son los pensamientos que evocan sus preguntas sobre el significado del desarrollo humano hoy, los desafíos y el camino a seguir. Si vamos a enfrentar estos desafíos, es en ese mismo encuentro, en esa misma contienda y lucha, donde nos entregamos precisamente al tipo de experiencias, procesos y conflictos que son el motor del desarrollo humano en primer lugar.

El desarrollo humano no ocurre a través de la observación sino a través de la participación; no solo a través de la armonía sino a través del conflicto; no solo a través de la estabilidad y la satisfacción, sino también a través de la inestabilidad, las amenazas y la resolución de problemas. Estas experiencias componen el desarrollo humano. El principio del placer por sí solo no requiere desarrollo humano. La civilización es el producto de la sublimación: el dolor y la contienda, la insatisfacción y la herida. De la misma manera, solo nos desarrollamos porque nos involucramos con desafíos y concursos. Así es como durante milenios creamos el estado de derecho y las cartas de derechos humanos para dominar la violencia. Involucrar el conflicto e impulsarlo es la forma en que avanzamos en el desarrollo humano.

Danos algunas reflexiones finales sobre las esperanzas que tienes para aprovechar estas poderosas tecnologías digitales y los sistemas que las crean y operan para hacer las cosas de manera diferente y volver a los valores democráticos fundamentales.

No tengo nada más que esperanza. El desafío de la próxima década es ¿cómo compatibilizar el siglo digital con la democracia? ¿Cómo creamos un siglo digital y un futuro digital que pueda satisfacer las aspiraciones de las personas democráticas? Solo en los últimos años hemos llegado a apreciar que el siglo digital avanza en una trayectoria muy diferente a la que habíamos anticipado o que elegiríamos. Este es el tiempo. No es demasiado tarde, ni demasiado pronto, para que nos involucremos en este desafío y creemos los marcos legales necesarios, los paradigmas regulatorios, las nuevas formas institucionales y las nuevas cartas de derechos que afirmarán la gobernanza democrática sobre lo digital. Este es el gran trabajo ahora. Este gran trabajo está en consonancia con los desafíos como individuos en desarrollo. El desarrollo de uno no puede estar alienado del desarrollo de todos.


Académico, escritor y activista Shoshana Zuboff es autor de tres libros importantes, cada uno de los cuales marcó el inicio de una nueva época en la sociedad tecnológica. Su trabajo reciente, La era del capitalismo de vigilancia, ha sido aclamado como el de la industria de la tecnología Primavera silenciosa. Zuboff es profesor emérita Charles Edward Wilson en Harvard Business School.

Imagen de portada: por Baptiste Michaud a través de Flickr.

Ir al contenido