Seja um voluntário

O desafio da próxima década é compatibilizar o século digital com a democracia

Diante dos desafios de hoje, incluindo a digitalização e as mudanças climáticas, garantir o desenvolvimento humano exigirá que ultrapassemos o foco duramente conquistado na autonomia, agência e capacidade individual para uma nova fronteira que é definida pelo indivíduo em relação ao coletivo, diz Shoshana Zuboff.

Você trabalhou por muitos anos na interface entre tecnologia, poder e sociedade. Seu trabalho mais recente, A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder, aborda os principais desafios colocados pelas tecnologias digitais à nossa humanidade. Você também é um psicólogo social com uma longa trajetória de trabalho em equipes de pesquisa interdisciplinares. Com esse pano de fundo em mente, como devemos repensar o desenvolvimento humano hoje? Quais são os principais desafios? Quais são as esperanças?

O conceito de desenvolvimento humano é um conceito psicológico moderno, mas o fenômeno do desenvolvimento humano não é puramente moderno. Há um arco longo e um arco mais contemporâneo. É um fenômeno que se desenvolveu ao longo de milênios, porque o desenvolvimento humano acontece dentro das condições de existência que ocorrem na história. Em termos desse grande arco, o desenvolvimento humano se moveu em direção a um metaprocesso de individualização ao longo de milênios. Se pensarmos na história das mentalidades e da sensibilidade humana, a noção do indivíduo como entidade psicológica foi extrudada, desenhada com grande dificuldade e sacrifício, ao longo de muitos séculos e milênios. Isto maior arco de milênios constitui um longo processo de diferenciação e de construção do eu. Ela produziu os indivíduos psicológicos em que pensamos hoje quando falamos de desenvolvimento humano.

Esse novo indivíduo é marcado pela construção da vida interior como um reino legítimo que – em última análise, na história do surgimento da vida interior individual – assume não apenas uma posição legítima, mas uma urgência e autoridade que, de certa forma, supera o social. e vida coletiva. O indivíduo psicológico é fundamental para a própria possibilidade e ideia de democracia, sem falar em sua construção prática – por mais imperfeita que seja. Não podemos imaginar uma sociedade democrática sem imaginar indivíduos psicológicos que tenham livre arbítrio, autonomia, capacidade de auto-referência a normas, valores e direitos, e que possam conceber situações em que uma referência interna aos direitos fundamentais seja mais forte do que as demandas imediatas da autoridade ou do coletivo.

O arco contemporâneo reflete as condições de existência que vivemos hoje, que agora também nos desafiam a olhar além de nós mesmos por causa de ameaças que exigem uma ação coletiva baseada na atenção à nossa humanidade compartilhada. Somos desafiados a trazer as capacidades de individualização para um contexto maior, que realmente é o contexto de 'nós'. As ameaças de hoje não podem ser enfrentadas apenas com as acalentadas capacidades de autonomia, agência e capacidade de julgamento individualizado, auto-referência e auto-reflexão. Não os deixamos para trás, mas devemos integrá-los em um espaço de feltro maior, e isso diferenciará ainda mais nossa composição do que consideramos 'desenvolvido'.

O desafio agora é passar desses milagres de individualização para uma nova fronteira que é definida pelo indivíduo em relação ao coletivo. Não por oposição, dominação e subjugação, mas por solidariedade necessária. Este é um novo tipo de sensibilidade. A crise climática, por exemplo, exige essa mudança. Não podemos pensar em nós mesmos apenas como indivíduos, o que é essencial, mas também temos que pensar como 'um', como um coletivo, como humanidade, porque não há como separar a ameaça a nós mesmos da ameaça a nós – é um ameaça.

Considero os desafios do século digital análogos aos desafios climáticos: desafios para todos nós e, ao mesmo tempo, desafios para cada um de nós. Quando falamos sobre as ameaças do século digital, ouvimos que a privacidade é uma das principais. No entanto, a privacidade é uma 'frase de efeito'. Estamos na ilusão de que a privacidade é algo privado porque estamos pensando nesse conceito através das lentes da individualização. Isso dilui o significado de privacidade em algum tipo de cálculo privado, cálculos que são explorados pelos impérios do capitalismo de vigilância.

Por exemplo, pensamos 'vou dar-lhe esta pequena informação pessoal – talvez uma fotografia que publico nas redes sociais – em troca do serviço “gratuito” de partilhar a minha fotografia com amigos e familiares e conectar-se'. De fato, a privacidade não pode ser um cálculo privado de pelo menos duas maneiras: primeiro, uma sociedade que preza a privacidade sempre será fundamentalmente diferente de uma sociedade que é indiferente à privacidade. Uma sociedade vigiada nunca será a mesma que uma sociedade que prioriza a privacidade como um direito. Eles estarão em desacordo em seu respeito pela dignidade do indivíduo soberano, a capacidade de autonomia humana, agência, livre arbítrio e direitos de decisão – todas as capacidades essenciais ao eu democrático. Ao mesmo tempo, toda vez que nos envolvemos nessas trocas simples de serviços gratuitos por uma vantagem privada, somos capturados por uma mentira. Os impérios capitalistas de vigilância acumularam concentrações sem precedentes de informações sobre nós por meio de sistemas projetados para serem ocultados. A maior parte do que eles possuem foi tirado de nós sem nossa consciência. Esses dados alimentam sistemas de inteligência artificial para descobrir padrões e prever comportamentos futuros. O resultado final dessa troca nada tem a ver com nosso suposto cálculo privado; são informações extraídas de nossa experiência sem nosso conhecimento e sem nosso consentimento. É, muito simplesmente, vigilância. Ao optar por participar desses sistemas de conhecimento e poder sem precedentes, inconscientemente contribuímos para o monitoramento e controle em larga escala da sociedade.

Por exemplo, postamos inocente e voluntariamente nossas fotos no Facebook e em outras partes da internet. Essas fotos são tiradas, sem nosso conhecimento e certamente sem nossa permissão, por exemplo, pela Microsoft – um dos principais capitalistas de vigilância – para o maior conjunto de dados do mundo usado para treinar algoritmos de reconhecimento facial. Quando a Microsoft criou seu conjunto de dados de treinamento 'Microsoft Celeb' para reconhecimento facial (acabou que eles NÃO estavam apenas tirando rostos de celebridades), eles disseram que era apenas para pesquisa acadêmica. Mas, na verdade, o conjunto de dados foi vendido para agências de aplicação da lei, empresas e operações militares, incluindo a divisão militar do Exército chinês que encarcera membros da minoria muçulmana uigur em Xinjiang. Toda a província é essencialmente um mini-estado de vigilância. Existem campos de detenção específicos em Xinjiang onde as pessoas são presas pela presença onipresente de sistemas de reconhecimento facial que os monitoram continuamente na rua, em suas casas e locais de trabalho, etc. Esses sistemas de reconhecimento facial são construídos em nossos rostos, que demos livremente, sob a ilusão de que a privacidade é privada. Não não é. A privacidade é pública – um bem coletivo que agora só pode ser preservado pela vontade coletiva.

Aqui temos este exemplo muito visível de como pensar sobre este problema como se fôssemos apenas indivíduos, com capacidade de julgamento e direitos de decisão para fazer um trade-off privado, contribui para sistemas coletivos de tragédia e violência, controle e injustiça. É por isso que vinculo os desafios do século digital aos do cataclismo climático. São desafios que ultrapassam nossa capacidade como indivíduos de resolver. Eles exigem que integremos nossas capacidades duramente conquistadas como indivíduos em uma estrutura maior de como pensamos, sentimos e agimos como membros de uma classe chamada humanidade. Este é o desafio positivo para os humanos em toda a Terra. Esta é a nova competição do desenvolvimento humano.

A alternativa ao nosso engajamento nessa fronteira do desenvolvimento humano já está presente na visão dos capitalistas de vigilância sobre nosso futuro. A solução é usar sistemas de monitoramento e controle de populações para reconstruir a sociedade como um colméia. Esta sociedade colmeia é remotamente sintonizada e controlada por gatilhos psicológicos, pistas subliminares, dinâmicas de comparação social projetadas, recompensas e punições em tempo real e os prazeres da gamificação. Essas são as ferramentas que os sintonizadores, aqueles que administram a colmeia humana, estão inventando para redefinir o social.

Neste futuro, descobrimos que em vez de sociedade, É população; ao invés de indivíduos, é estatística; ao invés de governança democrática, É governança computacional, onde as populações são ajustadas remotamente com base em fluxos de dados comportamentais e sua aderência a parâmetros algorítmicos predeterminados. Essa governança computacional se impõe como a solução de cima para baixo para os desafios emergentes do desenvolvimento humano. O que se desenvolve aqui são algoritmos, não pessoas. A governança computacional é um substituto para o árduo e desafiador trabalho de desenvolvimento humano.

A política da colmeia é uma política feudal, uma política hierárquica de controle, de espelhos unidirecionais. Eles não exigem violência, terror ou assassinato, mas são, no entanto, sistemas de controle unilateral onde os mecanismos da caixa preta são indecifráveis. Nesse futuro, a democracia torna-se uma memória distante, pois não há mais necessidade de participação, livre arbítrio, autonomia, agência, direitos de decisão ou direitos fundamentais. Há, em vez disso, a confluência perfeita da colmeia e as métricas necessárias de eficiência e eficácia, medidas não apenas por resultados relacionados à sobrevivência, mas no Ocidente – pelo menos por enquanto – resultados relacionados ao lucro e à lucratividade dos sistemas que são administrados pelos sintonizadores, os senhores feudais da governança algorítmica.

É assim que vejo a paisagem e os desafios do desenvolvimento humano. Estes são os pensamentos que são evocados por suas perguntas sobre o significado do desenvolvimento humano hoje, os desafios e o caminho a seguir. Se quisermos enfrentar esses desafios, é nesse mesmo encontro, nessa mesma disputa e luta, que nos entregamos precisamente aos tipos de experiências, processos e conflitos que são o motor do desenvolvimento humano em primeiro lugar.

O desenvolvimento humano acontece não pela observação, mas pela participação; não apenas pela harmonia, mas pelo conflito; não apenas por meio de estabilidade e satisfação, mas por meio de instabilidade, ameaça e solução de problemas. Essas experiências compõem o desenvolvimento humano. O princípio do prazer por si só não requer desenvolvimento humano. A civilização é o produto da sublimação – luto e contestação, insatisfação e injúria. Da mesma forma, só nos desenvolvemos porque nos envolvemos com desafios e concursos. Foi assim que, ao longo de milênios, criamos o estado de direito e as cartas de direitos humanos para subjugar a violência. Envolver o conflito e conduzi-lo adiante é como avançamos o desenvolvimento humano.

Dê-nos algumas considerações finais sobre o que você espera para alavancar essas poderosas tecnologias digitais e os sistemas que as criam e operam para fazer as coisas de maneira diferente e voltar aos valores democráticos fundamentais.

Não tenho nada além de esperança. O desafio da próxima década é como tornar o século digital compatível com a democracia? Como criamos um século digital e um futuro digital que possa cumprir as aspirações do povo democrático? Somente nos últimos anos percebemos que o século digital está se movendo em uma trajetória muito diferente daquela que havíamos previsto ou que escolheríamos. Esta é a hora. Não é tarde demais, nem cedo demais, para nos engajarmos nesse desafio e criarmos os marcos legais necessários, os paradigmas regulatórios, as novas formas institucionais e as novas cartas de direitos que afirmarão a governança democrática sobre o digital. Este é o grande trabalho agora. Este grande trabalho está em consonância com os desafios como indivíduos em desenvolvimento. O desenvolvimento de um não pode ser alienado do desenvolvimento de todos.


Estudioso, escritor e ativista Shoshana Zuboff é autor de três grandes livros, cada um dos quais marcou o início de uma nova época na sociedade tecnológica. Seu trabalho recente, A era do capitalismo de vigilância, tem sido aclamado como o melhor da indústria de tecnologia Primavera Silenciosa. Zuboff é o Professor Emérita Charles Edward Wilson na Harvard Business School.

Imagem da capa: por Baptiste Michaud via Flickr.

Ir para o conteúdo