Podcast com Cory Doctorow: Ficção científica e o futuro da ciência: aproveitando os avanços digitais para o futuro

Cientistas e pesquisadores valorizam cada vez mais a ficção científica pelas suas contribuições na antecipação de cenários futuros. Como parte da sua missão de explorar as direções em que as mudanças na ciência e nos sistemas científicos nos estão a levar, o Centro para Futuros da Ciência conversou com seis importantes autores de ficção científica para reunir suas perspectivas sobre como a ciência pode enfrentar os muitos desafios sociais que enfrentaremos nas próximas décadas. O podcast é em parceria com Natureza.

No nosso sexto e último episódio, Cory Doctorow junta-se a nós para discutir a questão da confiança na ciência e o que podemos fazer para fortalecê-la. Ele cobre questões de inteligência artificial e relativas a algoritmos e modelos de treinamento. Para Doctorow, ele quer ver como o poder de coordenação da tecnologia digital pode ser aproveitado para um futuro mais sustentável.

Inscreva-se e ouça através da sua plataforma favorita

Cory Doctorow

É autor de vários livros, mais recentemente A causa perdida, um romance de ficção científica solarpunk de esperança em meio à emergência climática e The Internet Con: Como aproveitar os meios de computação e Equipe Vermelha Azul. Em 2020, ele foi incluído no Hall da Fama Canadense de Ficção Científica e Fantasia. Nasceu em Toronto e agora mora em Los Angeles.

Cópia

Paulo Shrivastava (00:03):

Olá, sou Paul Shrivastava, da Universidade Estadual da Pensilvânia. Nesta série de podcasts, falo com alguns dos principais escritores de ficção científica do mundo. Quero ouvir deles como a ciência pode nos ajudar a enfrentar os desafios multifacetados que temos pela frente. Afinal, eles ganham a vida pensando no futuro e em como ele poderia ou deveria ser.

Neste episódio, estou conversando com Cory Doctorow, romancista de ficção científica, jornalista e ativista tecnológico. Nas últimas duas décadas, publicou muitos trabalhos sobre monopólios tecnológicos e vigilância digital. A nossa conversa abordou a gestão dos direitos digitais, a justiça social e a sustentabilidade no mundo digital. Espero que você goste.

Bem-vindo, Cory, e obrigado por fazer parte deste podcast. Você pode começar nos contando um pouco mais sobre sua relação com a ciência, de forma ampla, e com a escrita de ficção científica?

Cory Doctorow (01:05):

Bem, cresci em circunstâncias extremamente felizes para alguém interessado em ficção científica. Eu cresci especificamente em Toronto na década de 1980. E havia uma mulher lá que era um turbilhão na área, uma mulher chamada Judith Merril, uma grande escritora, editora e crítica. Ela foi a decana da nova onda britânica de ficção científica. E, então, Judy permitiria que qualquer um trouxesse suas histórias e as fizesse um workshop com ela, ela as criticaria. Então isso foi tipo... eu não sei. É como receber ajuda de Einstein para o dever de casa de física. E então ela começou esses workshops de redação onde os escritores promissores que a procuravam, ela os reunia em reuniões semanais. E então eu estive em um deles por muitos anos, e tive o mais próximo possível de um aprendizado formal em ficção científica.

Em termos de ciência, você sabe, sou um diletante. O mais próximo que chego de ser um cientista é ter um diploma honorário em ciência da computação pela Open University, onde sou professor visitante de ciência da computação. E, em particular, tive uma excelente relação política com a ciência da computação porque, durante mais de 20 anos, trabalhei numa área que poderíamos chamar genericamente de direitos humanos digitais, relacionada com o acesso à informação, censura, privacidade e equidade. on-line.

Paulo Shrivastava (02:17):

Então, vamos nos aprofundar um pouco mais em algumas dessas questões. Você lidou com uma série desses tópicos relacionados aos avanços tecnológicos e aos interesses e favores de quem eles atuam. Você falou sobre tecnologia de vigilância em Irmão mais novo, leis de direitos autorais em Cinema Pirata, para criptomoeda em Equipe Vermelha Azul. Muitas vezes, as narrativas retratam as consequências negativas do crescimento tecnológico descontrolado, ou do crescimento tecnológico ao serviço do capitalismo, por assim dizer. Então, como você percebe o papel da ciência neste cenário cada vez mais digital em que estamos entrando?

Cory Doctorow (02:57):

Eu acho que você não pode ter ciência sem equidade. No sentido de que o que distingue a ciência das formas de criação de conhecimento que precedem o Iluminismo é o acesso, que é a pré-condição para a revisão adversária por pares. E assim, deixando de lado uma obrigação moral - que penso que podemos dizer que todos temos deveres morais uns para com os outros - penso que há apenas um argumento instrumental para dizer que se outras pessoas não tiverem permissão para inspecionar os seus dados e os seus métodos, e tentar replicar seu trabalho e criticá-lo livremente, então você não estará fazendo ciência. Os alquimistas fizeram algo que se parecia muito com a ciência, certo? Eles observaram o mundo, formularam uma hipótese, planejaram um experimento, realizaram o experimento e então todos morreram por beber mercúrio. Porque acontece que você pode se enganar pensando que o experimento foi um sucesso até o ponto em que o envenenamento por mercúrio o mata.

Cory Doctorow (04:05):

E a diferença entre a alquimia e a ciência não é que os cientistas que vieram depois fossem mais inteligentes ou menos propensos à autoilusão. É que foram sujeitos aos rigores da revisão adversária por pares, que como pré-condição exige publicação e acesso. E penso que quando há uma concentração de poder no sector comercial, ou seja, um monopólio, é muito difícil para os reguladores permanecerem independentes. Essas empresas tornam-se grandes demais para falir e grandes demais para serem presas. Então você realmente cria as condições para as pessoas negarem a ciência, o que tem consequências desastrosas para elas mesmas, mas também para todos nós.

Paulo Shrivastava (04:39):

Bem, concordo com você que há necessidade. Penso que a captura a que se refere pelas forças das corporações e dos governos, que são as duas principais fontes de financiamento da ciência, essa captura está completa. E agora olhamos para a inteligência artificial como um empreendimento científico generalizado que vai mudar tudo. Que tipo de recomendações políticas você poderia propor para toda essa área?

Cory Doctorow (05:09):

Bem, gostaria de começar dizendo que, como a primeira pessoa a mencionar IA, você deve uma bebida a todos os outros nesta ligação. Essa é a regra agora com IA. Deixe-me começar com uma advertência: não estou convencido de que IA seja o que você diz, seja um empreendimento científico generalizado que vai mudar tudo, por vários motivos. Sou cético de que, sem supervisão cuidadosa, a IA será capaz de produzir coisas confiáveis... que sejam confiáveis o suficiente para serem usadas em ambientes de alto risco. E se a supervisão exige a mesma diligência que tínhamos antes, então não sei se há razão para isso. Penso que se formos prudentes em termos da nossa regulamentação e dissermos: “Olha, se a IA pode ter alucinações e se a alucinação leva a consequências letais, a IA só pode ser supervisionada numa espécie de proporção de um para - um." Se o carro que dirige sozinho dirige com segurança 90% do tempo e 10% do tempo acelera no trânsito em sentido contrário, então o número de motoristas-supervisores necessários para cada carro que dirige sozinho é um, o que significa dizer que você não precisa conseguir demitir um único motorista. Então agora você acabou de comprar um carro mais caro.

Cory Doctorow (06:14):

E penso que qualquer bolha que dependa de continuar a atrair capital de investimento, que na sua maioria se incendeia antes de qualquer retorno ser gerado, tem de ser realmente alimentada por muito hype. E vemos esse entusiasmo ao nosso redor em uma extensão enorme. Em vez de se preocupar com as preocupações reais manifestas sobre a IA, que é o algoritmo de apoio à decisão que lhe nega uma hipoteca por causa da sua raça, ou que envia o seu filho para serviços de protecção devido à sua situação económica, ou que lhe nega fiança ou entrada num país, estamos nos concentrando - francamente, na minha capacidade profissional - em ficção científica ruim sobre o preenchimento automático com esteróides, acordando e transformando todos nós em clipes de papel. Isso deixa de lado as coisas materiais reais que estão acontecendo com a IA.

Paulo Shrivastava (07:08):

Então, qual é o papel dos comunicadores científicos no estouro desta bolha, o hype que foi construído em torno da IA? Quero dizer, a narrativa geral por aí é que isso vai mudar tudo. E o que estou ouvindo de você é que existem algumas questões fundamentais reais subjacentes a isso.

Cory Doctorow (07:26):

Penso que existem algumas lacunas na linha principal de comunicação científica sobre IA que seriam preenchidas de forma proveitosa. Portanto, nunca ouvi um programa científico popular descrever os limites potenciais da aprendizagem federada. Por exemplo. O que acontece se desligarmos os grandes servidores? E se os investidores simplesmente seguirem em frente? Como seria a IA se nunca treinarmos outro modelo importante e tudo o que fizermos for ajustar os modelos existentes que podem ser executados em hardware comum? E, em seguida, uma taxonomia de aplicações que não são sensíveis aos problemas comumente compreendidos com IA, ou seja, aquelas de baixo risco ou aquelas aplicações resilientes. Quais são essas aplicações? Se considerarmos todas as aplicações onde você precisa de supervisão individual, quais são essas? E tiramos isso, e então o que resta?

Paulo Shrivastava (08:15):

Passemos a falar sobre o período do Antropoceno. Os processos que sustentam a vida estão agora a mudar, ou mesmo a entrar em colapso total. Como podemos aproveitar o avanço no mundo digital, que você abordou de tantas maneiras diferentes, para mitigar o impacto humano no meio ambiente e garantir um futuro sustentável?

Cory Doctorow (08:38):

Meu último romance é um romance sobre isso, chama-se A causa perdida. E o que aconteceu neste romance não é um deus ex. Ainda não descobrimos como fazer a captura de carbono a uma taxa que desafie todo o estado da arte actual. Mas o que fizemos foi levar isso a sério. Aqui estamos, você sabe, presos neste ônibus, correndo em direção a um penhasco. E as pessoas nas primeiras filas e na primeira classe continuam dizendo: não há precipício. E se houver um penhasco, continuaremos acelerando até passarmos por cima dele. E uma coisa que sabemos com certeza é que não podemos desviar. Se desviarmos, o ônibus pode rolar e alguém pode quebrar o braço, e ninguém quer um braço quebrado. E este é um livro onde as pessoas agarram o volante e desviam. Onde milhões de pessoas estão envolvidas em projectos muito sérios a longo prazo para fazer coisas como realocar todas as cidades costeiras, vários quilómetros para o interior.

Cory Doctorow (09:32):

E essa adaptação climática, quando você a contempla, é bastante vertiginosa. Pode parecer um pouco desmoralizante pensar, bem, acho que todo o trabalho extra que todos terão durante os próximos 300 anos será destinado à correção desses erros tolos que cometemos antes. E então este é um livro sobre esse projeto. E trata-se de prosseguir esse projeto com base nas ideias de uma querida amiga minha que escreveu um livro muito bom recentemente, Debbie Chachra, cujo livro se chama Como funciona a infraestrutura. E Deb é uma cientista de materiais e salienta que a energia é efetivamente infinitamente abundante, mas os materiais são muito escassos. E, no entanto, durante a maior parte da história humana, tratámos os materiais como abundantes, utilizámo-los uma vez e deitámo-los fora. E tratamos a energia como escassa. E há uma reorientação técnica que está latente neste livro e que Deb deixa bem explícita em seu livro, na qual fazemos coisas como usar mais energia para produzir coisas para que elas sejam mais facilmente decompostas de volta no fluxo material.

Paulo Shrivastava (10:38):

Parece que estamos ocupados consumindo o planeta a um ritmo sem precedentes. E poderá a ficção científica ajudar de alguma forma a ajudar os humanos a reformular a sua visão do mundo para que seja mais compatível com o que está a acontecer aqui – os nossos desafios neste planeta?

Cory Doctorow (10:54):

Bem, e isso é algo sobre o qual venho escrevendo desde meu romance Ir embora, em 2017. Essa ideia de que a abundância surge do acesso ao material, mas também da construção social daquilo que queremos. E, finalmente, a eficiência na distribuição de mercadorias. Sou proprietário de uma casa, o que significa que três vezes por ano preciso fazer um buraco na parede. E então eu possuo uma furadeira e, brincando, chamo-a de furadeira mínima viável. É a furadeira economicamente racional para quem faz três furos por ano. E eu tenho que abrir mão de uma gaveta inteira para guardar essa furadeira horrível. E o que você percebe é que está pagando um imposto enorme, tanto no calibre dos bens que possui quanto na disponibilidade de espaço em sua casa, para manter o acesso a coisas que raramente precisa. Há outro tipo de exercício, às vezes chamo-lhe exercício de socialismo de biblioteca, onde há apenas uma nuvem estocástica de exercícios na sua vizinhança que sabem onde estão, que mantêm a telemetria sobre a sua utilização para melhorar a produção futura. Eles prontamente se decompõem de volta no fluxo de material. E você sempre pode colocar a mão em uma furadeira quando precisar, e é a melhor furadeira já feita.

Cory Doctorow (12:08):

Multiplique isso pelos cortadores de grama e pelos pratos extras que você guarda para o Natal ou jantares, e todas as outras coisas que estão em sua casa e que você não precisa o tempo todo. E esse é um mundo de enorme abundância. Isso é mais luxo. E quando você combina essas três coisas, a eficiência do uso de materiais e energia, a natureza coordenativa da tecnologia e a engenharia do nosso desejo, há um futuro em que viveremos com uma pegada material e energética muito menor e teremos muito mais vida luxuosa. Uma vida de enorme abundância.

Paulo Shrivastava (12:42):

Sobre essa mensagem esperançosa, vou lhe fazer uma última pergunta. E isto é, se houvesse uma lição para a ciência aprender com a ficção científica, qual seria essa em sua mente?

Cory Doctorow (12:56):

Eu diria que a coisa mais importante que a ficção científica faz, no que diz respeito à ciência, é desafiar as relações sociais da tecnologia e da descoberta científica e do conhecimento científico. A questão mais importante sobre tecnologia raramente é: o que isso faz? Mas sim, para quem faz isso e para quem faz isso? E que a tecnologia sob controlo democrático é muito diferente da tecnologia que é imposta às pessoas.

A ideia de que uma tecnologia desenhada com a humildade de compreender que não se pode prever as circunstâncias em que essa tecnologia será utilizada – e assim se deixa espaço para os próprios utilizadores a adaptarem – esse é o melhor de todos os mundos técnicos. E cada idioma tem um nome para isso. Você poderia chamar isso de bodge, o que às vezes é um pouco pejorativo. Mas acho que todos nós gostamos de um bom bodge. Em francês é bricolage. Em hindi, é jugaad.

Paulo Shrivastava (14:00):

Jugaad!

Cory Doctorow (14:02):

Cada idioma tem uma palavra para isso e nós adoramos isso. E é somente através da humildade de antecipar o imprevisível que seremos os antepassados dignos dos nossos descendentes intelectuais que virão depois de nós.

Paulo Shrivastava (14:22):

Obrigado por ouvir este podcast do Center for Science Futures do Conselho Internacional de Ciência, feito em parceria com o Arthur C. Clarke Center for Human Imagination da UC San Diego. Visite futures.council.science para descobrir mais trabalhos do Center for Science Futures. Centra-se nas tendências emergentes nos sistemas científicos e de investigação e fornece opções e ferramentas para tomar decisões mais informadas.

Paul Shrivastava, Professor de Gestão e Organizações na Universidade Estadual da Pensilvânia, apresentou a série de podcasts. Ele é especialista na implementação de Objetivos de Desenvolvimento Sustentável. O podcast também é feito em colaboração com o Centro Arthur C. Clarke para a Imaginação Humana da Universidade da Califórnia, San Diego.

O projeto foi supervisionado por Mathieu Denis e levado por Dong Liu, A partir do Centro para Futuros da Ciência, o think tank do ISC.

foto de Elimende Inagella on Unsplash.

Aviso Legal
As informações, opiniões e recomendações apresentadas neste artigo são de responsabilidade dos colaboradores individuais e não refletem necessariamente os valores e crenças do Conselho Científico Internacional.