Podcast avec Cory Doctorow : La science-fiction et l'avenir de la science : tirer parti des avancées numériques pour l'avenir

Les scientifiques et les chercheurs apprécient de plus en plus la science-fiction pour sa contribution à l’anticipation des scénarios futurs. Dans le cadre de sa mission visant à explorer les directions dans lesquelles les changements dans la science et les systèmes scientifiques nous conduisent, le Centre pour l'avenir des sciences a rencontré six grands auteurs de science-fiction pour recueillir leurs points de vue sur la manière dont la science peut relever les nombreux défis sociétaux auxquels nous serons confrontés au cours des prochaines décennies. Le podcast est en partenariat avec Nature.

Dans notre sixième et dernier épisode, Cory Doctorow nous rejoint pour discuter de la question de la confiance dans la science et de ce que nous pouvons faire pour la renforcer. Il couvre les questions liées à l'intelligence artificielle et concernant les algorithmes et les modèles de formation. Pour Doctorow, il souhaite voir comment le pouvoir de coordination de la technologie numérique peut être exploité pour un avenir plus durable.

Abonnez-vous et écoutez via votre plateforme préférée

Cory Doctorow

Il est l'auteur de nombreux livres, dont le plus récent La cause perdue, un roman de science-fiction solarpunk plein d'espoir au milieu de l'urgence climatique et L'escroquerie Internet : comment s'emparer des moyens de calcul et Les Bleus de l'équipe rouge. En 2020, il a été intronisé au Temple de la renommée canadienne de la science-fiction et du fantastique. Né à Toronto, il vit désormais à Los Angeles.

Transcription

Paul Shrivastava (00:03) :

Bonjour, je m'appelle Paul Shrivastava de la Pennsylvania State University. Dans cette série de podcasts, je m'entretiens avec certains des plus grands écrivains de science-fiction au monde. Je souhaite les entendre expliquer comment la science peut nous aider à relever les nombreux défis qui nous attendent. Après tout, ils vivent de la réflexion sur l’avenir et sur ce qu’il pourrait ou devrait être.

Dans cet épisode, je parle à Cory Doctorow, romancier de science-fiction, journaliste et activiste technologique. Au cours des deux dernières décennies, il a publié de nombreux ouvrages sur les monopoles technologiques et la surveillance numérique. Notre conversation a porté sur la gestion des droits numériques, la justice sociale et la durabilité dans le monde numérique. J'espère que ça vous plait.

Bienvenue, Cory, et merci de faire partie de ce podcast. Pouvez-vous commencer par nous en dire un peu plus sur votre rapport à la science en général et à l’écriture de science-fiction ?

Cory Doctorow (01:05) :

Eh bien, j'ai grandi dans des circonstances extrêmement chanceuses pour quelqu'un qui s'intéresse à la science-fiction. J'ai grandi spécifiquement à Toronto dans les années 1980. Et il y avait là une femme qui était un vrai tourbillon dans le domaine, une femme nommée Judith Merril, une grande écrivaine, éditrice et critique. Elle était la doyenne de la nouvelle vague britannique de science-fiction. Et donc, Judy permettait à n'importe qui de raconter ses histoires et de les étudier avec elle, elle les critiquerait. Donc c'était comme… je ne sais pas. C’est comme si Einstein vous aidait pour vos devoirs de physique. Et puis elle a lancé ces ateliers d’écriture où les écrivains prometteurs qui venaient la voir, elle les regroupait dans des réunions hebdomadaires. Et j’ai donc été dans l’un d’eux pendant de nombreuses années, et j’avais juste un apprentissage aussi formel que possible en science-fiction.

En termes de science, vous savez, je suis un dilettante. Ce qui me rapproche le plus du statut de scientifique, c'est d'avoir un diplôme honorifique en informatique de l'Open University où je suis professeur invité d'informatique. Et, en particulier, j'ai eu une excellente relation politique avec l'informatique car depuis plus de 20 ans maintenant, j'ai travaillé dans un domaine que nous pourrions appeler au sens large les droits de l'homme numériques, liés à l'accès à l'information, à la censure, à la vie privée et à l'équité. en ligne.

Paul Shrivastava (02:17) :

Examinons donc un peu plus en profondeur certaines de ces questions. Vous avez traité une série de ces sujets liés aux progrès technologiques et sur les intérêts et en faveur desquels ils fonctionnent. Vous avez parlé de technologie de surveillance dans Petit frère, les lois sur le droit d'auteur dans Cinéma pirate, à la crypto-monnaie dans Les Bleus de l'équipe rouge. Très souvent, les récits décrivent les conséquences négatives d’une croissance technologique incontrôlée, ou d’une croissance technologique au service du capitalisme, si vous préférez. Alors, comment percevez-vous le rôle de la science dans ce paysage de plus en plus numérique dans lequel nous entrons ?

Cory Doctorow (02:57) :

Je pense qu’il ne peut pas y avoir de science sans équité. Dans le sens où ce qui distingue la science des formes de création de connaissances qui ont précédé les Lumières est l’accès, qui est la condition préalable à un examen contradictoire par les pairs. Et donc, en laissant de côté une obligation morale - selon laquelle nous pouvons dire que nous avons tous des devoirs moraux les uns envers les autres - je pense qu'il existe simplement un argument instrumental pour dire que si d'autres personnes ne sont pas autorisées à inspecter vos données et vos méthodes, et essayez de reproduire votre travail et de vous critiquer librement, alors vous ne faites pas de science. Les alchimistes ont fait quelque chose qui ressemblait beaucoup à de la science, n'est-ce pas ? Ils ont observé le monde, ils ont formulé une hypothèse, ils ont conçu une expérience, ils ont mené l’expérience, puis ils sont tous morts en buvant du mercure. Car il s’avère qu’on peut se leurrer en pensant que l’expérience a été un succès au point que l’empoisonnement au mercure vous tue.

Cory Doctorow (04:05) :

Et la différence entre l’alchimie et la science ne réside pas dans le fait que les scientifiques qui ont suivi étaient plus intelligents ou moins enclins à l’illusion. C’est qu’ils ont été soumis aux rigueurs d’un examen contradictoire par les pairs, qui exige comme condition préalable la publication et l’accès. Et je pense que lorsqu’il y a une concentration du pouvoir dans le secteur commercial, c’est-à-dire un monopole, il est très difficile pour les régulateurs de rester indépendants. Ces entreprises deviennent trop grandes pour faire faillite et trop grandes pour être emprisonnées. Ensuite, vous créez les conditions permettant aux gens de nier la science, ce qui a des conséquences désastreuses pour eux-mêmes, mais aussi pour nous tous.

Paul Shrivastava (04:39) :

Eh bien, je suis d'accord avec vous qu'il y a un besoin. Je pense que la capture à laquelle vous faites référence par les forces des entreprises et des gouvernements, qui sont les deux principales sources de financement de la science, est totale. Et maintenant, nous considérons l’intelligence artificielle comme une entreprise scientifique omniprésente qui va tout changer. Quel genre de recommandations politiques pourriez-vous proposer pour l’ensemble de ce domaine ?

Cory Doctorow (05:09) :

Eh bien, j'aimerais commencer par dire qu'en tant que première personne à mentionner l'IA, vous devez un verre à tous les autres participants à cet appel. C’est désormais la règle avec l’IA. Permettez-moi de commencer par une mise en garde : je ne suis pas convaincu que l’IA soit ce que vous dites, qu’il s’agisse d’un effort scientifique omniprésent qui va tout changer, pour de nombreuses raisons. Je suis sceptique quant au fait que sans une supervision étroite, l’IA sera capable de produire des choses fiables… suffisamment fiables pour être utilisées dans des environnements à enjeux élevés. Et si la supervision exige la même diligence qu’auparavant, alors je ne sais pas si cela est justifié. Je pense que si nous sommes prudents en termes de réglementation et que nous disons : « Écoutez, si l'IA peut avoir des hallucinations et si l'hallucination entraîne des conséquences mortelles, l'IA ne peut être supervisée qu'à un rapport de un pour... un." Si la voiture autonome roule en toute sécurité 90 % du temps et accélère 10 % du temps dans la circulation venant en sens inverse, alors le nombre de conducteurs-superviseurs dont vous avez besoin pour chaque voiture autonome est de un, ce qui signifie que vous ne le faites pas. pouvoir licencier un seul conducteur. Alors maintenant, vous avez juste une voiture plus chère.

Cory Doctorow (06:14) :

Et je pense que toute bulle qui dépend de la nécessité de continuer à attirer des capitaux d’investissement qui s’enflamment avant qu’un quelconque rendement ne soit généré doit vraiment fonctionner avec beaucoup de battage médiatique. Et nous constatons énormément ce battage médiatique autour de nous. Au lieu de vous soucier des inquiétudes manifestes concernant l'IA, qui est l'algorithme d'aide à la décision qui vous refuse une hypothèque en raison de votre race, ou qui envoie votre enfant dans des services de protection en raison de votre situation économique, ou qui vous refuse une libération sous caution ou l'entrée dans un pays, nous nous concentrons – franchement, en ma qualité professionnelle – sur de la mauvaise science-fiction sur la saisie semi-automatique sous stéroïdes, qui nous réveille et nous transforme tous en trombones. Cela laisse de côté les aspects matériels réels de l’IA.

Paul Shrivastava (07:08) :

Alors, quel est le rôle des communicateurs scientifiques pour faire éclater cette bulle, le battage médiatique qui s’est construit autour de l’IA ? Je veux dire, le discours général est que cela va tout changer. Et ce que j’entends de votre part, c’est qu’il y a de véritables problèmes fondamentaux sous-jacents.

Cory Doctorow (07:26) :

Je pense qu’il existe certaines lacunes dans la communication scientifique sur l’IA qui pourraient être comblées de manière fructueuse. Je n’ai donc jamais entendu un programme de vulgarisation scientifique décrire les limites potentielles de l’apprentissage fédéré. Par exemple. Que se passe-t-il si nous éteignons les gros serveurs ? Et si les investisseurs passaient à autre chose ? À quoi ressemblera l’IA si nous ne formons jamais un autre modèle majeur et si nous nous contentons d’ajuster les modèles existants qui peuvent fonctionner sur du matériel de base ? Et puis une taxonomie d’applications qui ne sont pas sensibles aux problèmes communément compris de l’IA, donc à ceux à faibles enjeux ou à ces applications résilientes. Quelles sont ces applications ? Si nous prenons toutes les applications qui nécessitent une supervision individuelle, lesquelles sont-elles ? Et nous les retirons, et puis que reste-t-il ?

Paul Shrivastava (08:15) :

Passons maintenant à la période de l'Anthropocène. Les processus qui soutiennent la vie sont en train de changer, voire de s’effondrer complètement. Comment pouvons-nous tirer parti des progrès du monde numérique, que vous avez abordés de tant de manières différentes, pour atténuer l'impact humain sur l'environnement et garantir un avenir durable ?

Cory Doctorow (08:38) :

Mon dernier roman est un roman à ce sujet, il s'appelle La cause perdue. Et ce qui s’est passé dans ce roman n’est pas un Deus Ex. Nous n’avons pas trouvé comment capturer le carbone à un rythme qui défie toutes les avancées actuelles. Mais ce que nous avons fait, c’est que nous l’avons pris au sérieux. Nous voici, vous savez, coincés dans ce bus, fonce vers une falaise. Et les gens aux premiers rangs et en première classe n’arrêtent pas de dire : il n’y a pas de falaise. Et s’il y a une falaise, nous continuerons simplement à accélérer jusqu’à la franchir. Et une chose dont nous sommes sûrs, c’est que nous ne pouvons pas dévier. Si nous faisons un écart, le bus pourrait rouler et quelqu'un pourrait se casser le bras, et personne ne veut d'un bras cassé. Et c’est un livre où les gens prennent le volant et font un écart. Où des millions de personnes sont engagées dans des projets très sérieux à long terme visant notamment à relocaliser chaque ville côtière, à plusieurs kilomètres à l’intérieur des terres.

Cory Doctorow (09:32) :

Et cette adaptation climatique, quand on y réfléchit, c’est assez vertigineux. Cela peut sembler un peu démoralisant de penser, eh bien, je suppose que tout le travail disponible dont chacun disposera au cours des 300 prochaines années sera consacré à la correction de ces erreurs stupides que nous avons commises auparavant. Et donc c’est un livre qui parle de ce projet. Et il s’agit de poursuivre ce projet en s’appuyant sur les idées d’une de mes chères amies qui a récemment écrit un très bon livre, Debbie Chachra, dont le livre s’intitule Comment fonctionne l'infrastructure. Et Deb est une scientifique des matériaux, et elle souligne que l’énergie est effectivement infiniment abondante, mais que les matériaux sont très rares. Et pourtant, pendant la majeure partie de l’histoire de l’humanité, nous avons traité les matériaux comme étant abondants, les avons utilisés une seule fois et les avons jetés. Et nous considérions l’énergie comme étant rare. Et il y a une réorientation technique qui est latente dans ce livre et que Deb rend très explicite dans son livre, dans lequel nous faisons des choses comme utiliser plus d'énergie pour produire des choses afin qu'elles soient plus facilement décomposées en flux matériel.

Paul Shrivastava (10:38) :

Il semble que nous soyons occupés à consommer la planète à un rythme sans précédent. Et la science-fiction peut-elle, d’une manière ou d’une autre, aider les humains à reformuler leur vision du monde afin qu’elle soit plus compatible avec ce qui se passe ici – nos défis sur cette planète ?

Cory Doctorow (10:54) :

Eh bien, et c'est quelque chose sur lequel j'écris depuis mon roman Walkaway, en 2017. Cette idée selon laquelle l’abondance naît de l’accès au matériel, mais aussi de la construction sociale de ce que nous voulons. Et enfin, l’efficacité de la distribution des marchandises. Je suis donc propriétaire, ce qui veut dire que trois fois par an je dois faire un trou dans un mur. Et donc je possède une perceuse, et je l’appelle en plaisantant la perceuse minimale viable. C’est la foreuse qui est économiquement rationnelle pour quelqu’un qui fait trois trous par an. Et je dois abandonner un tiroir entier pour ranger cette horrible perceuse. Et ce que vous réalisez, c’est que vous payez une taxe énorme, à la fois sur la qualité des biens que vous possédez et sur la disponibilité de l’espace dans votre maison, pour maintenir l’accès à des choses dont vous avez rarement besoin. Il existe un autre type d’exercice, que j’appelle parfois l’exercice du socialisme en bibliothèque, où il y a juste, comme, un nuage stochastique d’exercices dans votre quartier qui savent où ils se trouvent, qui maintiennent une télémétrie sur leur utilisation pour améliorer la fabrication future. Ils se décomposent facilement dans le flux de matériaux. Et vous pouvez toujours mettre la main sur une perceuse lorsque vous en avez besoin, et c’est la meilleure perceuse jamais fabriquée.

Cory Doctorow (12:08) :

Multipliez cela par les tondeuses à gazon et les assiettes supplémentaires que vous gardez pour Noël ou les dîners, et toutes les autres choses qui se trouvent dans votre maison et dont vous n'avez pas besoin tout le temps. Et c’est un monde d’énorme abondance. C'est plus de luxe. Et lorsque vous combinez ces trois éléments, l'efficacité de l'utilisation des matériaux et de l'énergie, la nature coordonnée de la technologie et l'ingénierie de notre désir, nous obtenons un avenir dans lequel nous vivons avec une empreinte matérielle et énergétique beaucoup plus réduite et où nous avons une empreinte bien plus grande. Vie luxueuse. Une vie d’une énorme abondance.

Paul Shrivastava (12:42) :

Sur ce message plein d'espoir, je vais vous poser une dernière question. Et si la science avait une leçon à tirer de la science-fiction, quelle serait-elle selon vous ?

Cory Doctorow (12:56) :

Je dirais que la chose la plus importante que fait la science-fiction, en ce qui concerne la science, c'est de remettre en question les relations sociales de la technologie, ainsi que de la découverte et de la connaissance scientifiques. La question la plus importante concernant la technologie est rarement la suivante : à quoi sert-elle ? Mais plutôt, pour qui le fait-il et à qui le fait-il ? Et cette technologie sous contrôle démocratique est très différente de la technologie imposée aux gens.

L’idée selon laquelle une technologie conçue avec l’humilité de comprendre qu’on ne peut pas prédire les circonstances dans lesquelles cette technologie sera utilisée – et donc de laisser la possibilité aux utilisateurs eux-mêmes de l’adapter – est le meilleur de tous les mondes techniques. Et chaque langue a un nom pour cela. On pourrait appeler cela un bodge, ce qui est parfois un peu péjoratif. Mais je pense que nous aimons tous un bon logement. En français, c'est du bricolage. En hindi, c'est jugaad.

Paul Shrivastava (14:00) :

Jugaad !

Cory Doctorow (14:02) :

Chaque langue a un mot pour cela, et nous l'adorons. Et c’est seulement grâce à l’humilité d’anticiper l’inattendu que nous sommes les dignes ancêtres de nos descendants intellectuels qui viendront après nous.

Paul Shrivastava (14:22) :

Merci d'avoir écouté ce podcast du Center for Science Futures du Conseil international des sciences réalisé en partenariat avec le Arthur C. Clarke Center for Human Imagination de l'UC San Diego. Visitez futures.council.science pour découvrir d'autres travaux du Center for Science Futures. Il se concentre sur les tendances émergentes dans les systèmes scientifiques et de recherche et propose des options et des outils pour prendre des décisions plus éclairées.

Paul Shrivastava, professeur de gestion et d'organisations à la Pennsylvania State University, a animé la série de podcasts. Il se spécialise dans la mise en œuvre des objectifs de développement durable. Le podcast est également réalisé en collaboration avec le Centre Arthur C. Clarke pour l'imagination humaine de l'Université de Californie à San Diego.

Le projet a été supervisé par Mathieu Denis et portée par Dong Liu, du Centre pour l'avenir des sciences, le groupe de réflexion de l'ISC.

photo from Elimende Inagella on Unsplash.

Clause de non-responsabilité 
Les informations, opinions et recommandations présentées dans cet article sont celles des contributeurs individuels et ne reflètent pas nécessairement les valeurs et croyances du Conseil scientifique international.