Inscription

Podcast avec Qiufan Chen : Science-fiction et avenir de la science : valeurs et sens dans l'intelligence artificielle 

Qiufan Chen, écrivain chinois de fiction spéculative primé, partage son point de vue sur le potentiel de la science-fiction pour façonner l'avenir de la science dans la nouvelle série de podcasts du Center for Science Futures, en partenariat avec Nature.

Les scientifiques et les chercheurs apprécient de plus en plus la science-fiction pour sa contribution à l’anticipation des scénarios futurs. Dans le cadre de sa mission visant à explorer les directions dans lesquelles les changements dans la science et les systèmes scientifiques nous conduisent, le Centre pour l'avenir des sciences a rencontré six grands auteurs de science-fiction pour recueillir leurs points de vue sur la manière dont la science peut relever les nombreux défis sociétaux auxquels nous serons confrontés au cours des prochaines décennies. Le podcast est en partenariat avec Nature.

Dans notre cinquième épisode, Qiufan Chen se joint à nous pour discuter de l'action et de la responsabilité sociale dans la science en tant qu'entreprise humaine. Pour Chen, cela s’applique particulièrement à l’intelligence artificielle. Au cours du podcast, il nous explique les impacts de l’IA sur l’avenir de la recherche scientifique et comment les développements de l’IA peuvent être plus réglementés et ainsi rendus plus éthiques.

Abonnez-vous et écoutez via votre plateforme préférée


Qiufan Chen

Qiufan Chen est un écrivain chinois de fiction spéculative primé, auteur de La marée des déchets et co-auteur de AI 2041 : Dix visions pour notre avenir. Il est également chercheur à l’Université de Yale et membre du Berggruen Institute, aux États-Unis. Notre principale discussion porte sur l’intelligence artificielle et sur la manière dont nous pouvons exploiter la puissance de cette technologie tout en évitant les dangers qu’elle présente. 


Transcription

Paul Shrivastava (00:04) :

Bonjour, je m'appelle Paul Shrivastava de la Pennsylvania State University. Et, dans cette série de podcasts, je m'adresse à certains des plus grands écrivains de science-fiction d'aujourd'hui. Je souhaite connaître leur point de vue sur l’avenir de la science et sur la manière dont elle doit se transformer pour relever les défis auxquels nous serons confrontés dans les années à venir.

Qiufan Chen (00:24) :

À l’avenir, l’IA pourrait peut-être être utilisée pour nous aider à nous refléter comme un miroir, pour faire de nous un meilleur être humain.

Paul Shrivastava (00:33) :

Aujourd'hui, je parle à Qiufan Stanley Chen, un écrivain chinois primé. J'ai lu son roman, La marée des déchets il y a de nombreuses années et a été impressionné par son portrait des difficultés liées aux déchets électroniques. Son plus récent livre co-écrit IA 2041 : 10 visions de notre avenir, combine de manière vivante des histoires imaginatives et des prévisions scientifiques. Nous avons beaucoup parlé de l’intelligence artificielle et de la façon dont nous pouvons exploiter la puissance de cette incroyable technologie, tout en évitant certains des dangers qu’elle présente. 

Merci beaucoup de vous joindre à nous, Stan. Accueillir. C’est incroyable que l’éventail de sujets scientifiques que vous maîtrisez soit vraiment remarquable. Comment vous est venue l’envie de vous intéresser à ces sujets scientifiques ?

Qiufan Chen (01:28) :

Donc, en tant que fan de science-fiction, je dois admettre que je suis parti de tous ces Star Wars, Star Trek, Jurassic Park, films et livres de science-fiction classiques, animations de l'époque. À chaque fois, cela m’a donné beaucoup de nouvelles inspirations et idées. J’ai donc toujours été totalement fasciné par tous ces signes, par l’imagination du futur, de l’espace et même des espèces il y a des millions d’années. Alors, comment nous les avons ramenés à la vie.

Paul Shrivastava (02:02) :

La science existe donc depuis très longtemps. Quelle est votre vision générale de la science en tant qu’entreprise humaine ?

Qiufan Chen (02:13) :

Pour moi, c’est définitivement une immense réussite. Et bien sûr, cela nous permet de vivre dans une meilleure condition en tant qu’être humain. Et quand on regarde l'histoire, je dois admettre qu'il y a beaucoup de défis, parce que j'ai l'impression que l'agence n'est pas entièrement entre les mains des êtres humains. Parfois, j’ai l’impression que la science et la technologie, tout comme certaines espèces, certains êtres biologiques, ont peut-être leur propre objectif. Il a son propre cycle de vie. Il veut être et évoluer avec les êtres humains. Nous sommes donc comme l'hôte, ils sont comme le virus. Nous pouvons le voir de cette façon ou l’inverse. J’ai donc toujours l’impression qu’il existe un lien très profond entre la science et les êtres humains. Ainsi, j’ai parfois l’impression que nous avons été beaucoup transformés par tout ce développement de la science et de la technologie, mais nous ne savons jamais quelle est la direction qui nous attend.

Paul Shrivastava (03:24) :

Eh bien, rendons les choses plus concrètes et concentrons-nous sur ce qui nous préoccupe actuellement, à savoir l’intelligence artificielle. Comment pouvons-nous garantir que le développement de l’IA tienne compte de la justice sociale et des considérations éthiques et morales ?

Qiufan Chen (03:40) :

Le problème est que nous n’avons pas investi pleinement pour élaborer ce type de réglementation et de cadre permettant d’empêcher éthiquement que quelque chose de négatif ne se produise. Je pense que nous avons besoin de plus de diversité en matière d'IA, et en particulier sur les grands modèles de langage, car nous parlons spécifiquement d'alignement. Ainsi, même parmi les êtres humains de différents pays, cultures et langues, nous n’avions pas cet alignement commun comme norme unique. Alors, comment pouvons-nous apprendre à la machine, à l’IA, à s’aligner sur le système de valeurs humaines ou sur les normes comme un tout intégral ? Donc, je pense que c'est quelque chose de très préliminaire. Mais je pense que la contribution clé ne devrait pas provenir uniquement des entreprises technologiques, des ingénieurs, de tous ces gens qui font ce travail dans l'industrie, mais aussi du monde interdisciplinaire, comme les anthropologies et les psychologies, la sociologie, par exemple. Nous avons besoin d’une perspective plus diversifiée de la part des sciences humaines, car l’IA est censée être conçue pour les gens, pour les servir. Mais le facteur humain à l’heure actuelle, j’ai l’impression qu’il manque assez dans la boucle.

Paul Shrivastava (05:11) :

Alors, à votre avis, comment ces avancées technologiques changeront-elles la façon dont la science sera menée à l’avenir ?

Qiufan Chen (05:19) :

Il me semble qu’il s’agit d’un tout nouveau changement de paradigme que les scientifiques peuvent utiliser pour rechercher de nouveaux modèles, prédire la structure des protéines et trouver la corrélation au sein d’une énorme quantité de données. Je pense que cela va être quelque chose de révolutionnaire. Mais ce processus suscite également de nombreuses inquiétudes. Par exemple, nous pouvons actuellement prédire la structure de millions de protéines, mais le problème est de savoir quel pourcentage de toutes ces prédictions de structure protéique est valide et efficace pour la vraie maladie et le vrai corps humain ? Et une autre chose est que tout ce domaine révolutionné est très axé sur l’accumulation d’une énorme quantité d’ensembles de données. Ces données sont-elles collectées auprès de quel type de groupe ? Quel type de population ? Et partagent-ils ces données avec préavis, pour lesquelles tout a été utilisé ? Et partageons-nous les données entre différents groupes de scientifiques ou de chercheurs ? Je pense donc qu’il s’agit toujours de savoir comment construire ce type de système de contrepoids afin de minimiser les risques et les défis, tout en répondant réellement aux demandes du marché et en apportant les meilleurs avantages aux populations.

Paul Shrivastava (06:56) :

Oui, je pense que la construction du système de freins et contrepoids est une partie importante du développement de l’IA. Mais les impacts environnementaux de l’intelligence artificielle elle-même sont rarement mentionnés dans les discours scientifiques publics.

Qiufan Chen (07:13) :

C’est quelque chose de très paradoxal, car l’IA nécessite tellement de puissance. Et cela nécessite un calcul en temps réel. Il a besoin de beaucoup d’extraction de l’environnement. Mais en attendant, nous pouvons l’utiliser pour détecter les incendies de forêt provenant du satellite. Nous pouvons l'utiliser pour protéger la biodiversité. Nous pouvons l’utiliser pour trouver de nouvelles solutions comme le stockage d’énergie par batterie, les réseaux intelligents et peut-être même la technologie de fusion nucléaire à l’avenir. Donc, si vous l’utilisez correctement, il peut certainement nous protéger et lutter contre le changement climatique.

Paul Shrivastava (08:03) :

À un moment donné dans le futur, pensez-vous que l’IA comprendra plus que ce que les humains peuvent comprendre ?

Qiufan Chen (08:13) :

Donc, ce à quoi je pensais, c'est un modèle, comme un grand modèle au-delà de l'humain. Par exemple, les données proviennent d'animaux, de plantes, de champignons, même de micro-organismes et de l'environnement dans son ensemble. Nous parlons donc du modèle terrestre dans son ensemble. Nous devons déployer ce type de couches de capteurs partout dans le monde. Alors peut-être pourrions-nous utiliser la poussière intelligente, mentionnée dans le roman de Lem, L'Invincible. Alors, vous parlez de tout cet essaim de petites poussières, au fond c'est une intelligence collective. Et l’humain peut apprendre beaucoup de ce type de grand modèle, car il nous aide à percevoir quelque chose au-delà de notre système sensoriel et au-delà de l’humain. Nous pourrons alors être moins centrés sur l’humain et faire preuve de plus de compassion à l’égard des autres espèces. Et peut-être que ce serait la solution pour lutter contre le changement climatique, car nous pouvons ressentir ce que ressentent les autres espèces et toute cette douleur, toute cette souffrance, tous ces sacrifices pourraient être quelque chose de tangible et de réel.

Paul Shrivastava (09:36) :

Merveilleux. Imaginer l’intelligence artificielle dans le modèle humain est en fait une manière inférieure de penser l’artificiel… La manière la plus supérieure, ce que vous appelez le modèle du monde entier, est la manière de se développer.

Qiufan Chen (09:54) :

Ouais. Donc, cela me rappelle le bouddhisme, parce que dans le bouddhisme, comme toutes les espèces sensibles, elles sont aussi égales que possible, et il n’existe pas d’êtres humains censés être premiers que les autres. Donc, je pense toujours que nous devons trouver un moyen d’intégrer toute cette philosophie et ces valeurs du bouddhisme et du taoïsme dans la machine.

Paul Shrivastava (10:27) :

Donc, je me demande si vous comprenez les éléments techniques de l'IA. L’IA peut-elle être formée au bouddhisme, au taoïsme ? Parce que tous les livres et valeurs sont déjà codifiés. Est-il possible de trouver une IA qui s’entraîne sur eux et crée une religion mondiale synthétique, si vous voulez ?

Qiufan Chen (10:50) :

Il le pourrait certainement, et il pourrait faire un meilleur travail que n’importe lequel des prêtres, n’importe quel moine, n’importe lequel des gourous du monde, parce qu’il est très compétent. Mais, en tant que pratiquant du taoïsme, il y a quelque chose au-delà de la compréhension synthétique de tout cela, qu’on appelle cela une expérience religieuse ou spirituelle, c’est quelque chose dans le corps. Donc, vous devez faire tous ces devoirs physiques. Donc, je pense que c’est quelque chose qui manque encore à l’IA. Il n’avait pas de corps, il n’avait pas de système sensoriel complexe, il n’avait pas de conscience de soi, par exemple. Et je pense que c’est tout cela qui fait qu’un humain est humain. À l’avenir, l’IA pourrait peut-être être utilisée pour nous aider à nous refléter comme un miroir, pour faire de nous un meilleur être humain.

Paul Shrivastava (11:49) :

Dans votre imagination, l’IA peut-elle avoir une âme ?

Qiufan Chen (11:54) :

L’émergence de la conscience est actuellement un mystère pour la science. Il me semble donc qu’il existe certainement un lien entre la capacité émergente des grands modèles de langage et tous ces phénomènes d’émergence dans les systèmes complexes de physique classique ou quantique. Je pense donc que mathématiquement, peut-être qu'un jour nous pourrons prouver l'existence de la conscience. Mais il ne s’agit pas d’un statut nul ou unique, mais plutôt d’un spectre continu de statuts. Cela signifie peut-être que même un rocher, même un arbre, même une rivière ou une montagne ont un certain niveau de conscience, mais nous ne l’avons tout simplement pas reconnu parce que nous sommes tellement centrés sur l’humain. Mais tout est question de calcul. Tout est question de compression de l’espace-temps. Tout est question de préservation des informations. Il s’agit donc de réduire l’entropie. Ce n’est donc pas une question épistémologique, mais je pense que c’est une question ontologique. Il s’agit donc d’existence.

Paul Shrivastava (13:14) :

Merci d'avoir écouté ce podcast du Center for Science Futures du Conseil international des sciences réalisé en partenariat avec le Arthur C. Clarke Center for Human Imagination de l'UC San Diego. Visitez futures.council.science pour découvrir d'autres travaux du Center for Science Futures. Il se concentre sur les tendances émergentes dans les systèmes scientifiques et de recherche et propose des options et des outils pour prendre des décisions plus éclairées.


Paul Shrivastava, professeur de gestion et d'organisations à la Pennsylvania State University, a animé la série de podcasts. Il se spécialise dans la mise en œuvre des objectifs de développement durable. Le podcast est également réalisé en collaboration avec le Centre Arthur C. Clarke pour l'imagination humaine de l'Université de Californie à San Diego.

Le projet a été supervisé par Mathieu Denis et portée par Dong Liu, du Centre pour l'avenir des sciences, le groupe de réflexion de l'ISC.


Veuillez activer JavaScript dans votre navigateur pour remplir ce formulaire.

Restez à jour avec nos newsletters


photo from COMMERCES on Unsplash.


Clause de Non-responsabilité
Les informations, opinions et recommandations présentées dans cet article sont celles du ou des contributeurs individuels et ne reflètent pas nécessairement les valeurs et les convictions du Conseil scientifique international.

Passer au contenu