Il a été proposé par un certain nombre d'universitaires et d'experts politiques que le Conseil scientifique international – avec ses membres pluralistes issus des sciences sociales et naturelles – établisse un processus pour produire et maintenir un cadre/une liste de contrôle annotée des risques, des avantages, des menaces et des opportunités. associée à l’évolution rapide des technologies numériques, y compris – mais sans s’y limiter – l’IA. L’objectif de la liste de contrôle serait d’informer toutes les parties prenantes – y compris les gouvernements, les négociateurs commerciaux, les régulateurs, la société civile et l’industrie – des scénarios futurs potentiels, et de définir la manière dont elles pourraient considérer les opportunités, les avantages, les risques et d’autres questions.
Un document de discussion de l'ISC
Un cadre pour évaluer les technologies numériques et connexes en développement rapide : IA, grands modèles de langage et au-delà
Ce document de discussion fournit les grandes lignes d’un cadre initial pour éclairer les multiples discussions mondiales et nationales en cours concernant l’IA.
Rejoindre la discussion
Nous vous encourageons à vous joindre à la discussion sur les idées présentées dans ce document et sur son cadre en utilisant le formulaire en bas de page.
L'ISC est heureux de présenter ce document de discussion sur l'évaluation des technologies numériques et connexes en développement rapide. L’intelligence artificielle, la biologie synthétique et les technologies quantiques sont d’excellents exemples d’innovation fondée sur la science, émergeant à un rythme sans précédent. Il peut être difficile d’anticiper systématiquement non seulement leurs applications, mais aussi leurs implications.
L’évaluation des aspects sociétaux de l’IA générative, tels que les grands modèles de langage, qui représentent, comme on pouvait s’y attendre, la majeure partie de ce document de discussion, constitue un pont nécessaire entre le discours actuel – parfois motivé par la panique, d’autres fois pas assez profond dans la réflexion – et les cours nécessaires de mesures que nous pouvons prendre. L'ISC est convaincu qu'un cadre analytique entre l'acceptation sociale de ces nouvelles technologies et leur éventuelle réglementation est nécessaire pour faciliter les discussions multipartites nécessaires pour prendre des décisions éclairées et responsables sur la manière d'optimiser les avantages sociaux de cette technologie émergente rapidement.
L'ISC est ouvert aux réactions de notre communauté à travers ce document de discussion afin d'évaluer la meilleure façon de continuer à faire partie et à contribuer au débat autour de la technologie.
Salvatore Aricò, PDG
Contributeurs au document :
De nombreuses personnes ont été consultées lors de l'élaboration de ce document, rédigé par Sir Peter Gluckman, président de l'ISC, et Hema Sridhar, ancien scientifique en chef du ministère de la Défense et aujourd'hui chercheur principal à l'Université d'Auckland, en Nouvelle-Zélande.
Nous remercions en particulier :
- Lord Martin Rees, ancien président de la Royal Society et co-fondateur du Centre pour l'étude des risques existentiels, Université de Cambridge ;
- Professeur Shivaji Sondhi, professeur de physique, Université d'Oxford ;
- Professeur K Vijay Raghavan, ancien conseiller scientifique principal du gouvernement indien ;
- Amandeep Singh Gill, envoyé du secrétaire général de l'ONU pour la technologie ;
- Dr Seán Óh Éigeartaigh, directeur exécutif, Centre d'étude des risques existentiels, Université de Cambridge ;
- Amanda-June Brawner, conseillère politique principale et Ian Wiggins, directeur des affaires internationales, Royal Society UK ;
- Dr Jérôme Duberry, Dr Marie-Laure Salles, directrice, Geneva Graduate Institute ;
- M. Chor Pharn Lee, Centre pour les futurs stratégiques, Bureau du Premier ministre, Singapour ;
- Barend Mons et Dr Simon Hodson, du Comité sur les données (CoDATA) ;
- Professeur Yuko Harayama, Japon ;
- Professeur Rémi Quirion, président, INGSA;
- Dr Claire Craig, Université d'Oxford et ancienne responsable de la prospective, Bureau gouvernemental des sciences ; et
- Professeur Yoshua Bengio, Conseil consultatif scientifique du secrétaire général de l'ONU et Université de Montréal.
Que se passe-t-il d’autre en matière d’IA à l’ISC ?
Le groupe de réflexion de l'ISC, le Center for Science Futures, devrait publier un document de travail sur « Préparer les écosystèmes scientifiques pour l'IA » début 2024. Le document comprendra une revue de la littérature, une cartographie des problèmes, ainsi qu'une série de courtes études de cas par pays. Nous espérons que le document contribuera à alimenter les discussions entre les décideurs politiques, les dirigeants de l'industrie et les chercheurs alors qu'ils élaborent des feuilles de route pour exploiter le potentiel de l'IA pour l'amélioration de la science et de la recherche.
L’IA pour la science : aperçus de l’Asie-Pacifique
Début octobre, l'ISC Center for Science Futures a marqué un moment charnière dans sa plus récente initiative sur l'intelligence artificielle (IA) pour la science, alors que 14 délégués et experts estimés représentant 12 pays, pour la plupart d'Asie-Pacifique, se sont réunis pour une réunion opportune à Kuala Lumpur, Malaisie, avec le soutien de l'Académie australienne des sciences. ➡️Read plus
L’IA change la science – Comment ? Qui devrait s’en soucier ?
Un regard critique sur l'impact de l'intelligence artificielle (IA) sur la science sous différents angles et acteurs – depuis les bailleurs de fonds publics jusqu'aux institutions privées de haute technologie – révèle une préoccupation commune quant au manque de transparence et de coopération dans la création d'une approche plus centrée sur l'humain. tenir la promesse de la science en tant que bien public mondial. ➡️Read plus
Commentaires sur l'IA
Image : Adamichi sur iStock