Verein registrieren

Im Vorfeld des AI Safety Summit 2023 veröffentlicht das ISC ein Diskussionspapier über einen Rahmen zur Bewertung von KI und sich schnell entwickelnden digitalen Technologien

Wissenschaftliche Forscher und Praktiker im Bereich KI sind eingeladen, auf das Diskussionspapier des ISC und den vorgeschlagenen Rahmen für KI zu antworten.

Eine Reihe von Wissenschaftlern und Politikexperten haben vorgeschlagen, dass der Internationale Wissenschaftsrat – mit seiner pluralistischen Mitgliedschaft aus den Sozial- und Naturwissenschaften – einen Prozess zur Erstellung und Pflege eines kommentierten Rahmens/einer Checkliste der Risiken, Vorteile, Bedrohungen und Chancen einführt im Zusammenhang mit sich schnell entwickelnden digitalen Technologien, einschließlich – aber nicht beschränkt auf – KI. Der Zweck der Checkliste bestünde darin, alle Beteiligten – einschließlich Regierungen, Handelsverhandlungsführer, Regulierungsbehörden, Zivilgesellschaft und Industrie – über mögliche Zukunftsszenarien zu informieren und festzulegen, wie sie die Chancen, Vorteile, Risiken und andere Probleme berücksichtigen könnten.


Ein ISC-Diskussionspapier

Ein Rahmen zur Bewertung sich schnell entwickelnder digitaler und verwandter Technologien: KI, große Sprachmodelle und darüber hinaus

Dieses Diskussionspapier bietet den Überblick über einen ersten Rahmen als Grundlage für die vielfältigen globalen und nationalen Diskussionen, die im Zusammenhang mit KI stattfinden.


An der Diskussion teilnehmen

Wir ermutigen Sie, sich an der Diskussion über die in diesem Papier vorgestellten Ideen und seinen Rahmen zu beteiligen, indem Sie das Formular unten auf der Seite verwenden.


Das ISC freut sich, dieses Diskussionspapier zur Bewertung der sich schnell entwickelnden digitalen und verwandten Technologien vorzustellen. Künstliche Intelligenz, synthetische Biologie und Quantentechnologien sind Paradebeispiele für wissenschaftlich fundierte Innovationen, die in einem beispiellosen Tempo entstehen. Es kann schwierig sein, nicht nur ihre Anwendungen, sondern auch ihre Auswirkungen systematisch zu antizipieren.

Die Bewertung der gesellschaftlichen Aspekte der generativen KI, wie z. B. großer Sprachmodelle, die erwartungsgemäß den Großteil dieses Diskussionspapiers ausmachen, ist eine notwendige Brücke innerhalb des aktuellen Diskurses – manchmal panikgetrieben, manchmal nicht tiefgründig genug im Denken – und der notwendigen Abläufe Maßnahmen, die wir ergreifen können. Das ISC ist davon überzeugt, dass ein analytischer Rahmen zwischen der gesellschaftlichen Akzeptanz solcher neuen Technologien und ihrer möglichen Regulierung erforderlich ist, um die Diskussionen mit mehreren Interessengruppen zu erleichtern, die erforderlich sind, um fundierte und verantwortungsvolle Entscheidungen darüber zu treffen, wie der gesellschaftliche Nutzen dieser sich schnell entwickelnden Technologie optimiert werden kann.

Das ISC ist offen für Reaktionen aus unserer Community im Rahmen dieses Diskussionspapiers, um zu beurteilen, wie wir weiterhin am besten Teil der Technologiedebatte sein und einen Beitrag dazu leisten können.

Salvatore Aricò, CEO

Mitwirkende des Papiers:

Bei der Entwicklung dieses Papiers wurden viele Personen konsultiert. Es wurde von Sir Peter Gluckman, Präsident des ISC, und Hema Sridhar, ehemaliger Chefwissenschaftler des Verteidigungsministeriums und jetzt leitender wissenschaftlicher Mitarbeiter der University of Auckland, Neuseeland, verfasst. 

Insbesondere danken wir:

  • Lord Martin Rees, ehemaliger Präsident der Royal Society und Mitbegründer des Centre for the Study of Existential Risks, University of Cambridge;
  • Professor Shivaji Sondhi, Professor für Physik, Universität Oxford;
  • Professor K. Vijay Raghavan, ehemaliger wissenschaftlicher Hauptberater der indischen Regierung;
  • Amandeep Singh Gill, Gesandter des UN-Generalsekretärs für Technologie;
  • Dr. Seán Óh Éigeartaigh, Geschäftsführer, Centre for the Study of Existential Risks, University of Cambridge;
  • Amanda-June Brawner, Senior Policy Adviser und Ian Wiggins, Direktor für internationale Angelegenheiten, Royal Society UK;
  • Dr. Jerome Duberry, Dr. Marie-Laure Salles, Direktorin, Geneva Graduate Institute;
  • Herr Chor Pharn Lee, Centre for Strategic Futures, Büro des Premierministers, Singapur;
  • Barend Mons und Dr. Simon Hodson, Ausschuss für Daten (CoDATA);
  • Prof. Yuko Harayama, Japan;
  • Professor Rémi Quirion, Präsident, INGSA;
  • Dr. Claire Craig, Universität Oxford und ehemalige Leiterin der Zukunftsforschung, Government Office of Science; Und
  • Prof. Yoshua Bengio, Wissenschaftlicher Beirat des UN-Generalsekretärs und an der Université de Montréal.

Was passiert sonst noch im Bereich KI am ISC?

Der Think Tank des ISC, das Center for Science Futures, wird voraussichtlich Anfang 2024 ein Arbeitspapier zum Thema „Vorbereitung von Wissenschaftsökosystemen auf KI“ veröffentlichen. Das Papier wird eine Literaturübersicht, eine Problemkarte sowie eine Reihe kurzer Länderfallstudien enthalten. Die Hoffnung besteht darin, dass das Papier dazu beitragen wird, Diskussionen zwischen politischen Entscheidungsträgern, Branchenführern und Forschern gleichermaßen anzuregen, während sie Roadmaps entwickeln, um das Potenzial der KI für die Verbesserung von Wissenschaft und Forschung zu nutzen.

WeltFAIR

KI für die Wissenschaft: Erkenntnisse aus dem asiatisch-pazifischen Raum 

Anfang Oktober markierte das ISC Center for Science Futures einen entscheidenden Moment in seiner jüngsten Initiative zur künstlichen Intelligenz (KI) für die Wissenschaft, als sich 14 angesehene Delegierte und Experten aus 12 Ländern, hauptsächlich aus dem asiatisch-pazifischen Raum, zu einem rechtzeitigen Treffen in zusammenfanden Kuala Lumpur, Malaysia mit Unterstützung der Australian Academy of Science. ➡️Rmehr

KI verändert die Wissenschaft – wie? Wer sollte sich die Mühe machen?

Ein kritischer Blick auf die Auswirkungen der Künstlichen Intelligenz (KI) auf die Wissenschaft aus verschiedenen Perspektiven und Akteuren – von öffentlichen Geldgebern bis hin zu privaten High-Tech-Einrichtungen – offenbart eine gemeinsame Sorge über den Mangel an Transparenz und Zusammenarbeit bei der Schaffung eines stärker auf den Menschen ausgerichteten Ansatzes das Versprechen der Wissenschaft als globales öffentliches Gut einlösen. ➡️Rmehr


KI-Feedback

Bitte aktivieren Sie JavaScript in Ihrem Browser, um dieses Formular auszufüllen.
Name und Vorname
Geschlecht
Datenschutz: Die Befragten sollten sich darüber im Klaren sein, dass das ISC die übermittelten Informationen für die Dauer der Initiative speichert (siehe: https://council.science/privacy-policy).
Wir laden Sie ein, den ISC-Newsletter zu abonnieren.

Bild: Adamichi auf iStock

Zum Inhalt