Varios académicos y expertos en políticas han propuesto que el Consejo Científico Internacional, con su membresía pluralista de las ciencias sociales y naturales, establezca un proceso para producir y mantener un marco/lista de verificación comentada de los riesgos, beneficios, amenazas y oportunidades. asociados con tecnologías digitales que avanzan rápidamente, incluida, entre otras, la IA. El propósito de la lista de verificación sería informar a todas las partes interesadas –incluidos gobiernos, negociadores comerciales, reguladores, sociedad civil e industria– sobre posibles escenarios futuros, y enmarcaría cómo podrían considerar las oportunidades, beneficios, riesgos y otras cuestiones.
Un documento de debate del ISC
Un marco para evaluar tecnologías digitales y relacionadas en rápido desarrollo: IA, grandes modelos de lenguaje y más
Este documento de debate proporciona el esquema de un marco inicial para informar las múltiples discusiones globales y nacionales que tienen lugar en relación con la IA.
Únete a la discusión
Lo alentamos a unirse a la discusión sobre las ideas presentadas en este documento y sobre su marco utilizando el formulario al final de la página.
El ISC se complace en presentar este documento de debate sobre la evaluación de la tecnología digital y relacionada en rápido desarrollo. La inteligencia artificial, la biología sintética y las tecnologías cuánticas son excelentes ejemplos de innovación, basada en la ciencia, que emerge a un ritmo sin precedentes. Puede resultar complicado anticipar sistemáticamente no sólo sus aplicaciones, sino también sus implicaciones.
La evaluación de los aspectos sociales de la IA generativa, como los grandes modelos de lenguaje, que previsiblemente representan la mayor parte de este documento de debate, es un puente necesario dentro del discurso actual (a veces impulsado por el pánico, otras veces sin un pensamiento lo suficientemente profundo) y los cursos necesarios de acción que podemos tomar. El ISC está convencido de que se requiere un marco analítico entre la aceptación social de estas nuevas tecnologías y su posible regulación para facilitar los debates entre múltiples partes interesadas que se necesitan para tomar decisiones informadas y responsables sobre cómo optimizar los beneficios sociales de esta tecnología que emerge rápidamente.
El ISC está abierto a las reacciones de nuestra comunidad a través de este documento de debate con el fin de evaluar la mejor manera de continuar siendo parte y contribuyendo al debate sobre la tecnología.
Salvatore Aricò, director general
Colaboradores del artículo:
Se ha consultado a muchas personas durante el desarrollo de este documento, que fue redactado por Sir Peter Gluckman, presidente del ISC, y Hema Sridhar, ex científico jefe del Ministerio de Defensa y ahora investigador principal de la Universidad de Auckland, Nueva Zelanda.
En particular agradecemos:
- Lord Martin Rees, ex presidente de la Royal Society y cofundador del Centro para el Estudio de Riesgos Existenciales de la Universidad de Cambridge;
- Profesor Shivaji Sondhi, Catedrático de Física, Universidad de Oxford;
- el Profesor K Vijay Raghavan, ex asesor científico principal del Gobierno de la India;
- Amandeep Singh Gill, enviado del Secretario General de la ONU para Tecnología;
- Dr. Seán Óh Éigeartaigh, Director Ejecutivo, Centro para el Estudio de Riesgos Existenciales, Universidad de Cambridge;
- Amanda-June Brawner, asesora principal de políticas e Ian Wiggins, director de Asuntos Internacionales, Royal Society UK;
- Dr. Jerome Duberry, Dra. Marie-Laure Salles, Directora del Instituto Universitario de Ginebra;
- Sr. Chor Pharn Lee, Centro para Futuros Estratégicos, Oficina del Primer Ministro, Singapur;
- Barend Mons y Dr. Simon Hodson, el Comité de Datos (CoDATA);
- Prof. Yuko Harayama, Japón;
- Profesor Rémi Quirion, Presidente, INGSA;
- Dra. Claire Craig, Universidad de Oxford y ex jefa de Previsión de la Oficina Gubernamental de Ciencias; y
- Prof. Yoshua Bengio, Consejo Asesor Científico del Secretario General de las Naciones Unidas y de la Universidad de Montreal.
¿Qué más está pasando en IA en el ISC?
El grupo de expertos del ISC, el Center for Science Futures, publicará un documento de trabajo sobre “Preparación de ecosistemas científicos para la IA” a principios de 2024. El documento incluirá una revisión de la literatura, un mapa de problemas y una serie de breves estudios de casos de países. La esperanza es que el documento contribuya a impulsar los debates entre los responsables políticos, los líderes de la industria y los investigadores a medida que desarrollan hojas de ruta para aprovechar el potencial de la IA para mejorar la ciencia y la investigación.
IA para la ciencia: perspectivas de Asia y el Pacífico
A principios de octubre, el Centro ISC para el Futuro Científico marcó un momento crucial en su iniciativa más reciente sobre Inteligencia Artificial (IA) para la Ciencia, cuando 14 estimados delegados y expertos en representación de 12 países, en su mayoría de Asia y el Pacífico, se reunieron para una reunión oportuna en Kuala Lumpur, Malasia con el apoyo de la Academia Australiana de Ciencias. ➡️Rleer más
La IA está cambiando la ciencia: ¿cómo? ¿Quién debería molestarse?
Una mirada crítica al impacto de la Inteligencia Artificial (IA) en la ciencia desde diferentes perspectivas y actores –desde financiadores públicos hasta instituciones privadas de alta tecnología– revela una preocupación compartida por la falta de transparencia y cooperación en la creación de un enfoque más centrado en el ser humano que cumplir la promesa de la ciencia como bien público mundial. ➡️Rleer más
Comentarios de IA
Imagen: Adamichi en iStock