Liberando el futuro: una guía para responsables de políticas: evaluación de tecnologías en rápido desarrollo, incluida la inteligencia artificial, modelos de lenguajes grandes y más

Antes de la reunión ministerial de la OCDE sobre ciencia y tecnología, el ISC aboga por un marco para informar a los responsables de políticas sobre los múltiples debates globales y nacionales que tienen lugar en relación con la IA.

Liberando el futuro: una guía para responsables de políticas: evaluación de tecnologías en rápido desarrollo, incluida la inteligencia artificial, modelos de lenguajes grandes y más

Mientras la comunidad global se reúne para Reunión a nivel ministerial de la OCDE sobre política científica y tecnológica Del 23 al 34 de abril de 2024, está claro que el rápido avance de tecnologías como la inteligencia artificial (IA) y los grandes modelos lingüísticos está remodelando nuestro mundo. En esta era transformadora, el Consejo Científico Internacional (ISC) ha publicado su recurso fundamental: “Una guía para formuladores de políticas: evaluación de tecnologías en rápido desarrollo, incluida la inteligencia artificial, modelos de lenguajes grandes y más.” Esta guía es una herramienta indispensable para los responsables de la formulación de políticas que se enfrentan al ritmo y la complejidad del cambio tecnológico.

La guía del ISC ofrece un marco integral diseñado para cerrar la brecha entre los principios de alto nivel y las políticas prácticas y ejecutables. Responde a la necesidad urgente de una comprensión común tanto de las oportunidades como de los riesgos que presentan las tecnologías emergentes. Como dice Hema Sridhar, coautora del informe y ex asesor científico jefe del Ministerio de Defensa de Nueva Zelanda, ahora investigador principal de la Universidad de Auckland:

"El marco es un paso fundamental en la conversación global sobre la IA, ya que proporciona una base a partir de la cual podemos generar consenso sobre las implicaciones de la tecnología tanto ahora como en el futuro".

Hema Sridhar

Esta guía no es meramente académica; es un llamado a la acción tanto para la comunidad científica como para la que formula políticas. Proporciona una taxonomía validada de cuestiones que merecen consideración, apoyando a los gobiernos a medida que desarrollan estrategias y políticas nacionales de IA. Por ejemplo, la Ley de IA de la Unión Europea exige que las organizaciones que implementan tecnologías de IA realicen evaluaciones de impacto exhaustivas para evaluar los riesgos potenciales y establecer estrategias de gestión adecuadas. El marco propuesto por el ISC mejora este requisito al ofrecer un enfoque estructurado e integral para estas evaluaciones. Al aprovechar la taxonomía de consideraciones del ISC, los formuladores de políticas y los tecnólogos pueden analizar sistemáticamente las implicaciones más amplias de las aplicaciones de IA, no solo en términos de riesgos inmediatos, sino también considerando los impactos sociales, ambientales y geopolíticos a largo plazo. Esto hace posible alinear de manera más efectiva las implementaciones de IA con las expectativas regulatorias y los valores sociales.

Además, el marco está diseñado para ser adaptable y servir como base para la exploración de horizontes, la evaluación de riesgos y la mejora de los principios éticos que rigen el uso de la IA. Al proporcionar un enfoque sistemático para evaluar los impactos de la IA, desde el social hasta el geopolítico, la guía garantiza que el despliegue de estas tecnologías se alinee con los valores sociales y los estándares regulatorios.

Mientras los ministros, la comunidad y los representantes del ISC se reúnen en la sede de la OCDE en París, esta guía sirve como un recurso fundamental para todas las partes interesadas, desde los formuladores de políticas hasta los líderes de la industria y la sociedad civil. Facilita una comprensión más profunda de lo que está en juego y fomenta un enfoque colaborativo para la gobernanza tecnológica. Peter Gluckman, presidente del ISC y coautor del informe, intervendrá en la reunión de la OCDE sobre ciencia, tecnología e innovación transformadoras para la transición verde. El informe también se compartirá en el almuerzo de trabajo ministerial especial sobre Inteligencia artificial para la ciencia, la tecnología y la innovación.

“En una era marcada por una rápida innovación tecnológica y desafíos globales complejos, el marco del ISC para un análisis integral y multidimensional de los impactos potenciales permite a los líderes tomar decisiones informadas y responsables. Garantiza que a medida que avanzamos tecnológicamente, lo hagamos con una cuidadosa consideración de las implicaciones éticas, sociales y económicas”.

Peter Gluckman, presidente de ISC

Únase a nosotros para adoptar esta herramienta para dar forma a un futuro en el que la tecnología amplifique nuestro potencial sin comprometer nuestros valores.

Una guía para los responsables de la formulación de políticas: evaluación de tecnologías en rápido desarrollo, incluida la inteligencia artificial, modelos de lenguajes grandes y más

Este documento de debate proporciona el esquema de un marco inicial para informar las múltiples discusiones globales y nacionales que tienen lugar en relación con la IA. Haga clic aquí para leer en el idioma de su elección.

Descargue el marco para usarlo en su organización

Aquí proporcionamos la herramienta marco como una hoja de Excel editable para usar en su organización. Si prefiere un formato de código abierto, comuníquese con secretariat@council.science.

Contacto: Director de Comunicaciones | Alison Meston | alison.meston@council.science

Otras publicaciones recientes del ISC para nuestros tiempos digitales

Preparación de ecosistemas nacionales de investigación para la IA: estrategias y avances en 2024

El informe ofrece un análisis exhaustivo de la integración de la inteligencia artificial en la ciencia y la investigación en varios países. Aborda tanto los avances realizados como los desafíos enfrentados en este campo, lo que lo convierte en una lectura valiosa para líderes científicos, formuladores de políticas, profesionales de la IA y académicos.

El déficit de contextualización: replantear la confianza en la ciencia para la política multilateral

Este documento de trabajo aborda este problema crucial revisando lo que la investigación y la práctica en una variedad de campos, desde el periodismo hasta la regulación, han aprendido sobre la confianza en la ciencia en los últimos años, y las implicaciones de ese conjunto de conocimientos para los formuladores de políticas.

Organizaciones científicas en la era digital

El documento de debate sintetiza los resultados de una amplia encuesta, entrevistas detalladas y estudios de casos que involucran a miembros del ISC. Sirve como un reflejo actual del estado digital en la comunidad científica y como una guía para las organizaciones que se embarcan en su transición digital.

VER TODOS LOS ARTÍCULOS RELACIONADOS

  • Cláusula de exención de responsabilidades: Las traducciones son generadas automáticamente por Google Translate y pueden contener errores. El ISC no es responsable de ningún daño o problema que pueda surgir de estas traducciones. Puede proporcionar sus comentarios enviándonos un correo electrónico a webmaster@consejo.ciencia
    Nota: Tenga en cuenta que la 'Cumbre de la Ciencia en la Asamblea General de la ONU' en septiembre de 2023 no es un evento del Consejo Internacional de la Ciencia. El Consejo Internacional de Ciencias no tiene ninguna asociación con este evento ni con el organizador del evento.
    • Ir al contenido