Una mirada crítica al impacto de la Inteligencia Artificial (IA) en la ciencia desde diferentes perspectivas y actores –desde financiadores públicos hasta instituciones privadas de alta tecnología– revela una preocupación compartida por la falta de transparencia y cooperación en la creación de un enfoque más centrado en el ser humano que cumplir la promesa de la ciencia como bien público mundial.
'La pregunta ya no es if La IA está cambiando la ciencia, pero cómo”, Mathieu Denis abrió la palabra en la conferencia de este año. Cumbre Global Digital con Propósito con un Sesión de panel sobre los impactos de la IA. sobre cómo se hace y organiza la ciencia.
Menos de un año desde el lanzamiento público inicial de ChatGPT 4, el interés en el tema de la IA, así como en su aplicación en todo el ciclo de producción científica, se ha disparado. Yamine Ait-Ameur, jefa del Departamento Digital y Matemáticas de la Agencia Nacional de Investigación (ANR) francesa, ve este interés en casi todas las disciplinas. Y si bien la Agencia no utiliza herramientas de IA para evaluar propuestas de investigación, es muy consciente de que no es posible imponer restricciones similares en el uso de IA a otros en su trabajo científico.
Si bien el uso de la IA en la ciencia plantea muchas preguntas y, en ocasiones, dudas, también hay mucho entusiasmo por sus promesas. El potencial está ahí, si implementamos las estructuras adecuadas. Ricardo Batista Leite, director ejecutivo de I-DAIR, una organización colaborativa de inteligencia artificial para la investigación en salud, relata lecciones del pasado cuando las tecnologías disruptivas, aplicadas a sistemas rotos, crearon más fallas. Las tecnologías de IA pueden contribuir al bienestar público, si las diseñamos específicamente para hacerlo desde el principio.
Sin embargo, la actual ola de desarrollo de la IA está impulsada casi exclusivamente por el sector privado, con recursos que superan con creces cualquier inversión pública. Y resulta imposible hablar de codiseñar una IA más responsable e inclusiva sin cerrar la brecha entre lo público y lo privado en investigación y desarrollo.
Christina Yan Zhang, directora ejecutiva del Instituto Metaverso, cree firmemente en la cooperación público-privada en ciencia y tecnología. Está de acuerdo en que el bienestar humano debe ocupar un lugar central en el desarrollo tecnológico. En el sistema científico actual, los investigadores se ven obligados a buscar métricas como las citas de revistas, en lugar del impacto real.
No es sólo eso, añade Yamine Ait-Ameur. Existe otro desafío clave para el uso de la IA en la ciencia. Las herramientas de IA a menudo pueden producir resultados mejores que los de los humanos. AlphaFold, un sistema de aprendizaje profundo de IA entrenado para predecir la estructura de las proteínas, por ejemplo, ya está superando a los métodos impulsados por humanos. Pero no podemos replicar, verificar y explicar de manera confiable sus resultados. Mientras no podamos comprender los procesos que ocurren en las “cajas negras” de la IA, el uso de la IA en la ciencia planteará enormes problemas técnicos y éticos.
La audiencia en la mesa redonda compartió el sentimiento de que los grandes cambios que vemos ahora en la ciencia son sólo el comienzo: “Estamos a mediados del siglo XIX, en el inicio de la Revolución Industrial. ¿Estamos tratando de adaptar el sistema feudal o estamos analizando el período emergente?
Ricardo Batista Leite está de acuerdo. “Miraremos hacia atrás, a este momento y nos preguntaremos si hemos hecho lo correcto. Tuvimos la oportunidad de cambiar el rumbo”, concluyó.
