Le Comité de l'ICSU pour la liberté et la responsabilité dans la conduite de la science (CFRS) craint que certaines des politiques et pratiques actuellement adoptées par les institutions scientifiques et les éditeurs de revues puissent par inadvertance saper l'intégrité de la littérature scientifique. Ceci est aggravé par l'utilisation non critique de paramètres de publication, en remplacement de l'examen indépendant par les pairs, dans l'évaluation des performances scientifiques. En signalant ces préoccupations aux organisations membres de l'ICSU, on espère qu'elles prendront des mesures pour assurer la qualité du dossier scientifique et promouvoir une approche prudente et critique de l'utilisation des paramètres de publication dans l'évaluation de la recherche.
Sujets de préoccupation:
- Lors des nominations de carrière et de l'attribution des bourses, le dossier de publication des candidats, et en particulier le nombre et l'impact supposé des publications, est souvent un critère essentiel. Cela crée par inadvertance des incitations pour les publications en double, les publications fractionnées, les publications de peu de valeur et la paternité honorifique.
- Les facteurs d'impact des revues donnent une indication du nombre moyen de citations à attendre pour un article dans une revue particulière, mais ces chiffres sont facilement mal interprétés. Par exemple, ils peuvent être influencés par le rapport entre les critiques et les articles primaires. Les citations pour tout article individuel peuvent être beaucoup plus élevées ou inférieures à celles attendues du facteur d'impact.
- Si le nombre de citations peut donner une indication de la qualité d'une publication, ce n'est pas nécessairement le cas. Des articles vraiment nouveaux et très importants peuvent très bien attirer peu d'attention pendant plusieurs années après leur publication. Un article incorrect peut générer plusieurs citations à partir d'articles qui le réfutent, et le nombre de citations peut être gonflé par l'auto-citation. Le nombre de citations a également tendance à être plus élevé pour les revues que pour les articles primaires.
- La valeur attribuée aux enregistrements de publications et de citations peut pousser les scientifiques à publier trop tôt, ou à exagérer et sur-interpréter les résultats. Il peut également, dans des situations extrêmes, favoriser l'inconduite scientifique, dans laquelle les résultats sont fabriqués, falsifiés ou plagiés.
- En raison de la pression exercée pour publier, un nombre croissant de manuscrits sont soumis à plusieurs revues avant d'être finalement acceptés. Cela augmente le fardeau des examinateurs, ce qui, en fin de compte, diminue la rigueur du processus d'examen. Les soumissions et les examens multiples du même travail peuvent retarder la communication de résultats importants et on peut affirmer que la multiplication du nombre d'examens empêche rarement la publication éventuelle de travaux de mauvaise qualité.
- Des moyens alternatifs de publication dans des archives électroniques non révisées ou non révisées par des experts, sur des pages d'accueil ou des blogs individuels ou institutionnels, deviennent de plus en plus populaires. Bien que ces médias ouvrent de nouvelles possibilités et améliorent l'accessibilité générale aux publications, ils augmentent également la disponibilité d'informations moins importantes ou potentiellement trompeuses.
Le CFRS est préoccupé par le fait que les politiques et pratiques actuelles peuvent avoir des effets graves sur la qualité du travail scientifique en général et augmenter le fardeau des examinateurs de revues. Toute augmentation inutile du volume des publications scientifiques menace un processus d'examen approprié, qui est essentiel pour maintenir des normes d'exactitude et d'intégrité.
En plus de son rôle dans l'édition scientifique, le Comité considère l'examen par les pairs rigoureux et impartial comme étant le mécanisme le plus important pour juger de la qualité des travaux scientifiques et des projets scientifiques. Établir et maintenir de bons processus d'examen par les pairs est en soi un défi et il est reconnu qu'il peut y avoir des avantages à utiliser des mesures et des paramètres quantitatifs en complément de ce processus. Cependant, l'apparente simplicité et l'attrait de tels indices numériques ne doivent pas masquer leur potentiel de manipulation et d'interprétation erronée et ils ne doivent donc être utilisés qu'avec une grande prudence.
Étant donné que les normes relatives au numéro de publication, aux conventions d'auteur et aux citations diffèrent d'un domaine à l'autre, les jugements et les politiques sont souvent mieux faits par des pairs ayant une expertise dans le même domaine. Le CFRS exhorte les organisations membres de l'ICSU à stimuler la discussion sur les critères d'évaluation scientifique, les indicateurs de carrière et les dossiers de publication, dans le but de promouvoir un système qui peut mieux servir la science en général. Plutôt que d'apprendre à survivre dans une culture « publier ou périr », les jeunes scientifiques devraient être encouragés et soutenus pour produire des communications scientifiques de haute qualité qui apportent une réelle contribution au progrès scientifique.
Les questions à prendre en considération concernant l'utilisation de paramètres dans l'évaluation des performances de recherche comprennent :
- Lors de l'évaluation des demandes de subventions et de postes, quel est l'équilibre optimal entre l'évaluation directe par les pairs, y compris la lecture d'articles pertinents, et l'utilisation de mesures quantitatives basées sur les dossiers de publication ?
- Lors de l'évaluation des dossiers de publication et des performances, quelle pondération doit être appliquée au numéro de publication, aux facteurs h, au facteur d'impact de la revue, au numéro de citation, à la publication principale par rapport à la revue ?
- Sachant que les conventions varient considérablement d'un domaine à l'autre, quel crédit faut-il accorder à la paternité première, dernière paternité, intermédiaire ou correspondante ? Dans certains domaines, la prévalence de la « paternité fantôme » est également un sujet de préoccupation considérable*.
- Quel crédit faut-il accorder aux pré-imprimés et autres publications électroniques, qu'elles soient évaluées par des pairs ou non ? Les indices d'impact tels que les clics, les téléchargements ou les liens doivent-ils être pris en compte ?
- Le nombre de publications qui comptent pour les subventions ou les nominations devrait-il être plafonné? Par exemple, ne faut-il prendre en considération que les trois meilleures publications par an ? Les scientifiques devraient-ils même être pénalisés pour la paternité de plus de, disons, 20 publications par an ? [De telles limites peuvent sembler contre-intuitives mais aideraient à promouvoir une culture dans laquelle tous les auteurs ont véritablement contribué aux publications sur lesquelles leurs noms apparaissent.]
- Quelle pondération devrait être accordée aux autres mesures quantitatives de la production de la recherche, telles que les demandes de brevet, les brevets délivrés ou les brevets concédés sous licence ?
Le Comité est conscient que le débat sur bon nombre de ces questions est déjà bien engagé dans certains pays et certains domaines scientifiques, mais suggère que le débat soit élargi à l'ensemble de la communauté scientifique internationale. En partageant des options et des stratégies, on espère que la communauté scientifique mondiale pourra bénéficier des expériences d'organisations individuelles.
*Voir, par exemple, Ross et al, JAMA 299, 1800-1812 (2008).
Addenda
Pendant l'élaboration de cette déclaration, l'Union mathématique internationale a publié le rapport Citation Statistics, qui est une analyse critique détaillée de l'utilisation des données de citation pour l'évaluation scientifique. Une conclusion principale de ce rapport est la suivante : bien qu'avoir un seul chiffre pour juger de la qualité soit en effet simple, cela peut conduire à une compréhension superficielle de quelque chose d'aussi compliqué que la recherche. Les chiffres ne sont pas intrinsèquement supérieurs aux jugements sains.
Rapport sur les statistiques des citations
À propos de cette déclaration
Cette déclaration relève de la responsabilité du Comité pour la liberté et la responsabilité dans la conduite de la science (CFRS) qui est un comité politique du Conseil international pour la science (ICSU). Il ne reflète pas nécessairement les points de vue des organisations membres individuelles du CIUS.