À propos de l'auteur: Amy Brand est directrice et éditrice des Presses du MIT depuis 2015. Spécialiste en sciences cognitives de formation, elle a obtenu son doctorat au MIT et a occupé des postes de direction chez CrossRef, Harvard et Digital Science. Elle est co-créatrice de la taxonomie CRediT, membre fondatrice du conseil d'administration d'ORCID et productrice du documentaire « Picture a Scientist ». Amy Brand est largement reconnue pour ses contributions à l'infrastructure de recherche, à la communication scientifique et à l'équité en science. Elle a notamment reçu le prix du Council of Science Editors et le prix d'or du journalisme scientifique Kavli de l'AAAS.
La science est essentielle au progrès humain. La manière dont nous la diffusons est tout aussi essentielle, quoique moins évidente. En tant que système par lequel le savoir devient accessible et crédible, l'édition est un élément essentiel de l'infrastructure de recherche.
Comment l'édition doit-elle s'adapter pour répondre aux besoins d'une communauté de chercheurs confrontée à la censure, à la diminution des financements et à l'essor rapide des systèmes d'IA générative qui détournent les connaissances tout en érodant leur intégrité ? Ayant travaillé pendant des décennies dans la recherche, l'administration universitaire et l'édition, je n'ai jamais vu les enjeux aussi importants qu'aujourd'hui pour l'avenir de la science. et communication scientifique.
Face à l'effondrement des systèmes sociopolitiques qui nous entourent, il est tentant de considérer l'IA générative comme la solution alchimique aux problèmes mondiaux. Les grands modèles de langage (MLM) sont apparus comme des portails séduisants vers la découverte, offrant des réponses instantanées, une synthèse fluide et une apparente démocratisation du savoir. Pourtant, leur attrait masque leur puissance en tant que systèmes qui accélèrent également la désinformation, la fraude et la propagande. De par leur conception, ils produisent un contenu apparemment très plausible, mais souvent trompeur, voire tout simplement erroné. La science est dangereuse lorsque la validation est difficile et coûteuse, tandis que la « vérité » est bon marché et rentable, surtout compte tenu de la facilité avec laquelle il est possible de tromper l'esprit humain.
Oui, nous voulons accélérer la découverte et la résolution des problèmes face à des défis mondiaux accablants. Nous voulons croire en des machines capables de résoudre les problèmes plus rapidement que l'architecture cognitive humaine ou nos institutions dysfonctionnelles. Mais lorsque les partisans d'une formation illimitée à l'IA affirment qu'il est moralement impératif de rendre accessibles tous les contenus et données scientifiques pour accélérer l'innovation, l'histoire incite à la prudence.
Nous avons déjà constaté ce phénomène. Les débuts d'Internet ont été salués comme une force de démocratisation de l'expression et du savoir universel. Finalement, l'absence de réglementation a permis à des plateformes commerciales massives de dominer l'espace, érodant la confiance et anéantissant les modèles économiques des contenus d'information et de recherche. Nous savons également aujourd'hui que des politiques de libre accès mal conçues ont accéléré la consolidation du secteur de l'édition et créé des incitations économiques à publier davantage, avec un contrôle qualité moindre.
Prenons un moment pour réfléchir à ce qui est le mieux pour la compréhension humaine, l'apprentissage et le progrès des connaissances. Quand la recherche ne mène qu'à des résumés d'IA et que les utilisateurs ne cliquent pas sur les sources originales, et quand le simple fait de lire pour le plaisir décline rapidement, comment éviter un avenir où nous créerons et publierons du contenu destiné uniquement à la consommation par les machines ?
Je crois que le rôle vital que jouent les éditeurs dans le soutien de l’impact et de l’intégrité de la recherche mérite d’être préservé et protégé, surtout maintenant. Je comprends la frustration suscitée par les frais de publication élevés et les abonnements payants, notamment de la part des grands éditeurs qui ont su exploiter un marché du prestige académique traditionnellement peu sensible aux prix. Mais notre secteur n'est pas une entité monolithique à but lucratif. Les éditeurs à but non lucratif, comme MIT Press et de nombreuses sociétés scientifiques, fonctionnent avec des valeurs différentes et des marges plus faibles.
En effet, nous sommes davantage menacés par l'accaparement des terres par l'IA, et parfois même par les mouvements de science ouverte que nous soutenons depuis longtemps. Nous devons donc résister aux postures morales qui ignorent les rapports de force en jeu. L'idée d'« ouverture » est entourée d'un halo qui peut occulter des complexités du monde réel, comme l'économie et les incitations. En fin de compte, toute ouverture n'est pas vertueuse ; toute résistance à l'ouverture n'est pas obstructionniste.
Une autre idée fausse est que les intérêts des éditeurs ne sont pas alignés avec ceux des chercheurs. Nous avons récemment mené une étude grande enquête auprès des auteurs Dans les domaines des STEM, la question de l'utilisation non autorisée de leurs travaux pour la formation en master de droit (LLM) est controversée. La grande majorité d'entre eux s'opposent à cette pratique, même s'ils croient que l'IA promet des voies transformatrices pour la découverte et l'apprentissage. Ils s'attendent à pouvoir consentir, ou non, à une telle utilisation et à en être reconnus comme tels lorsque leurs travaux influencent les résultats du LLM. Ils ne confondent pas « ouvert à la lecture » et « ouvert à la formation ».
De même, nombreux sont ceux qui doutent de l'intégrité des grandes entreprises d'IA et s'inquiètent de l'impact des LLM sur l'édition, la lecture, l'écriture, la pensée critique et la créativité ; de l'aplatissement des points de vue divers ; et du renforcement des préjugés et des hégémonies culturelles. Ils s'inquiètent profondément de ce qui est perdu lorsque nous décomposons les travaux d'auteurs humains en données d'entraînement tokenisées et les alimentons dans des modèles incapables de préserver leur contexte ou leur argumentation.
La question de savoir comment et dans quelles conditions la science publiée est utilisée pour former des LLM ne se limite pas à une question de droit d'auteur. Il s'agit de savoir qui contrôle l'avenir du savoir. Devons-nous céder notre autorité à des industries extractives opaques, peu responsables envers la communauté scientifique ? Ou devons-nous construire des systèmes qui préservent l'attribution, l'intégrité et la durabilité ? Si nous voulons vraiment l'épanouissement humain, une science fondée sur des preuves et la protection des conditions de développement du savoir, la communauté scientifique et ses institutions doivent agir avec discernement.
À qui sert l'intérêt de céder la science et les travaux universitaires publiés à un secteur technologique opaque et hautement extractif ? En toute logique, la valeur des frais de publication ouverte payés par les auteurs, les institutions et les bailleurs de fonds est finalement reversée à des entreprises comme OpenAI et Anthropic. Concernant les industries extractives, soyons honnêtes et comparons la valeur du secteur de l'IA à celle des éditeurs universitaires.
Je reste optimiste quant à la capacité de l'IA, grâce à une planification rigoureuse et à des politiques fondées sur des données probantes, à améliorer l'évaluation par les pairs, à optimiser la reproductibilité et à rationaliser les flux de travail et les coûts de publication. Nous pourrions même être en mesure de concevoir des solutions qui contribueront à préserver les aspects positifs de l'édition scientifique.
Mais le paradigme actuel, où les données publiées sont exploitées sans consentement et monétisées par des géants technologiques privés, est contraire à l'éthique et destructeur pour la science et la recherche. Il reflète également une pensée magique sur le fonctionnement de notre monde complexe et sur la manière dont nous pourrons réellement progresser dans la résolution des problèmes existentiels auxquels nous sommes confrontés.
Clause de non-responsabilité
Les informations, opinions et recommandations présentées dans nos blogs invités sont celles des contributeurs individuels et ne reflètent pas nécessairement les valeurs et les convictions du Conseil international des sciences.
Recevez les prochains résumés de la science ouverte directement dans votre boîte de réception – Abonnez-vous maintenant.
Photo par Martin Adams on Unsplash
En savoir plus sur le Forum ISC sur l'édition et l'évaluation de la recherche Pour en savoir plus, consultez notre article sur la science ouverte : préserver l’ouverture dans un écosystème de recherche en mutation. Pour en savoir plus, consultez notre article sur la science ouverte : l’infrastructure cachée derrière la réforme de la recherche. Pour en savoir plus, consultez l'article « Construisons-nous une infrastructure mondiale de connaissances pour le monde que nous avons ou pour le monde que nous essayons de créer ? » 
