Auteur :
Interrogez presque n'importe quel décideur politique scientifique ou organisme de financement de la recherche sur son opinion concernant l'intelligence artificielle, et vous obtiendrez une réponse similaire. L'IA transforme les méthodes de travail des scientifiques. Elle accélère les revues de littérature, traite des ensembles de données à des échelles auparavant inimaginables et facilite la rédaction et la relecture des manuscrits. C'est un outil de productivité remarquable et de plus en plus indispensable.
Ce n'est pas faux. Mais cela peut être incomplet.
La préoccupation excessive pour l'IA en tant qu'outil au service des scientifiques (ce que l'on pourrait appeler une vision « étroite » de l'IA en science) occulte insidieusement des questions plus fondamentales. Des questions que la communauté des organisations et institutions chargées de gouverner, de financer et de coordonner la science à l'échelle mondiale (ce que j'appellerai la science organisée) a à peine commencé à aborder.
Le débat dominant autour de l'IA en science porte essentiellement sur l'accélération. L'IA peut faire plus, plus vite. Elle peut déceler des tendances dans les données qui échapperaient à l'humain. Elle peut rédiger, traduire, synthétiser. Ce sont là de réels avantages et la communauté scientifique a raison de s'y intéresser.
Mais ce cadre de référence considère implicitement l'IA comme quelque chose que les scientifiques utiliséUn instrument sophistiqué, comparable à un microscope ou à un séquenceur, mais plus polyvalent. Et lorsque l'instrument est le cadre, certaines questions deviennent plus difficiles à poser.
Que se passe-t-il lorsque l'IA ne se contente pas d'assister le processus de recherche, mais conduit Que se passe-t-il lorsque l'IA ne se contente pas de traiter les données, mais formule les hypothèses, conçoit les expériences et interprète les résultats de manière plus ou moins autonome ? Il ne s'agit pas d'un scénario de science-fiction lointain. exemples déjà publiés des systèmes d'IA générant de nouvelles hypothèses scientifiques avec une intervention humaine minimale, et les principaux développeurs d'IA au monde décrivent la recherche en IA entièrement autonome comme une question d'années, et non de décennies.
Pour bien cerner les enjeux, il est utile de distinguer deux grands scénarios.
Dans le premier – science dirigée par l'humain L'IA est omniprésente à toutes les étapes du processus de recherche, mais les scientifiques humains restent aux commandes. Ce sont toujours eux qui décident des sujets d'étude, qui définissent le programme de recherche, formulent les questions et déterminent l'orientation des investigations. Même si la majeure partie de la recherche est effectuée par l'IA, l'humain garde le contrôle et décide de la direction à prendre. C'est plus ou moins la situation actuelle, bien que le niveau d'implication de l'IA augmente rapidement.
Dans le deuxième – La science guidée par l'IA L’IA ne se contente plus de mener les recherches, elle décide aussi des sujets à étudier. L’agenda de la recherche n’est plus uniquement défini par les humains. Les systèmes d’IA influencent de plus en plus les questions posées, les hypothèses formulées et les expériences priorisées, passant ainsi de l’exécution à la définition de l’agenda. Les progrès futurs, tels que l’intégration de l’IA physique et des systèmes robotisés de laboratoire, pourraient accentuer cette évolution, permettant aux modèles de participer directement à l’expérimentation, et non plus seulement à l’analyse. Ce que cela impliquera concrètement reste encore incertain. Mais il a déjà été suggéré que… La science guidée par l'IA pourrait être très différente de tout ce que nous connaissons., ce qui pourrait potentiellement changer non seulement le rythme de la science, mais aussi sa logique sous-jacente : le cycle de la curiosité humaine, des conjectures et de la conception expérimentale qui a défini la production de connaissances pendant des siècles.
C’est dans l’écart entre ces deux scénarios que résident les questions intéressantes.
Lorsque les systèmes d'IA peuvent mener des recherches de manière autonome, une série de questions fondamentales se posent, qui dépassent largement le cadre des directives éthiques ou des politiques de divulgation. Parmi elles :
L'IA peut-elle générer des connaissances véritablement nouvelles ? La plupart des modèles actuels sont entraînés sur d'immenses quantités de connaissances humaines existantes. Peuvent-ils apporter des éclairages véritablement inédits sur la nature de l'univers ou ne sont-ils, au final, que des systèmes sophistiqués de recombinaison de connaissances déjà acquises ?
Qu’advient-il de la science institutionnalisée ? Si la recherche peut être menée de manière semi-autonome par l'IA, cela signifie-t-il que n'importe qui peut devenir scientifique ? L'université et l'institut de recherche, tels que nous les connaissons, resteront-ils les principaux lieux de production du savoir ? Et si oui, le rôle du scientifique évoluera-t-il de plus en plus vers la vérification (contrôle des faits, réplication, validation des résultats produits par l'IA) plutôt que vers la découverte ?
Comment établir la confiance dans les connaissances produites par l'IA ? La communauté scientifique a développé, au fil des siècles, un ensemble de normes et de mécanismes de validation des connaissances – évaluation par les pairs, réplication, données ouvertes, etc. – conçus pour la science produite par l'humain, ils ne sont pas nécessairement transposables à la science produite par l'IA.
La science ouverte renforce-t-elle involontairement le pouvoir de la science privée ? L'évolution vers l'accès libre et les données ouvertes est généralement perçue comme une avancée positive. Cependant, la mise à disposition croissante des connaissances scientifiques dans le domaine public signifie également qu'elles peuvent être librement exploitées par les entreprises technologiques commerciales pour entraîner et améliorer leurs modèles d'IA. Ceci crée une tension potentielle entre l'idéal d'une science comme bien public mondial et le risque d'un nouveau système de production de connaissances de moins en moins responsable envers la communauté scientifique internationale.
Le constat est amer : les organisations et institutions chargées de la gouvernance scientifique semblent largement absentes de ce débat. Le système multilatéral se concentre, à juste titre, sur l’éthique et la gouvernance de l’IA. Les organismes de financement de la recherche et les universités s’attachent quant à eux à actualiser leurs politiques en faveur d’une utilisation responsable des outils d’IA. Ce sont là des réponses indispensables aux pressions immédiates.
Mais les grandes questions concernant la nature future de la science, le rôle futur des chercheurs humains, l'avenir de la production de connaissances en tant que bien public restent largement inexplorées au niveau institutionnel. Projet « Systèmes scientifiques du futur » Le projet du Conseil international des sciences vise notamment à examiner certaines de ces technologies émergentes et à explorer comment elles remodèlent les systèmes scientifiques dans les pays du Sud. Cependant, ces échanges restent trop rares.
Parallèlement, l'IA est rapidement adoptée par les chercheurs sur le terrain, souvent bien avant toute directive institutionnelle. Cela révèle un véritable décalage : les responsables de la recherche institutionnelle peinent encore à appréhender ce qu'est l'IA et comment elle pourrait transformer les choses, tandis que sur le terrain, la transformation est déjà bien avancée.
Sommes-nous, pour le dire clairement, endormis au volant ?
L'idée n'est pas ici de dire que nous pouvons ou devons ralentir l'adoption de l'IA en science. Il ne s'agit pas non plus d'un appel au désespoir. C'est un appel à la communauté scientifique organisée à prendre du recul par rapport à l'immédiat et à adopter une vision à long terme – à se demander non seulement « comment utiliser l'IA de manière responsable aujourd'hui ? » mais aussi « quel système scientifique souhaitons-nous dans dix ou vingt ans, et comment y parvenir ? »
Cela implique de créer un espace pour un dialogue différent, réunissant des experts qui réfléchissent rigoureusement à l'incertitude, à la longue durée de la production de connaissances et aux limites des cadres actuels. Ces échanges seraient moins axés sur les réponses de gouvernance à l'IA telle qu'elle existe aujourd'hui, et davantage orientés vers l'éventail des futurs possibles et sur ce que signifierait s'y préparer.
Cela signifie également veiller à ce que la communauté scientifique, chercheurs et décideurs politiques compris, dispose des outils conceptuels nécessaires pour aborder ces questions en tant qu'acteurs éclairés et non comme simples sujets du changement. Ces outils incluent des cadres de réflexion sur le rôle de l'IA, l'épistémologie des connaissances générées par les machines et les implications à long terme pour les acteurs qui contrôlent les priorités de recherche.
La possibilité d'anticiper ce phénomène se réduit comme peau de chagrin. La science organisée a l'opportunité, et sans doute aussi la responsabilité, de façonner la manière dont l'IA transforme la production de connaissances, plutôt que de simplement s'adapter à des changements impulsés par d'autres.
Cela commence par poser les bonnes questions. Nous ne les posons pas encore.
Photo par Igor Omilaev on Unsplash
En savoir plus sur Science Systems Futures
Pour en savoir plus, consultez l'article « L'impact des données et de l'IA sur la production scientifique ».
Pour en savoir plus, consultez le rapport d'évaluation régionale de la R&D publié par la Pacific Academy of Sciences, première plateforme de recherche basée sur l'IA.
En savoir plus sur les tendances émergentes qui façonnent les carrières scientifiques
