Apprendre à faire face à l’imprévu: former l’IA à gérer l’incertitude
Il est désormais largement admis que l’IA trouve des applications dans pratiquement tous les domaines de la vie humaine. Véritable moteur économique qui révolutionne déjà nos foyers, nos écoles et nos lieux de travail, l’IA de nouvelle génération devra améliorer sa capacité à formuler des prédictions dans des situations différentes de celles sur lesquelles elle a été entraînée. Le projet E-pi(s’ouvre dans une nouvelle fenêtre), financé par l’UE, a développé un paradigme d’IA épistémique capable de mieux prendre en compte l’incertitude.
L’apprentissage automatique épistémique
L’épistémologie est l’étude philosophique de la connaissance. Cette définition implique la capacité de reconnaître lorsque les connaissances disponibles sont insuffisantes. Cette capacité est inhérente à l’intelligence humaine. En revanche, pour l’IA, la faculté de reconnaître ce qu’elle ne sait pas doit être construite à l’aide de modèles théoriques et mathématiques. «Dans les approches actuelles d’apprentissage automatique», explique Fabio Cuzzolin, coordinateur du projet, «le processus d’apprentissage vise surtout à expliquer un ensemble de données d’entraînement relativement limité, plutôt que l’ensemble des données que le monde réel est susceptible de produire. Les modèles d’IA traditionnels peinent à produire des prédictions fiables lorsque les distributions de probabilité des données diffèrent de celles utilisées pendant l’entraînement». Le consortium E-pi estime que la théorie de l’incertitude de second ordre(s’ouvre dans une nouvelle fenêtre) constitue le cadre le plus prometteur pour relever les défis liés à l’IA. Dans le but de favoriser l’émergence d’un écosystème international de l’IA épistémique, les présentations du projet lors de conférences spécialisées ont été très bien accueillies, et Fabio Cuzzolin a été invité à participer à plusieurs propositions Horizon Europe.
Essais sur des véhicules autonomes
La validation sur des véhicules autonomes (VA)(s’ouvre dans une nouvelle fenêtre) s’est révélée un terrain d’essai idéal pour l’IA épistémique. Les conditions de circulation peuvent devenir imprévisibles à tout moment sous l’effet du comportement des piétons, de conditions météorologiques extrêmes ou de configurations routières inhabituelles. Les erreurs commises par les IA actuelles peuvent avoir de lourdes conséquences et, dans les cas les plus graves, entraîner des accidents mortels. Ce projet s’est appuyé sur le jeu de données sur la détection des événements routiers pour la conduite autonome (ROAD)(s’ouvre dans une nouvelle fenêtre) pour entraîner l’IA et tester ses nouveaux détecteurs d’objets épistémiques. Développé pour la première fois en 2022 puis régulièrement enrichi, ROAD rassemble des vidéos et des jeux de données provenant d’Europe, d’Amérique du Nord et, plus récemment, de Dubaï et d’Abou Dhabi, ce qui en fait une référence mondiale.
La robotique et d’autres domaines d’applications de l’IA épistémique
L’IA épistémique rendra les véhicules autonomes plus sûrs, mais la conduite autonome n’est qu’une des nombreuses applications possibles de cette technologie. Les robots industriels et chirurgicaux, dans lesquels l’IA doit composer avec le caractère imprévisible des acteurs humains, tireront pleinement parti d’une IA entraînée à gérer l’incertitude. La fusion nucléaire constitue une autre application prometteuse. «Nous travaillons au développement de modèles d’opérateurs neuronaux capables de prendre en compte l’incertitude afin de prédire la circulation du plasma de fusion à l’intérieur d’un tokamak(s’ouvre dans une nouvelle fenêtre) et d’identifier les zones du réacteur qui seront les plus exposées», explique Fabio Cuzzolin. Les perspectives de l’apprentissage épistémique sont considérables. Fabio Cuzzolin entrevoit des applications dans la théorie de l’esprit, l’apprentissage continu et le développement d’une IA générative épistémique. «Les grands modèles de langage (LLM) les plus avancés sont connus pour produire des informations erronées», explique Fabio Cuzzolin. «Les LLM épistémiques peuvent réduire considérablement la tendance de ces modèles à afficher une confiance excessive dans leurs réponses.» Le projet E-pi ouvre la voie à des véhicules autonomes et des robots plus sûrs, à une IA générative sans hallucinations et à un écosystème dynamique d’experts en apprentissage automatique. À long terme, l’IA épistémique pourrait profondément transformer le monde dans lequel nous vivons et notre mode de vie.