Thèse Démélange des Représentations pour le Transfert d'Apprentissage Application à la Simulation de la Bioproduction H/F - Doctorat.Gouv.Fr

Établissement : Université Paris-Saclay GS Informatique et sciences du numérique École doctorale : Sciences et Technologies de l'Information et de la Communication Laboratoire de recherche : MIA-Paris-Saclay - Mathématiques et Informatique Appliquées Direction de la thèse : Alberto TONDA ORCID 0000000158954809 Début de la thèse : 2026-10-01 Date limite de candidature : 2026-08-31T23:59:59 Le projet MuSiHC vise à développer des modèles mécanistes et d'apprentissage automatique afin de simuler la production de bioproduits dans des bioréacteurs. Il se concentre en particulier sur la ioproduction de 1,3-PDO (utilisé notamment pour fabriquer des polymères) à partir de cultures bactériennes d'E. coli. L'un des objectifs du projet MuSiHC est de transposer les résultats obtenus avec E. coli et le 1,3-PDO à d'autres organismes et bioproduits. À cette fin, s'appuyer sur les techniques d'apprentissage par transfert constitue une piste prometteuse. L'apprentissage par transfert est un axe de recherche de longue date visant à atteindre une généralisation hors distribution, et constitue le thème central de la thèse proposée. L'apprentissage par transfert désigne le processus consistant à appliquer un modèle pré-entraîné à des données dont la distribution diffère de celle utilisée lors de l'entraînement, ou à une tâche apparentée mais nouvelle [9, 10]. L'apprentissage par démélange constitue une approche prometteuse de l'apprentissage par transfert. L'apprentissage par démélange vise à apprendre des représentations de faible dimension des données, de telle sorte qu'un changement dans un seul facteur de variation sous-jacent entraîne un changement dans un seul facteur de la représentation apprise [11, 12]. Intuitivement, si un sous-ensemble des facteurs de variation était invariant face au changement de distribution, la tâche d'apprentissage par transfert serait facilitée. Empiriquement, la littérature sur l'apprentissage automatique tend en effet à conclure que le démélange est corrélé aux performances des tâches hors distribution (par exemple, [13]) et améliore l'apprentissage par transfert dans de nombreuses applications. Un autre exemple est [14] qui montre que les grands modèles pré-entraînés en auto-supervision, tel que CLIP [15], ne se transfèrent pas naïvement à la reconnaissance vidéo sans la dissociation des aspects spatiaux et temporels des vidéos.Parmi les autres applications du démélange, on peut citer les recommandations interdomaines [16] ou la décomposition de la charge électrique à partir de séries chronologiques de consommation d'électricité [17]. Dans l'ensemble, malgré les limites théoriques de l'apprentissage du démélange non supervisé [12], le démélange avec une supervision faible [18], à l'aide de modèles hybrides alliant approche mécaniste et apprentissage automatique [19, 20], ou à partir de données synthétiques vers des données réelles [21] s'est avéré fructueux et a permis d'améliorer tant la généralisation que l'interprétabilité des modèles. Cette thèse portera sur des problèmes pour lesquels des données multimodales ou des séries temporelles multivariées sont disponibles pour l'apprentissage (par exemple, un bioréacteur équipé de nombreux capteurs), mais où certaines modalités ou variables peuvent manquer à l'inférence.L'objectif général est d'étudier dans quelles conditions et de quelle manière il est possible de dissocier les caractéristiques génériques à la tâche ou à la modalité de celles spécifiques à la tâche ou à la modalité.Dans le cadre du projet MuSiHC, les caractéristiques spécifiques à la tâche sont des représentations des données (par exemple, la croissance d'E. coli au fil du temps) qui ne fournissent des informations que sur la production de 1,3-PDO, tandis que les caractéristiques génériques à la tâche sont celles qui sont communes à d'autres organismes et bioproduits.Le premier objectif de cette thèse est d'étudier le démélange (au sens élargi de l'identifiabilité par blocs [1]) en lien avec l'ambiguïté dans l'apprentissage de représentations multimodales. Des travaux préliminaires menés dans le cadre d'un stage de recherche ont formalisé la notion d'ambiguïté : celle-ci décrit comment deux échantillons multimodaux (respectivement deux séries temporelles multivariées) sont similaires dans une modalité (respectivement dans une variable) et différents dans une autre modalité (respectivement dans une autre variable). Le doctorant étudiera comment l'ambiguïté dans l'ensemble de données d'apprentissage est liée au démélange, à l'erreur de test et aux erreurs d'étalonnage entre les modèles, les stratégies de (pré-)entraînement et la disponibilité des modalités lors de l'inférence.Dans les contextes où les données étiquetées sont rares, l'apprentissage contrastif (CL) [2,3] et ses extensions [4,5] ont donné d'excellents résultats en matière d'apprentissage de représentations.En particulier, le CL est étroitement lié à l'apprentissage par démélange non supervisé : il inverse de manière prouvée le processus de génération des données [5] et peut extraire les caractéristiques redondantes aux modalités [6] à partir de données multimodales non étiquetées.Cependant, le CL peine à s'étendre aux contextes multimodaux multivariés et non redondants, et repose fortement sur des augmentations de données pertinentes pour la tâche [7,8] qui sont généralement difficiles à concevoir. Par conséquent, le deuxième objectif de cette thèse est d'étudier comment la supervision faible d'échantillons multimodaux ou de séries temporelles ambigus ou contrefactuels pourrait améliorer le CL. En particulier, les résultats de la première partie de la thèse guideront la conception de nouvelles techniques d'augmentation de données. Enfin, le troisième objectif consiste à tirer parti de la dissociation pour l'apprentissage par transfert.Plus précisément, le doctorant se concentrera sur le transfert de modèles d'apprentissage automatique entraînés sur des données relatives à E. coli et au 1,3-PDO vers d'autres organismes et bioproduits.

Informatique, mathématiques appliquées, ou discplines connexes.

• Électricité