Thèse l'Apprentissage Vu Comme Exploration Stochastique d'Espaces Informationnels Principes Géométriques pour une IA Robuste et Sûre H/F - Doctorat.Gouv.Fr

Établissement : Université Paris-Saclay GS Mathématiques École doctorale : Mathématiques Hadamard Laboratoire de recherche : Centre Borelli Direction de la thèse : Julien RANDON-FURLING ORCID 0000000194972297 Début de la thèse : 2026-10-01 Date limite de candidature : 2026-09-30T23:59:59 Les systèmes d'apprentissage automatique sont désormais au coeur des infrastructures d'information contemporaines. Ils structurent l'accès à l'information, façonnent les flux de connaissances et influencent de plus en plus les dynamiques sociales et politiques. Pourtant, malgré leur importance croissante, les mécanismes fondamentaux qui régissent les processus d'apprentissage ne restent que partiellement compris
Cette thèse propose de formaliser l'apprentissage automatique comme un processus stochastique explorant un espace d'information partiellement observé. Dans ce cadre, un ensemble de données peut être interprété comme un échantillonnage incomplet de cet espace, potentiellement biaisé ou manipulé. Le processus d'apprentissage correspond alors à une exploration dynamique guidée par l'information disponible, mais soumise à des incertitudes fondamentales. Cette perspective permet d'aborder sous un angle nouveau plusieurs enjeux critiques des systèmes d'intelligence artificielle : leur robustesse aux perturbations, leur vulnérabilité à la manipulation de l'information et leur stabilité dans des environnements informationnels complexes. En particulier, les attaques par empoisonnement de données ou les phénomènes de dérive de modèle peuvent être interprétés comme des déformations de l'espace d'information qui altèrent la trajectoire de l'apprentissage. L'objectif de cette thèse est de développer un cadre théorique combinant les processus stochastiques, la géométrie et l'apprentissage statistique afin de mieux caractériser ces dynamiques. En introduisant des contraintes géométriques sur les processus d'apprentissage, il devient possible de définir et d'analyser des régions de vulnérabilité au sein de l'espace d'information, pouvant être interprétées comme des surfaces d'attaque, et de concevoir des mécanismes qui limitent l'accès à ces régions
Au-delà de ses contributions théoriques à l'apprentissage automatique et à la théorie des probabilités, ce travail vise également à éclairer des problématiques plus larges liées à la robustesse des systèmes d'information, à la manipulation de l'information et à la gouvernance des infrastructures algorithmiques. Previous work in the same direction as this thesis is scarce [1, 2, 3, 4] as, so far, the emphasis in the development of machine learning and AI has not been on modeling the learning process as much as on building algorithms and computational power capable of producing phenomena akin to learning.
Building upon the advances of the past decade in stochastic geometry [7, 8] and optimization of stochastic processes [9], we will seek to lay the theoretical foundations for learning systems capable of operating in adversarial or uncertain informational environments, while maintaining robustness and stability. This project is strongly aligned with the scientific objectives of the AI4IDF program, which aims to advance artificial intelligence while keeping human-centered considerations at its core. In particular, the proposed research contributes to Axis 1 (Learning and Optimization) through the development of new theoretical frameworks for understanding learning dynamics under uncertainty, and to Axis 2 (NLP and Human-AI Interaction) by addressing the robustness and reliability of language-based systems such as LLM agents. By focusing on robustness, interpretability, and resistance to manipulation, the project directly supports the broader goal of designing trustworthy AI systems that can operate safely in real-world informational environments.
Furthermore, the interdisciplinary nature of the work-at the intersection of mathematics, machine learning, and societal concerns-fully matches AI4IDF's ambition to structure a unified and impactful AI research ecosystem in Île-de-France.

- formation en mathématiques / mathématiques appliquées / informatique / physique théorique
- interdisciplinarité
- travail d'équipe
- autonomie

• Travail en équipe
• Autonomie
• Machine learning