Ingénieur·e Llm - MLOps H/F - 75

Vos activités principales

Vous participerez, dès votre arrivée, à la mise en production de modèles LLM internes dans un contexte sensible et souverain. Vous contribuerez à définir l'architecture technique d'une plateforme IA nationale et à faire évoluer nos outils vers une approche DEVOPS/MLOPS structurée, réutilisable par l'ensemble des directions métiers.

·Mettre en place et maintenir des orchestrateurs de workflows IA (Airflow, n8n), ainsi que des serveurs d'inférence performants (vLLM, Ray Serve)

·Industrialiser des chaînes de traitement basées sur des architectures RAG, avec intégration de bases vectorielles (OpenSearch, Qdrant...) et de modèles LLM open source ou entraînés en interne

·Monitoring et maintenance des modèles : Surveiller les performances et la dérive des modèles en production, gestion des erreurs LLM, optimisation de temps de réponse de modèles

·Garantir la reproductibilité des expériences via le versioning des modèles et des jeux de données (DVC, MLflow)

·Contribuer, avec les équipes techniques, à la mise en place et l'optimisation de l'infrastructure IA souveraine hébergée sur un Cloud sécurisé supportant les modèles de langages : : load-balancing, auto-scaling

·Assurer la résilience et la continuité des services Ops en collaboration étroite avec le DEVOPS en suivant ces sujets pour garantir la stabilité, la performance et la sécurité des infrastructures supportant les modèles IA

Votre hiérarchie

La Direction de programme est composée d'un.e directeur.ice (N+2), et d'un adjoint.e (N+1).

Vos interlocuteurs métiers

Agents et prestataires des directions métier du Ministère de la Justice (DSJ, DAP, DACS, DACG, DPJJ, SG) et avec la direction du numérique