Alstom
The group’s unified AI portal — chatbot, conversational assistant, qualification tools — rolled out at group scale.
Language Long-form content for this node is written in French. English translation in progress.
Functional domain
- IA générative en entreprise
- Recherche documentaire
- Gouvernance des accès
- Conduite du changement
Method & practices
- Scrum
- Rituels distribués onshore / offshore
- Revues de code systématiques
- Architecture Decision Records
- Recette métier par entité
Technical stack
- Python
- FastAPI
- React
- TypeScript
- Vite
- Claude API
- OpenAI API
- RAG
- pgvector
- SSO
- SAML
- GitLab CI
- Docker
- Azure
The universe
Un groupe industriel de plusieurs dizaines de milliers de personnes produit une documentation qu'aucun salarié ne peut lire : normes ferroviaires, procédures qualité, comptes rendus de projet, notes d'ingénierie, en plusieurs langues et sur des systèmes hérités de vingt ans de fusions. En parallèle, chaque direction commençait à brancher son propre assistant sur sa propre clé d'API — du point de vue de la sécurité, autant de portes non gardées. La commande n'était pas « faire de l'IA générative » : c'était donner au groupe un point d'entrée unique, gouverné, et assez utile pour que personne n'ait envie de le contourner.
The challenge
Servir des réponses sourcées sur un corpus documentaire hétérogène et multilingue, à l'échelle du groupe, derrière une authentification d'entreprise et une gouvernance des accès.
Constraints
- Utilisateurs
- Ouverture progressive par entité, à l’échelle du groupe
- Corpus
- Documentation technique et qualité, multilingue, sources multiples
- Sécurité
- SSO / SAML, gouvernance des accès, cloisonnement par périmètre
- Organisation
- Alignement métier / IT / sécurité, développement offshore en Inde
- Chaîne
- GitLab CI, Docker, Azure
Architecture decisions
-
Une API Gateway unifiée devant les services LLM, plutôt qu'un SDK par modèle
Rationale Le marché des modèles bouge tous les trois mois, et la sécurité exigeait de toute façon un point de contrôle unique sur les appels sortants. Autant faire du point de contrôle le point d'abstraction.
Accepted consequence Un composant interne de plus à maintenir, superviser et documenter.
-
Pipeline RAG construit de bout en bout en interne — embeddings, indexation, base vectorielle
Rationale Les offres clés en main imposent leur découpage et leur stockage ; sur de la documentation normative, le découpage est précisément là où se joue la justesse.
Accepted consequence Un vrai chantier d'ingénierie, et la responsabilité pleine de la qualité des réponses.
-
Citation obligatoire : pas de source retrouvée, pas de réponse
Rationale Sur de la documentation normative, une réponse plausible mais fausse coûte plus cher qu'une absence de réponse.
Accepted consequence Un taux de non-réponse visible, qu'il faut expliquer et défendre auprès des utilisateurs.
My actual scope
What I decided
- Architecture cible du portail
- Orchestration des services LLM derrière l'API Gateway
- SSO / SAML et gouvernance des accès
- Conception du pipeline RAG
What I coded
- Pipeline RAG : embeddings, indexation, base vectorielle
- Backend Python / FastAPI
- Front React / TypeScript / Vite
- Pipelines GitLab CI vers Azure
Delivered by the team
- Développement offshore (Inde) sur specs et revues de code
- Outils de qualification
- Recette métier
Outcome
- Portail IA unifié déployé progressivement à l'échelle du groupe
- Un seul point d'entrée gouverné pour tous les usages LLM
- Changement de fournisseur de modèle possible sans modification applicative
Extended universe
Similar missions
What I was asked about this mission
Qui es-tu en une phrase ?
Architecte de solutions avec quinze ans de plateformes critiques chez des grands comptes — Alstom, Engie, BPCE, Société Générale, Orange, Bouygues Telecom, secteur public — et une expertise IA/LLM appliquée à l'entreprise depuis deux ans. Double casquette architecte et builder : je conçois l'architecture et je livre le code en production. C'est ce qui fait qu'elle tient au contact du réel.
Architecte ou développeur ? Où te situes-tu vraiment ?
Les deux, et je documente lequel sur chaque mission. Chaque fiche de ce site distingue en trois colonnes ce que j'ai décidé, ce que j'ai écrit de mes mains, et ce que l'équipe a livré sous ma direction. Chez Alstom : j'ai défini l'architecture cible et l'orchestration LLM, et j'ai écrit le pipeline RAG et le portail ; l'offshore a livré sur specs et revues de code. C'est la question qu'on me pose le plus souvent, donc je préfère y répondre avant qu'elle ne soit posée.
SourcesAlstomArchitecte & code
Comment as-tu construit le pipeline RAG chez Alstom, de bout en bout ?
De zéro : ingestion depuis des sources documentaires héritées, découpage sur la structure du document plutôt qu'à taille fixe, embeddings, indexation vectorielle, reranking, puis génération avec citation obligatoire. Le point qui a le plus compté n'est pas le modèle, c'est la métadonnée de révision : deux versions d'une même procédure coexistaient dans l'index et le système citait l'ancienne. La révision est devenue un filtre, pas un champ d'affichage.
Comment tu orchestres plusieurs services LLM derrière une seule gateway ?
Un contrat d'API unique côté application, et derrière : routage par usage, quotas, repli automatique, observabilité du coût. La difficulté réelle n'est pas le routage, ce sont les différences de comportement en streaming entre fournisseurs. Le contrat commun se définit sur le plus contraint, sinon chaque nouveau modèle devient une exception dans le code applicatif. Le bénéfice : changer de fournisseur ne touche pas l'application.
SourcesAPI Gateway LLMAlstom
Comment tu organises le travail au quotidien ?
En agile — mais le nom du cadre compte moins que ce qu'on en garde quand il devient inconfortable. Un backlog partagé avec le métier, pas un backlog technique qu'on lui traduit. Des rituels courts et tenus, qui servent à arbitrer et pas à faire le tour de table du statut. Des revues de code que je fais moi-même : ce qui n'est pas revu n'est pas partagé. Et des décisions écrites en ADR, parce qu'une décision qu'on ne retrouve pas se rejoue tous les six mois. Scrum là où l'équipe est stable, Kanban quand le flux est imprévisible ; sur une mission courte, un périmètre cadré vaut mieux qu'une cérémonie de plus.
Comment tu travailles avec une équipe offshore en Inde ?
En acceptant que la question ne pourra pas être posée le jour même. Concrètement : des specs qui contiennent les cas limites et pas seulement le cas nominal, des revues de code asynchrones avec un délai de réponse annoncé, et une fenêtre de recouvrement quotidienne courte, réservée aux arbitrages et pas au statut.
SourcesÉquipe offshoreAlstom
A context close to yours?
Ask a question