Conception et déploiement d’un agent RAG à grande échelle s’appuyant sur des
modèles open source (Mistral AI) et des bases vectorielles.
Aucun appel sortant : tout le traitement reste on-premise, embeddings
compris, sur une infrastructure que le commanditaire administre lui-même. La
conformité RGPD est structurelle, pas déclarative.
La difficulté tient à la forme, pas au volume : des millions de lignes de
médicaments en CSV d’un côté, un texte de règles rédigé de l’autre, à croiser
pour trancher un remboursement.
Escalade vers l’expert sur les cas que le modèle ne tranche pas. Chaque mise
en ligne passe d’abord par une pipeline de test parallèle qui confronte les
réponses à des règles définies.