Le glossaire Advalians

Notre glossaire, méticuleusement élaboré, est votre boussole dans l’univers complexe et dynamique du marketing, de la communication et du digital. Ici, chaque terme est une clé que nous vous aidons à décrypter pour vous ouvrir a des concepts innovants et des stratégies éprouvées. Plongez dans nos thématiques pour éclairer votre chemin vers l’excellence et la créativité.

Surcouche conversationnelle

Définition Surcouche conversationnelle :

Une surcouche conversationnelle est une couche logicielle placée entre l’utilisateur et un modèle d’intelligence artificielle existant, souvent un grand modèle de langage, qui encadre et enrichit le dialogue sans modifier le modèle lui-même.

L’expression n’est pas un terme normalisé. Elle désigne l’ensemble des composants qui entourent le modèle dans une application de dialogue. Chaque message de l’utilisateur traverse la surcouche avant d’atteindre le modèle. Elle y ajoute des instructions, du contexte et des données, puis contrôle la réponse avant de l’afficher. Elle ajoute ainsi au moteur conversationnel brut des fonctions de mémoire, de personnalisation, de règles métier et de contrôle.

Ses composantes habituelles sont des instructions permanentes, dites instructions système, qui fixent le rôle, le ton et les limites de l’assistant. S’y ajoutent une mémoire de la conversation, parfois du profil de l’utilisateur, et un accès à des sources documentaires, par exemple par RAG. Elle comprend souvent des connecteurs vers des logiciels métier, des filtres sur les entrées et les sorties, et des règles de transfert vers un conseiller humain. Le prompt saisi par l’utilisateur n’est donc qu’une partie de ce que reçoit le modèle.

Elle se distingue du fine-tuning, qui modifie les paramètres du modèle par un entraînement complémentaire, alors que la surcouche agit autour de lui. Elle se distingue aussi de l’UX conversationnelle, qui désigne la conception de l’échange tel que l’utilisateur le vit. L’agent IA va plus loin en planifiant et en exécutant des actions ; une surcouche peut lui servir de socle. Le terme s’emploie dans les projets d’assistants internes, de chatbot de relation client et de moteurs de réponse sur une base documentaire.

Décryptage Advalians Surcouche conversationnelle :

Là où se joue la différence entre deux assistants

Deux assistants fondés sur le même modèle peuvent se comporter de façon très différente. L’écart vient de la surcouche : sources consultées, consignes, contrôles, règles de transfert. À notre avis, c’est là que se concentrent la valeur et le risque d’un projet d’entreprise, davantage que dans le choix du modèle, qui reste remplaçable. Nous recommandons donc de gérer la surcouche comme un actif : versions des instructions, liste des sources indexées, responsable de chaque règle.

Ce que la surcouche ne garantit pas

Les instructions système ne constituent pas une barrière de sécurité. Le projet OWASP, dans son Top 10 for LLM Applications 2025 (risque LLM07), écrit que l’invite système ne doit être considérée ni comme un secret ni comme un contrôle de sécurité. Il demande que la séparation des privilèges et les contrôles d’autorisation ne soient pas délégués au modèle, et que des garde-fous extérieurs au modèle vérifient les sorties.

L’accès documentaire ne supprime pas non plus les erreurs. Le guide de la Direction générale des Entreprises sur la génération augmentée par récupération (2024) indique que les hallucinations peuvent toujours se manifester avec cette technique.

Mettre en œuvre

  1. Délimiter le périmètre : questions traitées, questions refusées, cas transférés à un humain.
  2. Choisir les sources et nommer, pour chacune, le responsable de sa mise à jour.
  3. Rédiger et versionner les instructions, selon les méthodes du prompt engineering.
  4. Placer les contrôles hors du modèle : droits d’accès aux données, filtrage des sorties, journalisation des échanges.
  5. Tester avant l’ouverture sur un jeu de questions réelles, y compris des tentatives de détournement, puis ouvrir par étapes.

Indicateurs et mesure

Nous proposons cinq repères de pilotage : taux de résolution sans transfert, taux de transfert vers un conseiller, part des réponses appuyées sur une source identifiée, part de réponses incorrectes sur un échantillon relu par un humain, et latence. Au démarrage, une relecture hebdomadaire d’échantillon nous paraît le minimum. Toute modification des instructions ou des sources devrait être suivie d’un nouveau test sur le jeu de questions de référence.

Cadre réglementaire

L’article 50, paragraphe 1, du règlement (UE) 2024/1689 sur l’intelligence artificielle impose aux fournisseurs de concevoir les systèmes d’IA destinés à interagir directement avec des personnes physiques de sorte que celles-ci soient informées qu’elles interagissent avec un système d’IA, sauf si cela ressort clairement du contexte. Selon l’article 113, le règlement s’applique à partir du 2 août 2026, date qui vaut pour cet article. La surcouche est l’endroit où cette information s’affiche. La mémoire conservée contient souvent des données personnelles : sa durée de conservation et son usage relèvent du RGPD.

Logo Advalians

Piloter le projet de votre assistant IA, du cadrage au déploiement

Advalians pilote votre projet d’assistant en assistance à maîtrise d’ouvrage : analyse des pratiques, évaluation des dispositifs, restitution priorisée.

Le fine-tuning modifie le modèle lui-même : un entraînement complémentaire ajuste ses paramètres sur des exemples choisis. La surcouche laisse le modèle intact et agit autour de lui, par des instructions, des sources documentaires, une mémoire et des contrôles.

Conséquence pratique : une surcouche se modifie rapidement, souvent en quelques heures à titre indicatif, et se transpose plus facilement sur un autre modèle. Un fine-tuning demande des données d’entraînement et un nouveau cycle de test. Commencez par la surcouche ; envisagez le fine-tuning seulement si un style ou un format reste hors d’atteinte malgré des instructions bien rédigées.

Prévoyez cinq éléments avant tout développement. Un périmètre écrit : questions traitées, refusées, transférées. Une liste de sources avec un responsable de mise à jour pour chacune. Des instructions système rédigées et versionnées. Des contrôles placés hors du modèle : droits d’accès, filtrage des réponses, journal des échanges. Un jeu de questions réelles, de l’ordre d’une centaine à titre indicatif, pour tester chaque version.

Désignez aussi un responsable métier de l’assistant. Sans lui, les sources vieillissent et les règles de transfert ne suivent plus l’organisation.

Combinez des indicateurs d’usage et une relecture humaine. Côté usage, suivez le taux de résolution sans transfert, le taux de transfert vers un conseiller et les questions restées sans réponse. Côté qualité, faites relire chaque semaine un échantillon d’échanges et notez l’exactitude, la présence d’une source et le respect du périmètre.

Rejouez votre jeu de questions de référence à chaque modification des instructions, des sources ou du modèle, et comparez les résultats à la version précédente. Une baisse sur une seule catégorie de questions suffit à bloquer la mise en production.

Non. Les instructions orientent le modèle, mais un utilisateur peut les contourner par des formulations détournées, ou les faire afficher. N’y placez donc aucune donnée confidentielle, aucun identifiant et aucune règle dont dépend la sécurité.

Appliquez les protections en dehors du modèle. L’assistant n’accède qu’aux documents que l’utilisateur a le droit de consulter. Un filtre vérifie les réponses avant affichage. Les actions sensibles exigent une validation humaine. Testez ces barrières avec des tentatives de détournement avant chaque ouverture à un nouveau public.

Construisez une surcouche quand l’assistant doit s’appuyer sur vos documents, respecter vos règles métier ou se connecter à vos outils. C’est aussi le cas quand il s’adresse à vos clients sous votre nom. Un assistant standard suffit pour des usages individuels de rédaction ou de synthèse, sans données internes sensibles.

Critère de décision : chiffrez le coût de maintenance, et pas seulement celui du lancement. Une surcouche exige un responsable, des sources tenues à jour et des tests réguliers. Sans ces moyens, renoncez-y ou limitez le périmètre à un seul cas d’usage.

Par Thomas Bizot – Président du cabinet Advalians

31/03/2025
22/10/2026

Pour aller plus loin :