
Un agent vocal peut produire une réponse fluide tout en restant fragile. Une infrastructure conversationnelle sécurisée traite chaque échange comme une chaîne opérationnelle complète : le canal, le signal, les connaissances, la décision et l’action restent observables et contrôlables séparément.
En bref
- 01La sécurité ne réside pas dans le modèle : l’accès, le signal, les connaissances, les actions et les traces se contrôlent séparément.
- 02Le moteur conversationnel propose ; des règles déterministes autorisent, limitent ou bloquent l’action.
- 03En cas d’incertitude, le système doit savoir s’arrêter, expliquer sa limite et transférer à un humain ou à un scénario de continuité testé.
Le modèle parle. L’infrastructure décide ce qu’il est autorisé à savoir, à dire et à déclencher.Principe d’architecture

Sept points de contrôle, de l’appel à l’action
La sortie d’une étape devient l’entrée de la suivante, mais elle n’est jamais acceptée aveuglément. Chaque couche vérifie, limite ou enrichit ce qu’elle reçoit.
- 01Canal et session ›L’appel entre par une ligne, une interface WebRTC ou un autre canal approuvé. L’établissement de la session, son routage et l’information sur l’interaction avec une IA restent explicites.
- 02Admission et disponibilité ›La charge, les usages répétés et les comportements anormaux peuvent être filtrés avant de mobiliser le moteur conversationnel.
- 03Signal audio ›La parole, le silence, le bruit et la qualité de transcription sont évalués afin qu’un signal instable ne devienne pas automatiquement une décision métier.
- 04Compréhension métier ›La langue, l’intention et le contexte sont interprétés dans un périmètre autorisé. Comprendre une demande ne donne pas encore le droit d’agir.
- 05Connaissances approuvées ›Une information sensible doit avoir une source, une version, une période de validité et, si nécessaire, une portée géographique explicites.
- 06Décision et action ›Des règles déterministes appliquent priorités, permissions et seuils d’arrêt avant une réponse, une notification, une mise à jour ou un transfert humain.
- 07Trace et supervision ›Les événements utiles, la version des règles, le chemin de décision et l’issue sont documentés selon la politique de conservation du dispositif.
Défense en profondeur : trois responsabilités
Les contrôles travaillent ensemble, parfois en parallèle. Une faiblesse à un niveau doit rester visible aux autres au lieu d’être masquée par une réponse convaincante.
- 01Téléphonie et accès
Protège le point d’entrée, la capacité, les sessions et les canaux autorisés.
- 02Conversation et connaissances
Limite le dialogue au périmètre prévu et sépare le contenu validé d’une génération libre du modèle.
- 03Décision et opérations
Autorise les sorties, impose les seuils d’arrêt et organise la reprise humaine ou le scénario de continuité.

Ce que renforcent les référentiels externes
Ce modèle en couches est une méthode d’ingénierie Banana Navy, pas une certification. Il rejoint plusieurs références reconnues lorsqu’elles s’appliquent au cas d’usage.
- 01L’AI Act impose d’informer les personnes lorsqu’elles interagissent directement avec une IA, sauf si cela est évident dans le contexte (article 50). Pour les systèmes classés à haut risque, les articles 12, 14 et 15 ajoutent des exigences de journalisation, de supervision humaine, de précision, de robustesse et de cybersécurité.
- 02Le cadre de gestion des risques IA du NIST traite la gouvernance, la cartographie, la mesure et la gestion comme des fonctions continues du cycle de vie, avec suivi, possibilité de reprise, récupération et défaillance sûre au-delà des limites de connaissance.
- 03Le guide OWASP sur l’autonomie excessive recommande de limiter les fonctions, permissions et l’autonomie des outils, d’exiger une approbation pour les actions à fort impact et de faire appliquer l’autorisation par les systèmes en aval plutôt que par le modèle.
Les cas sensibles rendent les règles visibles
Nos pages technologiques nucléaire et inondation présentent des architectures cibles et des prototypes. Elles montrent surtout quelles décisions doivent rester explicites avant toute mise en production.
- 01Une information actuelle a une autorité
Pour le nucléaire, une consigne actuelle ne peut être utilisée que si sa source, son approbation, ses dates et sa zone d’application sont connues. Un fait historique ne devient jamais une alerte en cours.
- 02Une donnée trouvée n’est pas confirmée
Pour l’inondation, retrouver une adresse dans un référentiel ne suffit pas : l’appelant doit la confirmer. Un échec de vérification conserve l’incertitude au lieu d’inviter à deviner.
- 03Le périmètre est une fonction de sécurité
Le voicebot ne prédit pas, ne diagnostique pas, n’invente pas une recommandation locale et ne remplace pas les canaux d’urgence officiels. Il sait dire qu’une information vérifiée n’est pas disponible.
Le mode dégradé est un comportement, pas une phrase
Un bon scénario de repli n’est pas une formulation générique ajoutée au prompt. C’est une décision d’architecture testable, liée à la qualité du signal, à la disponibilité des sources, aux permissions et à l’état des outils.
- 01Borner la réponse
Réduire le périmètre de la réponse et indiquer clairement ce qui n’a pas pu être vérifié.
- 02Passer la main
Transférer avec le contexte utile lorsque le risque, le doute ou une règle métier atteint le seuil prévu.
- 03Assurer la continuité
Activer une procédure déterminée à l’avance lorsque le modèle, une API ou une source critique n’est plus disponible.
- 04Refuser une consigne périmée
L’absence de donnée valide ne doit pas réactiver silencieusement la dernière instruction connue.

Mettre en production par étapes contrôlées
Une architecture modulaire permet de relier téléphonie, CRM, messagerie, bases officielles et outils internes sans donner à chaque composant plus de droits qu’il n’en faut.
- 01Borner un parcours
Commencer par un scénario dont les entrées, sorties, exceptions et responsables sont connus.
- 02Tester les scénarios
Tester les cas normaux, les ambiguïtés, les pannes, les tentatives hors périmètre et la reprise humaine.
- 03Mesurer les opérations
Suivre latence, erreurs, transferts, réponses non vérifiées et résultats métier — pas seulement le nombre d’appels.
- 04Étendre sous condition
Augmenter le volume et l’autonomie seulement après validation du modèle opérationnel et des procédures de reprise.
Références techniques
Note technique, pas un audit de sécurité ni un avis juridique. Références vérifiées le 10 novembre 2026 ; les obligations dépendent de la classification du système, du rôle et du cas d’usage.
Concevez le modèle de contrôle avant l’autonomie.
Parlons-en
- marc@banana-navy.com
- Téléphone
- +32 495 27 70 44
- Studio
- Banana Navy SRL
Rue Antoine de Saint-Exupéry 2
6041 Charleroi (Gosselies), BelgiqueTVA BE 0745.575.058