Chapeau. La validation humaine n’est pas une case cochée à la fin d’un processus. C’est une architecture de points de contrôle placés lors de la sélection des données, du choix des sources, de la production du contenu, de l’exercice du jugement professionnel et avant toute action externe.
Réponse opérationnelle
Une validation humaine doit précéder chaque changement important d’autorité ou de conséquence. Une personne vérifie que les données d’entrée sont permises, que les sources sont autorisées et actuelles, que les faits extraits sont exacts, que le jugement professionnel demeure celui du conseiller et que l’action externe est appropriée. L’intensité dépend du risque du workflow, pas de la nouveauté du modèle. La mise en forme à faible enjeu peut être automatisée avec surveillance. Les appréciations d’adéquation, décisions d’investissement, communications clients, ordres, déclarations réglementaires et exceptions exigent des responsables nommés et des points de contrôle explicites.
À qui cela s’applique-t-il ?
Cette analyse s’adresse aux gestionnaires de fortune indépendants suisses ainsi qu’aux fonctions de direction, relation client, conformité et technologie. Les gestionnaires exerçant à titre professionnel doivent être autorisés par la FINMA et sont surveillés par un organisme de surveillance. Les obligations concrètes dépendent de l’activité, du mandat, des clients et de l’organisation. Le présent cadre ne transforme pas une observation prudentielle en règle universelle.
Pourquoi une revue finale ne suffit pas
Un texte convaincant peut cacher une erreur antérieure : mauvais dossier client, avenant au mandat absent, recherche périmée, extraction fausse ou message déjà envoyé par un agent. La Communication FINMA 08/2024 relève notamment les risques de modèle, de données, informatiques, cyber, juridiques, de réputation et de dépendance à des tiers. Une revue humaine n’est utile que si la personne dispose des compétences, du temps, des sources, de l’autorité et d’un véritable moyen d’arrêter le processus.
Classification du risque
- Niveau 1, assistance : mise en forme, traduction de textes internes approuvés, logistique ; aucune conclusion professionnelle.
- Niveau 2, analyse : résumé, extraction, comparaison et préparation ; vérification par une personne qualifiée.
- Niveau 3, conseil : contenu susceptible d’influencer adéquation, recommandation ou compréhension du client ; approbation spécialisée obligatoire.
- Niveau 4, conséquence : ordre, paiement, modification de mandat, engagement, dépôt ou changement d’accès ; l’IA peut préparer, mais l’exécution autonome doit rester désactivée sauf cadre déterministe distinct et gouverné.
Le risque augmente avec les données sensibles, l’échelle, l’irréversibilité, un instrument inhabituel, les conflits, la pression temporelle ou l’incapacité d’expliquer le résultat.
Où placer les validations
Sélection des données
Avant toute transmission, confirmer le client, le mandat, la finalité, la classification, les champs nécessaires, les droits d’accès et les restrictions d’externalisation. Les dépôts autorisés, la minimisation et les contrôles de perte de données doivent matérialiser cette décision.
Sources autorisées
Définir une hiérarchie. Le mandat signé, le profil approuvé et les politiques actuelles ne doivent pas être remplacés par la mémoire du modèle ou une page web non vérifiée. Le système affiche titre, propriétaire, version et date d’effet. Une personne autorise l’ajout de sources et tranche les contradictions.
Contenu généré ou extrait
Vérifier les faits contre la source citée, et non contre leur vraisemblance. Contrôler identité, montants, dates, attributions, omissions et inférences. Un échantillonnage peut convenir aux tâches répétitives à faible conséquence ; les contenus matériels destinés au client ou au régulateur appellent une revue complète.
Avant le jugement professionnel
L’IA peut organiser les éléments et proposer des questions. Le conseiller doit apprécier mandat, profil, objectifs, capacité de risque, portefeuille, conflits et conditions actuelles selon le processus approuvé. Il doit voir les preuves sous-jacentes et pouvoir s’écarter librement du résultat.
Avant une action externe
Séparer techniquement « brouillon » de « envoyer », et « proposer » d’« exécuter ». Une personne authentifiée et habilitée approuve communication, ordre, paiement, dépôt ou engagement. L’écran d’approbation doit présenter les preuves et exceptions importantes.
Exceptions, traçabilité et preuves
Escalader les sources absentes ou contradictoires, les extractions incertaines, les mandats ambigus, conflits, plaintes, manipulations, changements substantiels de modèle et demandes hors finalité. Une file d’exception a un propriétaire, un délai, des exigences de preuve et interdit le contournement silencieux.
Conserver de façon proportionnée la version du workflow, les identifiants des sources, les entrées et sorties matérielles, les contrôles, le réviseur, l’heure, la décision et l’exception. Éviter une archive indiscriminée de prompts confidentiels. Les logs doivent être protégés, recherchables et soumis à une durée justifiée.
Tableau de décision
| Workflow | Action assistée | Défaillance possible | Contrôle humain obligatoire | Décideur | Action autonome exclue |
|---|---|---|---|---|---|
| Briefing de rendez-vous | Résumer portefeuille et échanges | Mauvais client, mandat périmé | Vérifier identité, sources et faits | Relationship manager | Envoi externe |
| Courriel client | Rédiger une explication | Promesse infondée | Valider texte et annexes | Relationship manager | Envoi |
| Suivi de portefeuille | Signaler un écart | Alerte fausse ou manquée | Examiner preuve et seuil du mandat | Gérant | Passer un ordre correctif |
| Recherche | Comparer des instruments | Faits inventés ou périmés | Vérifier données primaires | Spécialiste investissement | Adopter la recommandation |
| Adéquation | Organiser les preuves | Contrainte omise | Réaliser l’appréciation professionnelle | Conseiller/conformité | Décider l’adéquation |
| Préparation d’ordre | Préremplir les champs | Mauvais compte ou montant | Confirmation selon habilitation | Personne autorisée | Transmettre l’ordre |
| Monitoring conformité | Prioriser les cas | Faux négatif | Examiner alertes et échantillons | Conformité | Clore un cas matériel |
| Déclaration | Préparer les champs | Déclaration incomplète | Réconcilier et signer | Responsable désigné | Déposer |
Exemple interne illustratif : préparation d’un briefing
Cet exemple n’est pas un cas client. Le relationship manager choisit le rendez-vous et confirme l’identité. Le système ne récupère que le mandat actuel, le profil approuvé, les positions, les notes et les actions ouvertes. Il affiche les dates et signale les contradictions. Le modèle produit des faits, questions ouvertes et thèmes possibles, sans conclure à l’adéquation ni créer d’ordre. Des contrôles déterministes réconcilient positions, devises et dates. Le responsable vérifie les sources et approuve. Toute plainte, ambiguïté de mandat ou restriction passe dans la file spécialisée. Le briefing reste interne ; une action distincte est nécessaire pour communiquer au client.
Rôles et responsabilité
La direction fixe l’appétit au risque. Le métier définit la finalité. Le conseiller conserve le jugement professionnel. La conformité traite les règles de conduite et escalades dans son périmètre. La protection des données examine les risques pour les personnes. La sécurité gouverne identités, intégrations et incidents. Le propriétaire technologique teste et surveille. L’audit évalue si le dispositif fonctionne. Le fournisseur ne peut pas assumer la décision de l’établissement.
Ce qui peut être automatisé
Les tâches bornées, réversibles et observables sont les meilleures candidates : routage, mise en forme, détection de doublons, calcul vérifié par règles déterministes, recherche dans un corpus approuvé et brouillons clairement signalés. Même une mise en forme peut exposer des données si le service choisi est inadéquat.
Ce qui doit rester sous responsabilité humaine
Acceptation du client, interprétation du mandat, adéquation, décisions d’investissement, conflits, exceptions, communications matérielles, plaintes, affirmations réglementaires et pouvoir d’exécuter restent attribués à la personne ou à l’organe compétent. L’IA peut préparer les preuves, pas rendre la responsabilité ambiguë.
Interprétation opérationnelle de Cytria
Cytria conçoit la validation comme une suite de portes. Chacune définit l’objet contrôlé, les preuves visibles, le rôle autorisé, l’escalade et la décision enregistrée. Les contrôles se renforcent en passant de l’information au jugement puis à l’action. La question décisive n’est pas « un humain était-il présent ? », mais « la bonne personne pouvait-elle détecter cette erreur avant ses conséquences ? »
Limites et prochaine étape
Informations générales revues le 14 juillet 2026, sans valeur d’avis juridique, réglementaire ou d’investissement. Cartographiez un workflow réel, marquez chaque entrée de données, changement d’autorité et conséquence externe, puis définissez réviseur, preuve, arrêt, trace et escalade. Testez les scénarios mauvais client, source périmée et résultat sans fondement.
Sources primaires
- FINMA, Gouvernance et gestion des risques lors du recours à l’IA, 18 décembre 2024 ; consulté le 14 juillet 2026.
- FINMA, Enquête sur le recours à l’IA, 24 avril 2025 ; consulté le 14 juillet 2026.
- FINMA, Gestionnaires de fortune et trustees : bases légales, documentation actuelle ; consulté le 14 juillet 2026.
- FINMA, Risques liés aux produits dans la gestion de fortune individuelle, 3 juin 2026 ; consulté le 14 juillet 2026.
- IFPDT, IA et protection des données, 24 septembre 2025 ; consulté le 14 juillet 2026.