Guide TGV : le groupe Intelligence artificielle

Ce que couvre le groupe

Le groupe Intelligence artificielle de la grille TGV (version du 24 avril 2026) vérifie qu'un produit ou service technologique (PST) qui intègre de l'IA est documenté, testé et encadré, et qu'il laisse l'utilisateur en contrôle. La grille appelle ce produit une SARIA, pour « solution ayant recours à l'intelligence artificielle » : dès qu'une composante d'IA est présente, IA1 exige de le mentionner clairement dans la documentation. Le groupe compte 69 des 382 critères de la grille (IA1 à IA69), en 9 catégories. Plusieurs ne visent qu'un cas précis, comme l'IA générative ou les agents autonomes. Les critères ne nomment aucun type de produit : les éditeurs de scribes médicaux, d'outils de transcription ou d'IA générative sont concernés dès que leur solution comporte une composante d'IA.

Les critères sont paraphrasés de la grille officielle ; conseils et preuves suggérées sont l'interprétation de Sentrix.

Les catégories une à une

La colonne des références cite surtout RS BC-VPTI (59 critères) et OREPIA (46), puis ISO 25058, LEIA, ISO 23894, ISO 27563, ISO 24368 et les critères TGV du 18 juin 2024.

Utilisation de systèmes IA (IA1 à IA7)

Le fournisseur publie sur son site une politique de confidentialité en langage simple et clair sur l'usage de l'IA (IA2). IA3 à IA7 encadrent les décisions fondées exclusivement sur un traitement automatisé de renseignements personnels, que la consigne d'IA3 demande de répertorier en renvoyant à l'article 12.1 de la Loi sur la protection des renseignements personnels dans le secteur privé et à l'article 65.2 de la Loi sur l'accès. La SARIA informe la personne concernée (IA4), lui fournit sur demande les renseignements utilisés, les raisons et facteurs de la décision et son droit de rectification (IA5), lui permet de présenter ses observations à un membre du personnel (IA6) et rend possible une révision humaine (IA7).

Processus de développement (IA8 à IA12)

Le fournisseur présente son développement pour que l'acquéreur évalue potentiel, performance, risques et besoins en formation et en gouvernance. Il faut des essais sur les différences de comportement selon les conditions ou les groupes sociaux (IA8) et sur l'adéquation à l'utilisation envisagée (IA9), et une stratégie d'évaluation avec ses métriques, faux positifs et faux négatifs (IA10). Pour l'IA générative, s'ajoutent un rapport sur la variabilité des résultats pour une même situation (IA11) et un rapport de tests d'injection de requêtes malveillantes (IA12).

Documentation (IA13 à IA32)

C'est la plus grosse catégorie, avec 20 critères. La documentation décrit l'utilisation envisagée, les limites et mises en garde, les mesures contre les biais et les utilisations non recommandées (IA13 à IA16), les types d'IA (IA18), l'architecture (IA24) et le contrôle des agents autonomes s'il y en a (IA30). Elle liste les jeux de données d'entraînement, de validation et de tests, idéalement distincts, et documente l'anonymisation et les données synthétiques (IA17, IA27, IA31, IA32). Le fournisseur ne change ni les types d'IA ni les modèles sans l'approbation explicite de l'acquéreur (IA20) et présente un plan d'évolution aussi rigoureux que la vérification initiale (IA21 à IA23). Il fournit aussi un rapport sur les implantations précédentes (IA19), une formation pour l'utilisateur (IA25), un document vulgarisé sur l'atténuation des risques (IA28) et l'empreinte environnementale de la SARIA (IA26, IA29).

Utilisation responsable (IA33 à IA38)

Le fournisseur accepte de collaborer avec des chercheurs en IA responsable et un comité de potentiels utilisateurs et usagers (IA33). Il tient un registre des risques ou contribue à celui d'un organisme indépendant (IA34), et communique tout nouveau risque à l'acquéreur, en l'exigeant aussi du développeur primaire en cas de développement secondaire (IA35). Il n'utilise pas de jeux de données dont l'intégrité a pu être compromise dans les 5 ans avant leur utilisation (IA36), surveille ces événements (IA37) et détient les droits sur ses données d'entraînement, notamment les renseignements personnels (IA38).

Communication et partage (IA39 à IA46)

Les renseignements personnels échangés entre composantes sont protégés selon les lois du Québec (IA39). IA40 interdit toute communication de renseignements personnels hors du Québec, y compris par un appel à un modèle d'IA générative, sans le consentement informé, explicite et non équivoque de la personne. L'acquéreur et le Bureau de certification sont informés de toute communication ou vente de données, la consigne rappelant que la vente de données de santé ou de services sociaux est strictement interdite sauf autorisation explicite de la loi (IA41). L'acquéreur est aussi informé des produits dérivés, des tiers intéressés et des analyses qu'il n'a pas demandées (IA42 à IA44), peut désactiver un ou tous les modèles (IA45) et doit autoriser explicitement tout apprentissage sur les données d'utilisation (IA46).

Accès aux données (IA47 à IA51)

Les accès, décisions, réactions et commentaires des utilisateurs sont journalisés et retraçables (IA47), et restent accessibles tant que les décisions appuyées par la SARIA peuvent être questionnées en cour (IA48). Chaque utilisateur ne voit que les données et ne fait que les tâches permises par son rôle (IA49, IA50). Les données d'utilisation et les résultats sont journalisés et accessibles à l'acquéreur (IA51).

Surveillance et contrôle (IA52 à IA58)

L'acquéreur suit et extrait les approbations, modifications, commentaires et réactions des utilisateurs (IA52) et attribue les accès selon les rôles (IA55). Si possible, la recommandation finale se compose de résultats intermédiaires que l'utilisateur peut consulter et extraire (IA53, IA54). Un modèle qui s'adapte par apprentissage automatique le fait selon l'approbation de l'acquéreur (IA56). Avec l'IA générative, les sources apparaissent dans les résultats et sont accessibles dans l'interface (IA57). Les utilisateurs peuvent signaler un résultat inadéquat, et ce signalement est journalisé (IA58).

Processus de révision (IA59 à IA67)

La consigne demande une SARIA qui favorise l'autonomie de l'utilisateur. Les écrans affichent les limites et mises en garde, ce que la grille appelle la « stratégie d'explicabilité » (IA59), et montrent ce que fait le modèle et quelles données il prend en compte (IA62). L'utilisateur sait qu'il peut refuser une recommandation (IA60), et la SARIA ne modifie aucun intrant humain après la validation finale de l'utilisateur (IA61). La version est visible à l'écran et dans chaque résultat (IA63, IA64), les agents autonomes sont surveillés (IA65) et les appels externes ont des points de contrôle et une stratégie de continuation (IA66). La publicité interne est limitée aux 2 premières minutes d'utilisation, et la publicité commerciale est interdite (IA67).

Intelligence artificielle (IA68 et IA69)

Aucun mot, élément visuel ou sonore, mouvement ou temps de réponse de l'utilisateur ne déclenche d'associations ou d'actions commanditées (IA68), et aucune technique subliminale n'est utilisée (IA69). Ces critères prolongent G02 du groupe Général, qui interdit la publicité.

Les preuves à préparer

• Une fiche de présentation de la SARIA (composante d'IA, types, architecture) et la politique de confidentialité publiée (IA1, IA2, IA18, IA24).
• Un registre des décisions automatisées, avec l'avis à la personne et la procédure de révision humaine (IA3 à IA7).
• Le dossier d'essais : biais, adéquation, métriques, faux positifs et faux négatifs, plus les rapports de variabilité et d'injection de requêtes pour l'IA générative (IA8 à IA12).
• Un registre des jeux de données : liste, droits acquis, séparation des étapes, anonymisation, données synthétiques (IA17, IA27, IA31, IA32, IA38).
• Le plan d'évolution, le guide de l'utilisateur, le document vulgarisé sur les risques et la note environnementale (IA21 à IA23, IA25, IA26, IA28, IA29).
• Des engagements écrits, idéalement au contrat : modèles inchangés sans approbation, registre des risques, intégrité des données, aucun apprentissage sur les données d'utilisation (IA20, IA34 à IA37, IA46).
• Une cartographie des flux de renseignements personnels, avec chaque appel à un modèle externe et son lieu de traitement (IA39, IA40).
• Une démonstration des fonctions : désactivation des modèles, journaux, signalements, sources affichées, version, refus possible (IA45, IA47, IA57, IA58, IA60, IA63).

Points d'attention

• Critères conditionnels, notamment : IA11, IA12 et IA57 (IA générative), IA30 et IA65 (agents autonomes), IA31 (données synthétiques), IA56 (modèle qui s'adapte), IA19 (implantation antérieure).
• IA48 ne donne aucune durée chiffrée : la conservation des journaux dépend de la période où les décisions peuvent être questionnées en cour.
• La certification atteste la conformité d'une version d'un PST : tout changement de modèle passe par l'acquéreur (IA20), et la version figure à l'écran et dans chaque résultat (IA63, IA64).

Besoin d'aide avec ce groupe ?

Sentrix aide les fournisseurs de PST à préparer leur dossier pour ce groupe, du registre des jeux de données aux engagements écrits ; la certification relève du Bureau de certification de Santé Québec. Prenez rendez-vous ou consultez notre service d'accompagnement à la certification TGV.

Suite du guide

Retrouvez le guide complet des contrôles TGV et la fiche du référentiel TGV.