Qu'est-ce qu'un système d'IA à haut risque
L'AI Act classe à haut risque les systèmes d'IA utilisés dans des domaines où l'erreur porte atteinte aux droits fondamentaux : recrutement, éducation, crédit, justice, services publics essentiels, biométrie, infrastructures critiques. Ces systèmes seront soumis à des exigences strictes de gestion des risques, de qualité des données, de supervision humaine et de transparence.
Le règlement UE 2024/1689 classe à haut risque les systèmes d'IA utilisés dans des domaines où une erreur ou un dysfonctionnement peut porter gravement atteinte à la santé, à la sécurité ou aux droits fondamentaux. Ces systèmes ne sont pas interdits, mais soumis à des exigences strictes : gestion des risques, qualité et gouvernance des données, documentation technique, transparence, supervision humaine, robustesse et sécurité. C'est le cœur du dispositif du règlement, dont l'essentiel s'applique à partir du 2 août 2026.
Les domaines concernés
Le règlement identifie des usages à haut risque, notamment dans le recrutement et la gestion des travailleurs, l'éducation et la formation, l'accès aux services essentiels comme le crédit, l'application de la loi, la justice, la migration et l'asile, la biométrie, et la sécurité des infrastructures critiques. Le point commun est l'impact possible sur des droits fondamentaux.
Les exigences imposées
Système de gestion des risques tout au long du cycle de vie. Données d'entraînement, de validation et de test de qualité, gérées pour limiter les biais. Documentation technique et enregistrement des événements. Transparence et information des déployeurs. Supervision humaine effective, permettant de comprendre, surveiller et, au besoin, interrompre le système. Niveau approprié d'exactitude, de robustesse et de cybersécurité.
Pourquoi ce niveau d'exigence
Dans ces domaines, une décision automatisée biaisée ou erronée peut priver une personne d'un emploi, d'un crédit, d'une place en formation, ou porter atteinte à ses libertés. Le règlement impose donc des garanties proportionnées à la gravité des conséquences possibles.
Ce que cela vous apporte
Face à un système à haut risque qui vous concerne, vous bénéficiez de garanties : qualité, supervision humaine, transparence. Ces exigences renforcent vos droits existants, notamment ceux issus du RGPD sur les décisions automatisées.
Questions fréquentes
Un système à haut risque est-il interdit ?
Non, il est autorisé mais soumis à des exigences strictes.
Le tri de CV est-il à haut risque ?
Les systèmes d'IA utilisés dans le recrutement figurent parmi les usages à haut risque visés par le règlement.
Quand ces exigences s'appliquent-elles ?
L'essentiel s'applique à partir du 2 août 2026, avec une échéance en 2027 pour certains systèmes intégrés à des produits déjà réglementés.
Ressource ICIA
L'ICIA propose MentivisOS ICIA, une plateforme gratuite à vie pour apprendre l'IA avec un parcours personnalisé.
Découvrir MentivisOS ICIA