Pratiques d'IA interdites : l'article 5 de l'AI Act

Depuis le 2 février 2025, huit usages de l’intelligence artificielle sont purement et simplement interdits dans l’Union européenne. Pas encadrés, pas soumis à autorisation : interdits. Et la sanction n’a rien de symbolique — jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial, le plafond le plus élevé de tout l’AI Act. Beaucoup de dirigeants pensent que ces interdictions ne concernent que la surveillance de masse ou la police. C’est une erreur : certaines pratiques bannies se glissent dans des outils RH, marketing ou de sécurité tout à fait ordinaires. Voici ce que dit l’article 5, et comment vérifier que vous n’êtes pas concerné.

Pratiques interdites : le sommet de la pyramide des risques

L’AI Act (règlement (UE) 2024/1689) classe les systèmes d’IA selon quatre niveaux de risque. Les pratiques interdites forment le niveau supérieur, celui du risque inacceptable : le législateur européen a considéré que ces usages sont, par nature, incompatibles avec les valeurs de l’Union et les droits fondamentaux. Aucune analyse d’impact, aucune mesure technique, aucune documentation ne peut les rendre licites. Pour comprendre où se situe ce niveau par rapport aux autres, je renvoie à mon article sur la classification des risques de l’IA.

La distinction est essentielle. Un système d’IA à haut risque — un logiciel de tri de CV, par exemple — reste autorisé sous conditions strictes (documentation technique, supervision humaine, enregistrement). Une pratique interdite, elle, ne se met pas en conformité : elle se retire du marché. C’est une frontière binaire, et c’est ce qui la rend redoutable.

Ces interdictions sont applicables depuis le 2 février 2025, soit six mois seulement après l’entrée en vigueur du règlement. Le 4 février 2025, la Commission européenne a publié des lignes directrices (communication C(2025) 884) qui précisent, sur près de 140 pages, l’interprétation de chaque interdiction. Elles ne sont pas contraignantes, mais elles donnent le cadre de lecture que suivront les autorités de contrôle. Pour un panorama plus large du calendrier, voyez le calendrier d’application de l’AI Act.

Les huit pratiques d’IA interdites

L’article 5(1) énumère huit catégories. Je les reprends dans l’ordre du texte, avec un exemple concret pour chacune.

a) La manipulation subliminale ou trompeuse (Art. 5(1)(a)). Sont interdits les systèmes recourant à des techniques subliminales, délibérément manipulatrices ou trompeuses, dans le but d’altérer substantiellement le comportement d’une personne d’une manière qui lui cause, ou est susceptible de lui causer, un préjudice important. Exemple type : une interface conversationnelle qui exploiterait des signaux imperceptibles pour pousser un utilisateur vers une décision contraire à ses intérêts. On est à la frontière des dark patterns, mais la logique ici est celle de la manipulation cognitive assistée par IA.

b) L’exploitation des vulnérabilités (Art. 5(1)(b)). Interdiction d’exploiter les vulnérabilités d’une personne ou d’un groupe liées à l’âge, au handicap ou à une situation sociale ou économique particulière, pour altérer son comportement et lui causer un préjudice. Un système qui ciblerait des personnes âgées isolées ou des personnes en situation de précarité financière pour les inciter à des comportements dommageables tombe sous le coup de cette interdiction.

c) La notation sociale (Art. 5(1)©). C’est le fameux social scoring. Est interdite l’évaluation ou la classification de personnes sur une certaine durée, à partir de leur comportement social ou de caractéristiques personnelles, lorsqu’elle conduit à un traitement défavorable dans des contextes sans lien avec les données d’origine, ou disproportionné. Un score de « fiabilité citoyenne » qui pénaliserait l’accès à un service public à partir de données de navigation en est l’archétype.

d) La police prédictive individuelle (Art. 5(1)(d)). Interdiction d’évaluer ou de prédire le risque qu’une personne commette une infraction pénale sur le seul fondement du profilage ou de l’évaluation de ses traits de personnalité. L’interdiction ne vise pas les systèmes qui assistent une appréciation humaine déjà fondée sur des faits objectifs et vérifiables directement liés à une activité criminelle.

e) Le moissonnage d’images faciales (Art. 5(1)(e)). Est interdite la création ou l’extension de bases de données de reconnaissance faciale par moissonnage non ciblé (scraping) d’images provenant d’internet ou de la vidéosurveillance. C’est l’interdiction qui vise directement le modèle Clearview AI — déjà sanctionné par la CNIL sous l’angle du RGPD (délibération SAN-2022-019, 20 millions d’euros).

f) La reconnaissance des émotions au travail et à l’école (Art. 5(1)(f)). Interdiction des systèmes d’IA visant à inférer les émotions d’une personne sur le lieu de travail et dans les établissements d’enseignement, sauf pour des raisons médicales ou de sécurité. Un logiciel prétendant mesurer l’engagement ou le stress des salariés à partir de leur voix ou de leur visage est interdit — un point à vérifier de près dans les outils de visioconférence ou de centres d’appels.

g) La catégorisation biométrique sensible (Art. 5(1)(g)). Interdiction des systèmes de catégorisation biométrique qui classent les personnes pour en déduire leur origine raciale ou ethnique, leurs opinions politiques, leur appartenance syndicale, leurs convictions religieuses ou philosophiques, leur vie sexuelle ou leur orientation sexuelle. Ces catégories recoupent les données sensibles de l’article 9 RGPD.

h) L’identification biométrique à distance en temps réel (Art. 5(1)(h)). Interdiction de l’usage de systèmes d’identification biométrique à distance « en temps réel » dans les espaces accessibles au public, à des fins répressives. C’est l’interdiction la plus commentée, et aussi la plus assortie d’exceptions.

Les exceptions à connaître

Deux interdictions ne sont pas absolues. La police prédictive (d) laisse ouverte l’assistance à une décision humaine reposant sur des faits objectifs. Surtout, l’identification biométrique en temps réel (h) prévoit des exceptions strictement encadrées, réservées aux autorités répressives : recherche ciblée de victimes (enlèvement, traite des êtres humains), prévention d’une menace grave et imminente, ou localisation d’un suspect d’infraction grave. Chaque usage suppose une autorisation judiciaire ou administrative préalable et une inscription dans le droit national. Autrement dit : une entreprise privée n’a, en pratique, aucun accès à ces exceptions.

À l’inverse, la reconnaissance des émotions (f) admet une exception « médicale ou de sécurité » — un système détectant la somnolence d’un conducteur reste licite — mais elle s’interprète strictement. Mesurer la « motivation » d’un candidat en entretien n’entre dans aucune exception. Ce sujet croise directement celui de l’IA et de la discrimination au recrutement.

Qui est concerné ?

L’article 5 s’applique aux fournisseurs comme aux déployeurs de systèmes d’IA, dès lors que le système est mis sur le marché, mis en service ou utilisé dans l’Union. Une entreprise peut cumuler les deux rôles : si elle développe son propre système et l’utilise ensuite, elle est à la fois fournisseur et déployeur. La distinction entre ces deux statuts, structurante pour toutes les obligations de l’AI Act, est détaillée dans mon article fournisseur ou déployeur AI Act.

Le point à retenir pour une PME : vous n’avez pas besoin de développer l’IA pour être responsable. Si vous déployez un outil tiers qui réalise l’une de ces pratiques — un logiciel RH d’analyse émotionnelle, par exemple — vous êtes en infraction, même si vous n’avez écrit aucune ligne de code. La conformité impose donc de savoir précisément ce que font les outils IA que vous achetez.

Des sanctions au plafond maximal

Le manquement à l’article 5 relève du régime de sanction le plus sévère de l’AI Act. L’article 99(3) prévoit des amendes administratives pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu. À titre de comparaison, les manquements aux obligations des systèmes à haut risque plafonnent à 15 millions d’euros ou 3 % du chiffre d’affaires. Le régime de sanctions est applicable depuis le 2 août 2025. J’ai détaillé l’ensemble du barème dans l’article sur les amendes de l’AI Act.

Qui contrôle en France ?

Le décret du 1er août 2025 a désigné les autorités françaises compétentes. La CNIL est positionnée comme autorité de référence pour l’IA, en cohérence avec son service dédié créé fin 2023 et son plan d’action IA 2024-2027. Elle agit en coordination avec d’autres autorités sectorielles, notamment la DGCCRF et l’Arcom selon les domaines. La CNIL a d’ailleurs publié ses premières questions-réponses sur l’entrée en vigueur du règlement. Pour anticiper la manière dont ces contrôles se dérouleront, voyez contrôles AI Act 2026.

L’articulation avec le RGPD

Plusieurs pratiques interdites reposent sur des traitements de données personnelles qui étaient déjà, pour partie, contraires au RGPD. Le moissonnage d’images faciales (e) et la catégorisation biométrique (g) mettent en jeu des données sensibles protégées par l’Art. 9 RGPD. La notation sociale peut relever de l’interdiction des décisions entièrement automatisées de l’Art. 22 RGPD. La vidéosurveillance biométrique croise les règles que j’ai décrites sur l’IA et la vidéosurveillance.

Concrètement, un même système peut cumuler une infraction à l’AI Act et une violation du RGPD, avec deux régimes de sanction distincts. La conformité IA ne dispense jamais de la conformité RGPD : elle s’y ajoute.

Que faire concrètement

Dans mon expérience de conseil, la première étape n’est pas juridique mais documentaire : il faut savoir ce que font réellement vos outils. Je recommande une démarche en quatre temps. D’abord, recenser tous les systèmes d’IA utilisés dans l’entreprise, développés en interne comme achetés — c’est l’objet du registre des systèmes d’IA. Ensuite, qualifier chaque système au regard des huit interdictions, en portant une attention particulière aux usages RH (analyse émotionnelle, scoring de salariés) et sécurité (biométrie, vidéosurveillance intelligente). Puis interroger vos fournisseurs sur les fonctionnalités exactes des outils déployés, par écrit. Enfin, retirer ou reparamétrer tout usage tombant dans une pratique interdite — il n’existe pas d’option de mise en conformité.

C’est précisément ce travail de recensement et de qualification, système par système, que Legiscope aide à structurer, plutôt que de le reconstituer dans l’urgence à l’occasion d’un premier contrôle. Pour aller plus loin, la checklist de conformité IA reprend l’ensemble des obligations, au-delà des seules interdictions.

Ce qu’il faut retenir

• Huit pratiques d’IA sont interdites depuis le 2 février 2025 par l’article 5 de l’AI Act : manipulation, exploitation des vulnérabilités, notation sociale, police prédictive individuelle, moissonnage d’images faciales, reconnaissance des émotions au travail et à l’école, catégorisation biométrique sensible, identification biométrique en temps réel.
• Interdiction ne veut pas dire encadrement : contrairement au haut risque, une pratique interdite ne se met pas en conformité, elle se retire.
• Fournisseurs et déployeurs sont concernés : déployer un outil tiers qui réalise une pratique interdite suffit à engager sa responsabilité.
• La sanction atteint 35 M€ ou 7 % du chiffre d’affaires mondial (Art. 99(3)), le plafond le plus élevé du règlement, applicable depuis le 2 août 2025.
• En France, la CNIL est l’autorité de référence (décret du 1er août 2025), en coordination avec la DGCCRF et l’Arcom.

FAQ

Depuis quand les pratiques d’IA interdites sont-elles applicables ?

Les interdictions de l’article 5 de l’AI Act sont directement applicables depuis le 2 février 2025, soit six mois après l’entrée en vigueur du règlement. Le régime de sanctions correspondant s’applique, lui, depuis le 2 août 2025. La Commission européenne a publié ses lignes directrices d’interprétation le 4 février 2025.

Ma PME peut-elle être concernée sans développer d’IA ?

Oui. L’article 5 vise aussi les déployeurs, c’est-à-dire les entreprises qui utilisent un système d’IA fourni par un tiers. Si un logiciel que vous avez acheté réalise une pratique interdite — par exemple une analyse des émotions de vos salariés — vous êtes en infraction, même sans avoir participé à sa conception. D’où l’importance d’interroger précisément vos fournisseurs.

La reconnaissance des émotions est-elle toujours interdite ?

Non, seulement sur le lieu de travail et dans les établissements d’enseignement, et sauf raison médicale ou de sécurité. Un dispositif détectant la somnolence d’un conducteur reste licite. En revanche, mesurer l’engagement, le stress ou la motivation de salariés ou d’élèves relève de l’interdiction.

Quelle est la différence entre pratique interdite et système à haut risque ?

Une pratique interdite est bannie sans condition : aucune mesure ne peut la rendre licite. Un système à haut risque reste autorisé, mais soumis à des obligations strictes (documentation technique, supervision humaine, enregistrement). C’est la différence entre un usage prohibé et un usage encadré.

---

Vous voulez suivre l’application de l’AI Act sans éplucher chaque ligne directrice ? Recevez nos analyses conformité chaque semaine — décryptées par un docteur en droit, appliquées à votre réalité d’entreprise.