Depuis le 2 février 2025, il est interdit dans l’Union européenne de déployer un système d’intelligence artificielle pour déduire les émotions d’une personne sur son lieu de travail ou dans un établissement d’enseignement. C’est l’une des huit pratiques classées « à risque inacceptable » par l’article 5(1)(f) du règlement européen sur l’IA (AI Act), et c’est probablement l’interdiction la plus mal comprise du texte.
Le marché de l’Emotion AI — ces systèmes qui prétendent détecter la joie, la colère, le stress ou la motivation à partir d’expressions faciales, de la voix ou de frappes au clavier — pèse déjà 2,9 milliards de dollars en 2024 et devrait dépasser les 7 milliards d’ici 2029 selon GM Insights. Des géants comme Microsoft, IBM et des spécialistes comme Affectiva (racheté par Smart Eye) ou Uniphore investissent massivement dans ce domaine. Face à cette déferlante, le législateur européen a tranché : certains usages sont tout simplement incompatibles avec les droits fondamentaux.
Décortiquons ce que l’AI Act interdit précisément, ce qu’il autorise encore, les failles du texte, et ce que cela change concrètement pour les entreprises françaises.
1. Qu’est-ce que l’Emotion AI exactement ?
L’informatique affective (affective computing) est née dans les années 1990 au MIT Media Lab, sous l’impulsion de la chercheuse Rosalind Picard. Le principe : des systèmes capables de détecter, interpréter et réagir aux émotions humaines en analysant des données biométriques — expressions faciales, ton de la voix, posture corporelle, rythme de frappe au clavier, mouvements oculaires, voire rythme cardiaque.
L’article 3(39) du règlement sur l’IA définit un système de reconnaissance des émotions (emotion recognition system) comme un « système d’IA ayant pour finalité d’identifier ou d’inférer les émotions ou intentions de personnes physiques sur la base de leurs données biométriques ». La définition est large : elle couvre aussi bien l’identification (associer une expression faciale à une catégorie émotionnelle prédéfinie) que l’inférence (en tirer des conclusions sur l’état mental d’une personne).
Le considérant 18 du règlement fournit une liste non exhaustive d’émotions et d’intentions visées : bonheur, tristesse, colère, surprise, dégoût, embarras, excitation, honte, mépris, satisfaction et amusement. En revanche, les états physiques comme la douleur ou la fatigue ne sont pas considérés comme des émotions au sens du règlement — une distinction qui aura son importance.
2. Ce que dit précisément l’article 5(1)(f) de l’AI Act
« La mise sur le marché, la mise en service à cette fin spécifique, ou l'utilisation de systèmes d'IA pour inférer les émotions d'une personne physique dans les domaines du lieu de travail et des établissements d'enseignement, sauf lorsque l'utilisation du système d'IA est destinée à être mise en place ou mise sur le marché pour des raisons médicales ou de sécurité. »
Quatre conditions cumulatives doivent être réunies pour tomber sous le coup de l’interdiction :
| Condition | Détail |
|---|---|
| Un système d'IA | Au sens de l'article 3(1) du règlement |
| Qui infère des émotions | Pas seulement détecte des expressions — le système doit tirer des conclusions sur l'état émotionnel |
| À partir de données biométriques | Expressions faciales, voix, postures, frappes clavier, mouvements oculaires… |
| Au travail ou en milieu éducatif | Interprétation large de ces notions (voir section 4) |
L’interdiction s’applique à trois catégories d’acteurs : les fournisseurs (qui conçoivent le système), les déployeurs (qui l’utilisent, typiquement l’employeur ou l’établissement scolaire) et les distributeurs. Comme le précisent les lignes directrices de la Commission européenne publiées le 4 février 2025, le terme « utilisation » est interprété au sens large : il couvre tout usage du système après sa mise sur le marché ou sa mise en service.
3. Pourquoi l’Europe a-t-elle choisi l’interdiction ?
Le considérant 44 du règlement sur l’IA expose trois motifs principaux qui justifient cette prohibition.
La fragilité scientifique
Le considérant 44 pointe des « préoccupations sérieuses concernant la base scientifique des systèmes d’IA visant à identifier ou inférer des émotions ». Les expressions émotionnelles varient considérablement d’une culture à l’autre, d’une situation à l’autre, et même chez un seul individu. Les systèmes actuels souffrent d’une fiabilité limitée, d’un manque de spécificité et d’une généralisabilité restreinte. Il n’existe pas d’études solides et évaluées par les pairs prouvant que l’analyse des expressions faciales ou de la posture corporelle permet de sélectionner de meilleurs employés ou étudiants.
Le déséquilibre de pouvoir
Le point central, souvent sous-estimé : les relations de travail et d’éducation sont caractérisées par un déséquilibre structurel de pouvoir. Un salarié ne peut pas librement refuser la surveillance émotionnelle de son employeur. Un élève ne peut pas quitter la salle de classe. Comme l’analyse le blog académique RAILS, l’interdiction ne repose pas uniquement sur les limitations techniques actuelles mais sur le fait que « transformer les émotions en signaux de gouvernance renforce l’asymétrie et permet une surveillance invisible et difficilement contestable ».
Le risque de discrimination
Des systèmes entraînés principalement sur des données occidentales risquent de produire des résultats biaisés pour des populations issues d’autres cultures. Le considérant 44 avertit que ces technologies « peuvent conduire à des résultats discriminatoires et être intrusives pour les droits et libertés des personnes concernées ».
4. Lieu de travail et établissement d’enseignement : une interprétation large
Les lignes directrices de la Commission européenne sur les pratiques interdites (Communication C(2025) 884 final, 4 février 2025) interprètent ces deux notions de manière extensive.
Lieu de travail
Le « lieu de travail » ne se limite pas aux locaux physiques de l’entreprise. Il couvre aussi les environnements de travail virtuels (télétravail, visioconférence) et s’étend à l’ensemble de la relation de travail, du recrutement au licenciement. Un système d’Emotion AI utilisé lors d’un entretien vidéo d’embauche tombe donc sous le coup de l’interdiction.
Établissement d’enseignement
La notion englobe les écoles, universités, centres de formation, et s’étend aussi bien aux élèves/étudiants qu’aux enseignants dans leur environnement professionnel. Comme le détaille la plateforme EPALE de la Commission européenne, il est interdit d’utiliser l’IA pour évaluer l’attention ou la motivation des élèves via la reconnaissance d’émotions, ou pour surveiller les émotions des enseignants.
| Contexte | Interdit ? | Fondement |
|---|---|---|
| Analyse des émotions d'un salarié en réunion | ⛔ Oui | Art. 5(1)(f) |
| Surveillance émotionnelle d'un candidat en entretien vidéo | ⛔ Oui | Art. 5(1)(f) — le recrutement fait partie de la relation de travail |
| Analyse de l'attention des étudiants par webcam | ⛔ Oui | Art. 5(1)(f) |
| Reconnaissance des émotions des enseignants en classe | ⛔ Oui | Art. 5(1)(f) — le lieu de travail de l'enseignant |
| Analyse émotionnelle de clients lors d'appels au service client | ✅ Non interdit | Hors champ de l'art. 5(1)(f) mais obligations de transparence |
| Publicité ciblée basée sur l'émotion des passants | ✅ Non interdit | Hors champ de l'art. 5(1)(f) |
| Détection de fatigue d'un conducteur routier | ✅ Non interdit | Exception sécurité + état physique (pas une émotion) |
5. Les deux exceptions : raisons médicales et raisons de sécurité
L’article 5(1)(f) prévoit deux exceptions à l’interdiction : l’usage pour raisons médicales et l’usage pour raisons de sécurité.
L’exception médicale
Comme l’analyse le cabinet Delsol Avocats, la reconnaissance des émotions peut être déployée pour aider des employés ou des étudiants atteints d’autisme, ou pour améliorer l’accessibilité pour les personnes aveugles ou sourdes. Les robots d’assistance aux soins utilisant un système de reconnaissance des émotions lors d’un examen médical entrent dans cette exception. Les lignes directrices précisent que les dispositifs médicaux marqués CE sont couverts par cette exception.
L’exception sécurité
La notion de sécurité est interprétée strictement par les lignes directrices : elle se limite à la protection de la vie et de la santé des personnes, et non à la protection des biens ou de la propriété. La détection de la fatigue d’un pilote d’avion ou d’un conducteur routier est un cas d’usage autorisé — mais il faut ici noter que la fatigue est un état physique, pas une émotion au sens du règlement (considérant 18), ce qui constitue un fondement supplémentaire.
6. Les failles et zones grises du texte
L’AI Act souffre de plusieurs incohérences terminologiques qui créent des zones grises préoccupantes, comme le révèle une analyse approfondie d’EUobserver publiée en novembre 2025.
La confusion entre « identifier », « détecter » et « inférer »
L’article 3(39) définit le système de reconnaissance des émotions comme un système qui « identifie ou infère » des émotions. L’article 5(1)(f) n’interdit que les systèmes qui « infèrent » des émotions. Le considérant 44 parle de « détecter » des états émotionnels. Les lignes directrices de la Commission tentent de réconcilier ces termes en affirmant que détection, reconnaissance et inférence font partie d’un même processus. Mais cette incohérence terminologique, analysée en détail par le cabinet Bird & Bird, pourrait être exploitée par des fournisseurs affirmant que leur système ne fait que « détecter » ou « identifier » sans « inférer ».
L’exclusion de l’analyse textuelle
Les lignes directrices de la Commission précisent que l’interdiction ne couvre que les systèmes basés sur des données biométriques. L’analyse de sentiments par le texte (sentiment analysis) — très répandue dans les chatbots, applications de santé mentale et outils de service client — échappe donc à l’article 5(1)(f). C’est une lacune majeure quand on sait que des chatbots IA sont de plus en plus utilisés comme compagnons émotionnels, avec des conséquences documentées sur la santé mentale.
Les zones géographiques non couvertes
L’interdiction ne vise que le lieu de travail et l’éducation. Les forces de l’ordre, le contrôle aux frontières, les services publics et les espaces commerciaux restent en dehors du champ de l’interdiction. Le blog académique CiTiP de la KU Leuven dénonce un cadre réglementaire « confus » qui laisse de vastes angles morts.
7. Le cas emblématique de HireVue : ce qui a précipité l’interdiction
L’affaire HireVue illustre parfaitement les dangers de l’Emotion AI en contexte professionnel. Cette entreprise américaine proposait un logiciel d’entretiens vidéo automatisés qui analysait les expressions faciales, le ton de la voix et le choix des mots des candidats pour générer un « score d’employabilité ». Parmi ses clients : Unilever, Hilton, Delta Airlines, Oracle.
En 2019, l’Electronic Privacy Information Center (EPIC) a déposé une plainte auprès de la Federal Trade Commission américaine. En 2021, HireVue a abandonné l’analyse faciale de son produit — reconnaissant implicitement que cette composante n’apportait que 0,25 % de valeur prédictive supplémentaire. En 2022, une class action a été déposée en Illinois (Deyerler v. HireVue) pour violation du Biometric Information Privacy Act (BIPA). En février 2024, le tribunal fédéral a en grande partie rejeté la motion de HireVue pour classer l’affaire, laissant les poursuites se poursuivre.
8. Emotion AI et RGPD : une double contrainte
L’interdiction de l’AI Act vient s’ajouter aux obligations préexistantes du RGPD. Elle ne les remplace pas. Les données biométriques traitées par les systèmes de reconnaissance des émotions constituent des données sensibles au sens de l’article 9 du RGPD, dont le traitement est en principe interdit sauf exceptions limitées.
| Texte | Obligation | Sanction maximale |
|---|---|---|
| AI Act, art. 5(1)(f) | Interdiction de l'inférence d'émotions au travail et en éducation | Jusqu'à 35 M€ ou 7 % du CA mondial |
| RGPD, art. 9 | Interdiction de traitement des données biométriques sauf exceptions | Jusqu'à 20 M€ ou 4 % du CA mondial |
| RGPD, art. 35 | Analyse d'impact sur la protection des données (DPIA) obligatoire | Jusqu'à 10 M€ ou 2 % du CA mondial |
| Code du travail français | Information/consultation du CSE avant tout dispositif de contrôle | Délit d'entrave |
La CNIL a un rôle central dans cette articulation. En tant qu’autorité compétente pour la protection des données, elle sera probablement amenée à se prononcer sur les cas limites où un système traite des données biométriques sans être formellement qualifié de système de reconnaissance des émotions.
9. Calendrier d’application et sanctions
Les sanctions liées aux pratiques interdites de l’AI Act sont parmi les plus lourdes du droit européen du numérique — au même niveau que le RGPD.
| Date | Événement |
|---|---|
| 12 juillet 2024 | Publication du règlement au Journal officiel de l'UE |
| 1er août 2024 | Entrée en vigueur du règlement |
| 2 février 2025 | Application des interdictions de l'article 5 (dont la reconnaissance des émotions) |
| 2 août 2025 | Application des dispositions sur la gouvernance et les sanctions |
| 2 août 2026 | Application des règles sur les systèmes d'IA à haut risque (dont les systèmes de reconnaissance des émotions hors travail/éducation, classés en annexe III) |
L’article 99 du règlement fixe les plafonds de sanctions pour les pratiques interdites : jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu. Pour les PME et startups, c’est le montant le plus faible entre le pourcentage et le montant fixe qui s’applique — une concession importante.
10. Hors du travail et de l’école : le régime à haut risque
L’Emotion AI n’est pas interdite partout. En dehors du lieu de travail et de l’éducation, les systèmes de reconnaissance des émotions sont classés à haut risque dans l’annexe III, point 1(c) du règlement. Ce régime entrera pleinement en application le 2 août 2026.
Les obligations incluent notamment un système de gestion des risques (article 9), des exigences de qualité des données (article 10), une documentation technique complète (article 11), la traçabilité (article 12), la transparence envers les utilisateurs (article 13) et un contrôle humain (article 14).
L’article 50(3) du règlement impose en plus une obligation de transparence spécifique : les déployeurs de systèmes de reconnaissance des émotions doivent informer les personnes exposées du fonctionnement de ces systèmes. Le considérant 63 précise que la classification à haut risque ne légalise pas en soi l’usage de ces systèmes — ils doivent toujours respecter le RGPD et la Charte des droits fondamentaux de l’UE.
11. Comment se préparer : 8 recommandations concrètes
Pour les entreprises françaises, voici les actions prioritaires :
1. Inventorier vos outils. Identifiez tous les logiciels ou services tiers qui pourraient analyser des données biométriques de vos salariés ou étudiants : outils de visioconférence avec analyse des réactions, logiciels de recrutement vidéo, plateformes de formation avec suivi de l’engagement, outils de monitoring des centres d’appels.
2. Distinguer surveillance des employés et des clients. Si votre outil de centre d’appels analyse les émotions des clients, il n’est pas interdit au titre de l’article 5(1)(f). Mais s’il analyse aussi les émotions des agents, il l’est. Les lignes directrices reconnaissent que cette frontière peut être floue.
3. Vérifier les exceptions. Si vous utilisez un système de détection de fatigue pour des raisons de sécurité (conducteurs, opérateurs de machines), assurez-vous que le système détecte bien un état physique et non une émotion. La distinction est fine mais juridiquement déterminante.
4. Auditer vos fournisseurs. Demandez à vos prestataires SaaS une déclaration de conformité à l’AI Act. Vérifiez si leurs outils intègrent des fonctionnalités de reconnaissance d’émotions, même indirectement.
5. Consulter le CSE. En droit français, l’introduction de tout dispositif de contrôle des salariés nécessite l’information et la consultation du comité social et économique. Anticipez cette étape pour tout outil IA lié aux conditions de travail.
6. Réaliser une DPIA. Si vous traitez des données biométriques dans un contexte non interdit (hors travail et éducation), une analyse d’impact sur la protection des données au titre de l’article 35 du RGPD est quasi systématiquement requise.
7. Former vos équipes. L’article 4 du règlement impose une obligation de « culture IA » (AI literacy) : les personnes qui utilisent ou supervisent des systèmes d’IA doivent disposer d’un niveau de connaissances suffisant.
8. Suivre les évolutions. Les publications de la CNIL et de la Commission européenne sont vos meilleures sources pour suivre la mise en œuvre du règlement.
- ✅ L'article 5(1)(f) de l'AI Act interdit l'utilisation de systèmes d'IA pour inférer les émotions au travail et dans l'éducation, sauf pour raisons médicales ou de sécurité — et ce depuis le 2 février 2025.
- ✅ L'interdiction repose sur trois piliers : fragilité scientifique de ces technologies, déséquilibre de pouvoir inhérent aux relations de travail et d'éducation, et risques de discrimination.
- ✅ Les sanctions sont dissuasives : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial.
- ✅ Les lignes directrices de la Commission (février 2025) étendent la portée du texte avec une interprétation large du lieu de travail (incluant le recrutement et le télétravail) mais créent aussi une exception pour la formation non contraignante — juridiquement fragile.
- ✅ Le texte comporte des failles importantes : exclusion de l'analyse textuelle, incohérences terminologiques, et angles morts géographiques (forces de l'ordre, services publics, espaces commerciaux).
- ✅ Les entreprises françaises doivent agir maintenant : inventorier leurs outils, auditer leurs fournisseurs, et anticiper la double contrainte AI Act + RGPD.
Sources principales
- Article 5 du règlement européen sur l’IA (2024/1689) — Pratiques interdites
- Considérant 44 du règlement sur l’IA — Base scientifique de la reconnaissance des émotions
- Article 3(39) et Article 99 du règlement sur l’IA
- Lignes directrices de la Commission européenne sur les pratiques interdites (février 2025)
- Squire Patton Boggs — Lignes directrices sur les pratiques interdites en matière d’IA
- Morrison Foerster — Spotlight on Emotion AI in the Workplace
- Bird & Bird — What is an Emotion Recognition System under the AI Act?
- Wolters Kluwer — The Prohibition of AI Emotion Recognition Technologies in the Workplace
- EUobserver — Major Loopholes on Emotion Recognition in the AI Act
- RAILS Blog — Teaching Without Emotions
- CiTiP Blog (KU Leuven) — Emotion Recognition or Unrecognizable Law?
- EPALE — Lignes directrices sur les pratiques interdites dans l’éducation
- GM Insights — Emotion AI Market Size Report
- Delsol Avocats — Les nouvelles directives sur les pratiques interdites