Europe - L'Europe dit stop aux dérives de l'IA

Une première mondiale. L’Union européenne a adopté l’année dernière un règlement sur l’intelligence artificielle (IA). Une bonne nouvelle pour les 62% de Français qui considèrent que l’IA générative constitue un risque important pour la sécurité des données*. Cette législation pionnière entre en partie en vigueur ce dimanche 2 février. Manipulation comportementale, vidéos deepfake, notation sociale… Le Centre Européen des Consommateurs France vous explique quelles pratiques sont désormais interdites en Europe.

AI Act : de quoi parle-t-on ?

Depuis 2018, les consommateurs européens bénéficient d’une meilleure protection de leur vie privée en ligne grâce au règlement général sur la protection des données. Mais en sept ans, le monde a changé, et surtout l’IA s’est emparée de la collecte, du traitement et de l’analyse des données personnelles. Vos recherches sur Internet et vos habitudes d’achat peuvent désormais être analysées en temps réel, souvent à votre insu.

Face à ce nouveau défi, l’Union européenne a voulu agir. Encadrer le développement de l’IA pour éviter les abus tout en favorisant l’innovation technologique. Il en résulte une législation inédite, adoptée en 2024, et qui s’appliquera progressivement mais directement dans tous les pays membres de l’UE d’ici 2026. Le règlement européen sur l'intelligence artificielle, dit AI Act, vise toutes les entreprises, en Europe comme ailleurs, qui vendent, utilisent et déploient des systèmes d’IA au sein de l’UE. Il protège donc tout consommateur vivant sur le sol européen.

Des pratiques controversées interdites dès le 2 février

Imaginez que vous souhaitiez louer un appartement à Rome pour les vacances. La plateforme de location sur laquelle vous réservez utilise un algorithme qui analyse votre activité sur les réseaux sociaux. Sur la base de ses résultats, l’algorithme peut vous juger « peu fiable » par exemple si votre historique suggère que vous êtes susceptible d’organiser des fêtes dans ce logement. La plateforme vous refuse alors la réservation et l’accorde à une autre personne jugée plus sérieuse.

A compter du 2 février, cette pratique de « notation sociale » sera interdite. Les consommateurs ne peuvent pas être évalués sur la base de leur comportement pour l’attribution d’avantages ou de restrictions.

D’autres pratiques considérées inacceptables au regard des droits fondamentaux seront également proscrites. C’est le cas des systèmes d’IA qui ciblent intentionnellement des personnes vulnérables pour en tirer profit. La législation vise par exemple les applications qui exploitent la naïveté des enfants pour les inciter à faire des achats en ligne, mais aussi les techniques manipulatrices qui influencent les choix des consommateurs. A travers des vidéos truquées réalisées par l’IA, des professionnels malhonnêtes les poussent par exemple vers des placements financiers risqués.

Prochaines étapes

A compter du 2 août 2026, le règlement européen prévoit de réguler tout système d’IA présentant des risques, que ces derniers soient minimes ou élevés. Tout contenu vidéo, audio, d’image ou de texte ayant été généré ou manipulé par une IA devra aussi être identifiable comme tel.  Cette obligation de transparence pourra par exemple être matérialisée par un filigrane apposé sur une vidéo indiquant un potentiel trucage.

Toute entreprise refusant de se soumettre aux nouvelles règles encourra des sanctions allant jusqu’à 35 millions d’euros ou 7% de son chiffre d’affaires.

Retrouvez plus d’informations sur les droits des consommateurs européens sur notre site Internet : www.europe-consommateurs.eu