Quelles sont les principales interdictions imposées par l’UE aux systèmes d’IA jugés à « risque inacceptable » ?

L’Union européenne renforce son cadre légal sur l’intelligence artificielle (IA) en interdisant dès le 2 février 2024 les systèmes jugés à risque inacceptable.

Cette interdiction fait partie du règlement sur l’IA (AI Act), une initiative historique visant à encadrer les usages de l’intelligence artificielle et à protéger les citoyens européens des dangers potentiels liés à ces technologies.

Lire aussi :

1. Comment Apple parvient-il à maintenir une forte croissance de ses services malgré la baisse des ventes d’iPhone ?
2. Gemini 2.0 Pro Experimental marquera-t-il un tournant décisif pour Google face à la montée de la concurrence chinoise et des autres leaders du secteur ?

Une classification des risques bien définie

L’AI Act distingue quatre niveaux de risques pour les systèmes d’IA :

• Risque minimal : des technologies comme les filtres anti-spam, qui ne présentent pas de menace pour les individus.
• Risque limité : des chatbots ou systèmes d’assistance clientèle, soumis à une réglementation légère.
• Risque élevé : des systèmes utilisés dans le domaine médical ou de la justice, qui font l’objet d’une surveillance renforcée.
• Risque inacceptable : des applications interdites car elles présentent un danger pour les droits fondamentaux des citoyens.

Comment Apple parvient-il à maintenir une forte croissance de ses services malgré la baisse des ventes d’iPhone ?

Quels systèmes sont interdits ?

Les systèmes d’IA jugés à “risque inacceptable” incluent plusieurs technologies controversées, telles que :

• Le scoring social : une notation des individus basée sur leur comportement, similaire au système chinois.
• La manipulation cognitive : des IA conçues pour influencer les décisions des utilisateurs de manière trompeuse.
• La prédiction de comportements criminels : l’utilisation d’algorithmes pour anticiper des crimes en se basant sur l’apparence ou des données personnelles.
• La reconnaissance biométrique en temps réel : des systèmes capables d’identifier des individus dans les lieux publics sans consentement.

Toute entreprise utilisant ces technologies sera passible d’amendes pouvant aller jusqu’à 35 millions d’euros ou 7 % de son chiffre d’affaires annuel.

Des exceptions et des interrogations

Certaines exceptions existent pour les forces de l’ordre, qui peuvent utiliser la reconnaissance biométrique dans des cas limités, comme la recherche de personnes disparues. Cependant, l’application de ces exceptions soulève des débats, notamment sur leur impact sur la vie privée.

Les grandes entreprises technologiques, comme Google, Amazon et OpenAI, ont déjà commencé à adapter leurs pratiques pour se conformer aux nouvelles règles. Cependant, certaines entreprises, dont Meta et Apple, n’ont pas signé le pacte volontaire de conformité proposé par l’UE, soulevant des questions sur leur engagement.

Comment la décision de renommer le Golfe du Mexique en Golfe d’Amérique pourrait-elle affecter les relations entre les États-Unis et le Mexique ?

Une étape clé pour l’avenir de l’IA en Europe

L’interdiction des systèmes d’IA à risque inacceptable marque une étape déterminante dans la réglementation de l’intelligence artificielle en Europe. L’objectif de l’UE est clair : favoriser une IA éthique et respectueuse des droits humains, tout en encourageant l’innovation. Les mois à venir seront cruciaux pour observer comment ces régulations seront appliquées et comment elles influenceront le développement de l’IA à l’échelle mondiale.