Une classification des risques en quatre niveaux

L'AI Act classe les systèmes d'IA en quatre niveaux de risque :

·       Risque minimal : comme les filtres anti-spam, exemptés de toute régulation.

·       Risque limité : les chatbots de service client, soumis à une réglementation légère.

·       Risque élevé : les systèmes d'IA dans le domaine médical ou de la finance, fortement encadrés.

·       Risque inacceptable : des cas d'utilisation strictement interdits.

Quels usages sont bannis ?

Parmi les applications interdites figurent :

·       L'IA utilisée pour le social scoring, à l'image du système chinois.

·       L'IA manipulant les décisions humaines de manière subliminale ou trompeuse.

·       L'IA exploitant des vulnérabilités comme l'âge ou le statut socio-économique.

·       La prédiction criminelle basée sur l'apparence d'une personne.

·       La reconnaissance émotionnelle au travail ou à l'école.

·       La création ou l'expansion de bases de données faciales via le scraping en ligne.

Les entreprises qui enfreindraient ces règles encourent des amendes allant jusqu'à 35 millions d'euros ou 7 % de leur chiffre d'affaires annuel.

Quels impacts pour les entreprises du digital ?

Si certains acteurs du secteur ont anticipé cette réglementation en signant le "Pacte AI" en septembre dernier (Amazon, Google, OpenAI), d'autres comme Meta, Apple ou la startup française Mistral ont choisi de ne pas y adhérer. Toutefois, toutes les entreprises devront se conformer aux interdictions, sous peine de sanctions.

Au-delà de la mise en conformité, cette nouvelle réglementation soulève plusieurs enjeux :

·       Complexité de l'application : le croisement avec d'autres réglementations (RGPD, DORA, NIS2) pose des défis en termes de notification d'incidents.

·       Innovation et compétitivité : les startups européennes pourraient être freinées par des obligations lourdes, alors que des entreprises hors UE pourraient contourner certaines règles.

·       Exemptions pour la sécurité publique : certains usages interdits pourront être autorisés sous conditions pour la lutte contre le crime ou les recherches de personnes disparues.

Vers une gouvernance mondiale de l'IA ?

L'AI Act préfigure un cadre réglementaire qui pourrait inspirer d'autres régions du monde. La question reste ouverte quant à son adaptabilité face à l'évolution rapide des technologies d'IA et à la capacité de l'UE à imposer ses standards au niveau international.

Alors que les prochaines échéances de conformité arrivent en août, l'industrie du digital devra rapidement s'adapter pour allier innovation et respect des nouvelles contraintes réglementaires.