L’intelligence artificielle (IA) se développe continuellement et trouve sa place dans notre monde. Ainsi, la Commission Européenne travaille sur un futur règlement pour encadre l’intelligence artificielle. En effet, le futur règlement de la Commission européenne sur l’IA commence à voir le jour.
Le 21 avril 2021, la Commission européenne a dévoilé sa première proposition de règlement sur l’usage de l’intelligence artificielle. Le règlement ne se concrétisera dans le droit que d’ici deux ans, suite à la durée classique de la procédure législative.
Le futur règlement de la Commission européenne sur l’IA
Le projet de règlement de la Commission européenne propose un classement des usages de l’IA en fonction des risques. La Commission distingue 4 usages comme les dispositifs médicaux :
- 1 : L’usage qui ne pose pas de problème
- 2: L’usage avec un risque acceptable
- 3: L’usage avec un risque élevé (applications RH, attribution de crédits, médecine, justice, …)
- 4: L’usage avec un risque inacceptable
Le règlement considère que l’IA qui a un usage qui ne pose pas de problème aura besoin de peu de règlementation. En revanche, il y aura une interdiction concernant l’IA ayant un usage avec un risque inacceptable (scoring social, reconnaissance biométrique dans l’espace public, …). Un ensemble d’obligations encadrera l’intelligence artificielle avec un risque acceptable et élevé pour assurer sa bonne éthique, sa robustesse, ou encore de la qualité des données d’entrainement.
Les avis des Commissions et Comités
Dans leur avis du 18 juin, le Comité européen de la protection des données (CEPD) et le Contrôleur européen de la protection des données indiquent la nécessité d’élargir le champ des systèmes d’intelligence artificielle interdits et de clarifier leur définition. En effet, les garde-fous envisagés dans la proposition de règlement n’étant pas considérés satisfaisants. L’avis recommande une interdiction des systèmes biométriques utilisés aux fins de classer les individus dans des groupes basés sur l’ethnicité supposée, le sexe, … En effet, l’article 21 de la Charte des droits fondamentaux de l’Union Européenne interdit la discrimination. Dans l’avis, on retrouve aussi que l’utilisation des systèmes d’IA pour déduire les émotions d’une personne physique est considérée comme hautement indésirable. Par conséquent, cette utilisation devrait être soumise à une interdiction de principe.
La Commission Nationale de l’Informatique et des Libertés (CNIL) considère qu’une clarification du cadre est au bénéfice des citoyens, en précisant ce qui est permis et ce qui est interdit. Cette clarification sera aussi au bénéfice des professionnels. En effet, ces derniers pourront savoir si les produits sont autorisés ou non. Ainsi, il n’y aurait pas de divergences d’interprétation selon les secteurs ou les Etats membres.
Le projet de règlement prévoit des « Sandboxes ». L’idée est de permettre aux entreprises de mettre au point leurs projets d’intelligence artificielle dans un « bac à sable ». Cela permet aux entreprises d’arriver à la conformité, avec l’aide d’un régulateur.
Le règlement vise l’intelligence artificielle globalement. En effet, il vise l’intelligence artificielle dite « pure ». En d’autres termes, on retrouve les algorithmes, logiciels à base d’intelligence artificielle, ainsi que l’intelligence artificielle embarquée dans des objets,… Il concernera aussi les développeurs et les revendeurs.
Le futur règlement de la Commission européenne sur l’IA : la confiance objectif principal
« Avec ces règles qui feront date, l’Union Européenne prend l’initiative d’élaborer de nouvelles normes mondiales qui garantiront que l’intelligence artificielle soit digne de confiance […] En matière d’intelligence artificielle, la confiance n’est pas un luxe, mais une nécessité absolue » explique Margrethe Vestager, vice-présidente de la Commission européenne.
La confiance auprès des utilisateur est le but premier du règlement. Ainsi, l’IA gagnera l’adhésion des citoyens et pourra favoriser son essor. Le règlement complète les « Guidelines for a Trustworthy Al ». Exactement, les Guidelines visent à encadrer les processus et les bonnes pratiques autour de l’intelligence artificielle.
Le défi de l’articulation avec le Règlement Général sur la Protection des Données (RGPD)
L’approche par rapport aux risques doit permettre de ne focaliser l’effort de régulation que sur un volume limité de systèmes d’intelligence artificielle dit à « haut risque » pour les droits fondamentaux.
Les données personnelles seront exploiter par ces systèmes, comme le révèle la CNIL et ses homologues. Ceci implique un enjeu d’articulation du règlement sur l’intelligence artificielle avec le RGPD et la directive « Police-Justice ». Les autorités de protection des données européennes ont indiqué que la classification d’un système d’intelligence artificielle comme à « haut risque » ne signifiait pas que son utilisation était autorisée et pouvait être déployé dans tous les cas. En effet, le respect des obligations légales du droit de l’Union Européenne doit être une condition préalable à l’entrée sur le marché européen en tant que produit portant le marquage CE.
L’importance d’une gouvernance harmonisée
Dans leur avis, la CNIL demande que la gouvernance du « Comité européen de l’intelligence artificielle » (CEIA) soit précisée. Ainsi, cela garantirait son indépendance mais également pour renforcer ses pouvoirs et lui permettre ainsi d’exercer un véritable contrôle, notamment lors de la mise en œuvre de système d’intelligence artificielle à l’échelle européenne.
La CNIL considère aussi que les autorités de protection des données devraient être désignées comme autorités de contrôle national de l’intelligence artificielle. En effet, cela permettrait une bonne application du futur règlement. De plus, cela réaliserait la constitution d’un écosystème européen de l’intelligence artificielle favorable à l’innovation.
Le projet de règlement sur l’intelligence artificielle doit encore évoluer pour encadrer le plus largement possible ce domaine.
Article rédigé par Julie AYEL.