{"id":3724,"date":"2024-12-20T15:53:26","date_gmt":"2024-12-20T14:53:26","guid":{"rendered":"https:\/\/confluencedesdroits-larevue.com\/?p=3724"},"modified":"2025-04-10T10:41:39","modified_gmt":"2025-04-10T08:41:39","slug":"kelly-xintara-le-droit-de-contester-une-decision-emise-par-un-systeme-dintelligence-artificielle-ia-portee-et-perspectives","status":"publish","type":"post","link":"https:\/\/confluencedesdroits-larevue.com\/?p=3724","title":{"rendered":"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives"},"content":{"rendered":"\n
\n
\"\"<\/figure>
\n

Kelly Xintara
Conseill\u00e8re juridique \u00e0 la Chambre de Commerce de Luxembourg,
anciennement r\u00e9f\u00e9rendaire \u00e0 la Cour de Justice de l\u2019Union europ\u00e9enne<\/em><\/p>\n<\/div><\/div>\n\n\n\n

<\/div>\n\n\n\n

R\u00e9sum\u00e9 :<\/strong> L\u2019objet du pr\u00e9sent article est, dans un premier temps, d\u2019explorer les fondements juridiques actuels d\u2019un \u00ab droit de contestation \u00bb d\u2019une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019intelligence artificielle (IA) et de d\u00e9terminer si ce cadre juridique existant offre la clart\u00e9 l\u00e9gale n\u00e9cessaire. Dans un second temps, les d\u00e9fis actuels li\u00e9s \u00e0 la mise en \u0153uvre d\u2019un \u00ab droit de contestation \u00bb de telles d\u00e9cisions, sont examin\u00e9s et des pistes pour surmonter les difficult\u00e9s pratiques sont explor\u00e9es<\/p>\n\n\n\n

<\/div>\n\n\n\n
Droit-contester-decision-emise-par-systeme-intelligence-artificielle-IA_K.-Xintara_12-24<\/a><\/a><\/div>\n\n\n\n
<\/div>\n<\/div><\/div>\n\n\n
AI Act<\/a>, <\/span>article 47 de la Charte<\/a>, <\/span>contestation<\/a>, <\/span>decision algorythmique<\/a>, <\/span>droit de recours<\/a>, <\/span>intelligence artificielle (AI)<\/a>, <\/span>RGPD<\/a><\/div>\n\n\n
<\/div>\n\n\n\n

Les opinions exprim\u00e9es dans cette publication sont strictement celles de l\u2019auteur.<\/em><\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00ab Alors que les syst\u00e8mes d\u2019IA deviennent de plus en plus r\u00e9pandus dans divers domaines, il est important de consid\u00e9rer l\u2019impact potentiel de leurs d\u00e9cisions sur les vies humaines et la soci\u00e9t\u00e9 dans son ensemble. Si, certes, les syst\u00e8mes d\u2019IA peuvent prendre des d\u00e9cisions bas\u00e9es sur des donn\u00e9es et des algorithmes sans pr\u00e9jug\u00e9s ni \u00e9motions, ils peuvent \u00e9galement commettre des erreurs, perp\u00e9tuer des pr\u00e9jug\u00e9s ou nuire \u00e0 certains groupes de personnes. Par cons\u00e9quent, avoir le droit de contester une d\u00e9cision prise par un syst\u00e8me d\u2019IA pourrait \u00eatre important pour garantir la responsabilit\u00e9 et la transparence\u00bb. Ceci constitue un extrait de la r\u00e9ponse donn\u00e9e par le ChatGPT, le puissant outil de \u00ab Open AI \u00bb, \u00e0 la question de savoir s\u2019il doit y avoir un droit de contester une d\u00e9cision \u00e9mise par une intelligence artificielle (IA).

Cet extrait, g\u00e9n\u00e9r\u00e9 automatiquement, d\u00e9montre que les syst\u00e8mes d\u2019IA sont capables de produire des r\u00e9sultats tout \u00e0 fait coh\u00e9rents et structur\u00e9s, faisant autorit\u00e9. Ils sont \u00e9galement capables de prendre des d\u00e9cisions individuelles qui influencent, pr\u00e9d\u00e9terminent et, dans certains cas, remplacent les d\u00e9cisions humaines au sein des organisations, affectant ainsi les personnes de mani\u00e8re non n\u00e9gligeable. Ces caract\u00e9ristiques des syst\u00e8mes d\u2019IA, combin\u00e9es avec une promesse de rapidit\u00e9 et d\u2019efficacit\u00e9, peuvent signifier qu\u2019ils seront utilis\u00e9s dans un champ \u00e9tendu de domaines tant dans la sph\u00e8re publique que dans la sph\u00e8re priv\u00e9e. Il est ainsi indispensable de r\u00e9fl\u00e9chir prudemment \u00e0 la fa\u00e7on dont lesdits syst\u00e8mes seront mis en \u0153uvre, en les accompagnant d\u2019une gouvernance appropri\u00e9e mais, surtout, sur la mani\u00e8re dont les personnes ayant fait l\u2019objet de telles d\u00e9cisions pourront les contester.

Si la question des garanties qui doivent \u00eatre mises en place pour le d\u00e9veloppement et le d\u00e9ploiement de tels syst\u00e8mes ont fait l\u2019objet de r\u00e9flexions approfondies qui se sont concr\u00e9tis\u00e9es par l\u2019adoption un texte l\u00e9gislatif europ\u00e9en1<\/sup><\/a>, la question des contours exacts de la possibilit\u00e9 de contestation par des personnes physiques du contenu g\u00e9n\u00e9r\u00e9 par de tels outils n\u2019est pas encore explor\u00e9e en d\u00e9tail. Il existe ainsi un vrai besoin d\u2019identifier les sources \u00e9ventuelles d\u2019un tel droit de contestation et de se pencher sur sa mise en \u0153uvre. \u00c0 la diff\u00e9rence des contestations \u00ab classiques \u00bb des d\u00e9cisions \u00e9mises par des humains, les contestations des d\u00e9cisions \u00e9mises \u00e0 l\u2019aide des syst\u00e8mes d\u2019intelligence artificielle, soul\u00e8vent plusieurs questionnements tant juridiques et \u00e9thiques (biais algorithmiques et discrimination, responsabilit\u00e9) que pratiques (effet de \u00ab bo\u00eete noire \u00bb2<\/sup><\/a>). L\u2019objet du pr\u00e9sent article est ainsi, dans un premier temps, d\u2019explorer les fondements juridiques actuels d\u2019un \u00ab droit de contestation \u00bb d\u2019une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA et de d\u00e9terminer si ce cadre juridique offre la clart\u00e9 l\u00e9gale n\u00e9cessaire3<\/sup><\/a> (I). Dans un second temps, nous examinerons les d\u00e9fis actuels li\u00e9s \u00e0 la mise en \u0153uvre d\u2019un \u00ab droit de contestation \u00bb, et seront pr\u00e9sent\u00e9es des pistes de solutions (II).<\/p>\n\n\n\n

I. Le droit de contester une d\u00e9cision adopt\u00e9e par un syst\u00e8me d\u2019IA : quel fondement juridique ?<\/h1>\n\n\n\n

Afin d\u2019explorer les contours d\u2019un droit de contestation d\u2019une d\u00e9cision algorithmique, il y a lieu de d\u00e9terminer ses fondements juridiques. Pour ce faire, il est important d\u2019\u00e9tudier l\u2019environnement normatif europ\u00e9en. Il convient \u00e0 cet \u00e9gard de noter que l\u2019Union Europ\u00e9enne se dote d\u00e9j\u00e0 d\u2019une strat\u00e9gie en mati\u00e8re d\u2019intelligence artificielle, concr\u00e9tis\u00e9e par un r\u00e8glement sur l\u2019IA4<\/sup><\/a>. L\u2019IA repose par ailleurs en grande partie sur des volumes de donn\u00e9es personnelles. \u00c0 cette fin, les usages de l\u2019IA peuvent d\u00e9clencher les dispositions du r\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es (RGPD)5<\/sup><\/a>. L\u2019articulation entre ce r\u00e8glement sur l\u2019IA et le RGPD est identifi\u00e9e par le l\u00e9gislateur europ\u00e9en, le premier indiquant que ses dispositions sont \u00ab sans pr\u00e9judice du droit de l\u2019Union en vigueur, en particulier en ce qui concerne la protection des donn\u00e9es6<\/sup><\/a> \u00bb. Outre ces deux actes l\u00e9gislatifs, des dispositions plus g\u00e9n\u00e9rales pourraient \u00e9galement \u00eatre applicables, comme les dispositions de la Charte des droits fondamentaux de l\u2019Union europ\u00e9enne (ci-apr\u00e8s, la \u00ab Charte \u00bb), pr\u00e9voyant le droit \u00e0 un recours effectif.<\/p>\n\n\n\n

A) Le r\u00e8glement europ\u00e9en sur la protection des donn\u00e9es<\/h2>\n\n\n\n

Applicable depuis le 25 mai 2018, le RGPD fait r\u00e9f\u00e9rence, dans son article 22, au droit d\u2019une personne de ne pas faire l\u2019objet d\u2019une d\u00e9cision \u00ab fond\u00e9e exclusivement sur un traitement automatis\u00e9 \u00bb et \u00ab produisant des effets juridiques la concernant ou l\u2019affectant de mani\u00e8re significative de fa\u00e7on similaire7<\/sup><\/a> \u00bb. Une telle prise de d\u00e9cision est toutefois possible notamment si elle est n\u00e9cessaire \u00e0 la conclusion ou \u00e0 l\u2019ex\u00e9cution d\u2019un contrat8<\/sup><\/a> ou si elle r\u00e9sulte d\u2019un consentement explicite de la personne concern\u00e9e. Dans le cadre de ces deux situations, la prise de d\u00e9cision automatis\u00e9e doit \u00eatre accompagn\u00e9e de la garantie que la personne concern\u00e9e puisse \u00ab exprimer son point de vue et contester \u00bb cette d\u00e9cision.

En effet, ainsi qu\u2019il ressort du libell\u00e9 de l\u2019article 22, paragraphe 2 du RGPD, cette possibilit\u00e9 d\u2019\u00ab exprimer son point de vue et contester \u00bb une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA est soumise \u00e0 trois conditions cumulatives. En premier lieu, il est n\u00e9cessaire qu\u2019un acte ayant la nature d\u2019une \u00ab d\u00e9cision \u00bb soit pris \u00e0 l\u2019\u00e9gard de la personne concern\u00e9e, En deuxi\u00e8me lieu, que, la d\u00e9cision en cause doit \u00eatre \u00ab fond\u00e9e exclusivement sur un traitement automatis\u00e9 \u00bb. En troisi\u00e8me lieu, elle doit produire des \u00ab effets juridiques concernant une personne physique ou l\u2019affectant de mani\u00e8re significative \u00bb. Au-del\u00e0 de ces trois conditions, l\u2019article 22 du RGPD est bien s\u00fbr uniquement d\u00e9clench\u00e9 quand le syst\u00e8me d\u2019IA en cause a trait\u00e9 des donn\u00e9es personnelles9<\/sup><\/a>.

S\u2019agissant de la deuxi\u00e8me condition, la port\u00e9e exacte de la notion d\u2019une d\u00e9cision fond\u00e9e \u00ab exclusivement \u00bb sur un traitement automatis\u00e9 n\u2019est pas d\u00e9taill\u00e9e dans le texte du RGPD. Il n\u2019est pas possible de d\u00e9terminer \u00e0 ce stade si cette condition vise un syst\u00e8me d\u2019IA sans aucune participation humaine ou bien si cette condition peut \u00eatre remplie m\u00eame en pr\u00e9sence d\u2019une participation humaine qui n\u2019\u00e9tait pas substantielle, en ce sens qu\u2019elle n\u2019a pas influenc\u00e9 la d\u00e9cision finale10<\/sup><\/a>. En effet, si cette disposition devait \u00eatre interpr\u00e9t\u00e9e dans le sens que toute implication humaine dans la prise de d\u00e9cision, m\u00eame marginale, exclut le caract\u00e8re \u00ab exclusivement automatis\u00e9 \u00bb d\u2019une d\u00e9cision fond\u00e9e sur un traitement automatis\u00e9, il serait possible d\u2019ais\u00e9ment contourner la protection offerte par l\u2019article 22, paragraphe 1 du RGDP11<\/sup><\/a>. Par ailleurs, une comparaison d\u2019un traitement \u00ab automatis\u00e9 \u00bb en ce sens avec un traitement effectu\u00e9 par un \u00ab syst\u00e8me d\u2019intelligence artificielle \u00bb, contenue \u00e0 l\u2019article 3 du r\u00e8glement sur l\u2019IA d\u00e9montre que la premi\u00e8re notion semble \u00eatre plus large, dans la mesure o\u00f9 elle n\u2019exige pas un degr\u00e9 d\u2019autonomie lors du traitement automatis\u00e9e, ni de capacit\u00e9 d\u2019adaptation apr\u00e8s son d\u00e9ploiement.

Afin de pouvoir exercer le droit de \u00ab contester \u00bb une d\u00e9cision automatis\u00e9e, cette d\u00e9cision doit, en plus produire des \u00ab effets juridiques \u00bb qui affectent une personne de \u00ab mani\u00e8re significative \u00bb ou de \u00ab fa\u00e7on similaire \u00bb (article 22, paragraphe 1, du RGPD). Encore une fois, le RGPD ne d\u00e9finit pas ces notions.

Il est ainsi possible de s\u2019interroger sur la question de savoir si cette disposition vise en substance un int\u00e9r\u00eat \u00e0 agir de la personne concern\u00e9e et dans quelle mesure les caract\u00e9ristiques d\u2019un tel int\u00e9r\u00eat co\u00efncident avec celles d\u2019un recours classique. La pr\u00e9cision \u00ab de mani\u00e8re significative \u00bb, employ\u00e9e par le l\u00e9gislateur europ\u00e9en, indique toutefois que seuls les effets ayant une incidence grave sont vis\u00e9s par cette disposition12<\/sup><\/a>.

Il y a lieu de noter que les contours de cette notion ont \u00e9t\u00e9 examin\u00e9s par la Cour de justice de l\u2019Union europ\u00e9enne (CJUE) dans son arr\u00eat SCHUFA<\/em>13<\/sup><\/a>.<\/em> Dans le cadre de cette affaire, la CJEU devrait r\u00e9pondre \u00e0 la question de savoir si la d\u00e9termination automatis\u00e9e d\u2019une probabilit\u00e9 sur la capacit\u00e9 d\u2019une personne \u00e0 honorer un pr\u00eat (\u00ab credit scoring<\/em> \u00bb) constitue une d\u00e9cision fond\u00e9e exclusivement sur un traitement automatis\u00e9 (profilage), conform\u00e9ment \u00e0 l\u2019article 22, paragraphe 1 du RGPD. Une soci\u00e9t\u00e9 priv\u00e9e a fourni \u00e0 ses clients des informations sur la solvabilit\u00e9 des personnes physiques sous forme des pronostics, sur la base de proc\u00e9dures math\u00e9matiques et statistiques14<\/sup><\/a>.

La CJUE a jug\u00e9 que le \u00ab credit scoring <\/em>\u00bb est une d\u00e9cision individuelle automatis\u00e9e produisant \u00e0 l\u2019\u00e9gard d\u2019une personne concern\u00e9e \u00ab des effets juridiques la concernant ou l\u2019affectant de mani\u00e8re significative de fa\u00e7on similaire \u00bb, en principe interdite par le RGPD, pour autant que les clients auxquels la soci\u00e9t\u00e9 en question communiquait la pr\u00e9vision, telles que des banques, lui accordent un r\u00f4le d\u00e9terminant dans l\u2019octroi de cr\u00e9dit15<\/sup><\/a>. Il semble ainsi que la CJEU souligne l\u2019importance de la mani\u00e8re dont la d\u00e9termination automatis\u00e9e d\u2019une probabilit\u00e9 sur la capacit\u00e9 d\u2019une personne \u00e0 honorer un pr\u00eat sera utilis\u00e9e par l\u2019institution concern\u00e9e, comme \u00e9tant un \u00e9l\u00e9ment clef pour d\u00e9clencher la protection offerte par l\u2019article 22, paragraphe 1 du RGDP.

Cet arr\u00eat donne, certes, certains \u00e9l\u00e9ments d\u2019interpr\u00e9tation utiles. Cela \u00e9tant, l\u2019approche propos\u00e9e est critiqu\u00e9e pour sa difficult\u00e9 d\u2019\u00eatre appliqu\u00e9e en pratique \u00e0 cause, notamment, du fait que la protection offerte par les articles 13 et 14 du RGPD, qui portent, en substance sur les informations \u00e0 fournir lorsque des donn\u00e9es \u00e0 caract\u00e8re personnel sont collect\u00e9es aupr\u00e8s de la personne concern\u00e9e devrait \u00eatre mise en \u0153uvre avant le traitement des donn\u00e9es par le syst\u00e8me d\u2019intelligence artificielle en cause. Ceci n\u00e9cessite de savoir \u00e0 l\u2019avance si un r\u00f4le d\u00e9terminant sera accord\u00e9 \u00e0 la d\u00e9cision g\u00e9n\u00e9r\u00e9e par le syst\u00e8me d\u2019intelligence artificielle.16<\/sup><\/a>

En tout \u00e9tat de cause, l\u2019application pratique de cette disposition ne sera jamais simple. Les contours de cette notion d\u2019\u00ab affectation significative \u00bb n\u00e9cessitent une \u00e9valuation individuelle et in concreto<\/em> des effets d\u2019une d\u00e9cision sur la personne concern\u00e9e. Outre le temps et les ressources qui devront \u00eatre consacr\u00e9es \u00e0 une telle analyse, il existe \u00e9galement un risque \u00e9lev\u00e9 de pratiques et d\u2019interpr\u00e9tations divergentes. Ceci est d\u2019autant plus probable, eu \u00e9gard au fait que le l\u00e9gislateur europ\u00e9en exige que l\u2019\u00e9metteur de la d\u00e9cision appr\u00e9cie ses effets \u00ab juridiques \u00bb.

Pour b\u00e9n\u00e9ficier de la possibilit\u00e9 offerte par l\u2019article 22, paragraphe 3 du RGPD (\u00ab contester la d\u00e9cision \u00bb), la personne concern\u00e9e doit, en dernier lieu, faire l\u2019objet d\u2019une d\u00e9cision qui implique le traitement de ses donn\u00e9es personnelles. Il est ainsi possible d\u2019observer qu\u2019une large partie des d\u00e9cisions individuelles prises via un syst\u00e8me d\u2019intelligence artificielle, telles que, par exemple, les d\u00e9cisions aff\u00e9rentes au recrutement ou \u00e0 l\u2019\u00e9valuation des personnes physiques, ou bien les d\u00e9cisions d\u00e9terminant l\u2019acc\u00e8s ou l\u2019affectation de personnes physiques aux \u00e9tablissements d\u2019enseignement et de formation professionnelle, impliquent un traitement des donn\u00e9es personnelles. Il n\u2019en reste pas moins qu\u2019un nombre de d\u00e9cisions automatis\u00e9es peuvent produire des \u00ab effets juridiques \u00bb qui affectent une personne de \u00ab mani\u00e8re significative \u00bb ou de \u00ab fa\u00e7on similaire \u00bb, sans impliquer un traitement de donn\u00e9es personnelles. Par exemple, l\u2019anonymisation ou pseudonymisation des donn\u00e9es peut emp\u00eacher l\u2019identification des personnes qui font l\u2019objet d\u2019une d\u00e9cision. Pour ce type de d\u00e9cisions, il existe actuellement une lacune juridique qui n\u2019est pas combl\u00e9e par les dispositions du r\u00e8glement sur l\u2019IA qui est adopt\u00e9 au niveau europ\u00e9en mais pas encore mis en \u0153uvre dans sa totalit\u00e9.

L\u2019article 22 du RGPD fait r\u00e9f\u00e9rence \u00e0 un droit de contester une d\u00e9cision algorithmique, sans pour autant pr\u00e9ciser les modalit\u00e9s exactes d\u2019une telle contestation. Ce qui est toutefois d\u2019une importance primordiale afin de pouvoir garantir l\u2019exercice d\u2019un tel droit est que la personne concern\u00e9e soit inform\u00e9e de la prise d\u2019une d\u00e9cision algorithmique. En application des articles 13 et 14 du RGPD, les responsables du traitement des donn\u00e9es personnelles doivent ainsi veiller \u00e0 expliquer clairement et simplement aux personnes concern\u00e9es l\u2019existence d\u2019un processus d\u00e9cisionnel automatis\u00e917<\/sup><\/a>. Une recommandation de bonne pratique contenue dans les lignes directrices relatives \u00e0 la prise de d\u00e9cision individuelle pour aider les responsables du traitement des donn\u00e9es \u00e0 satisfaire aux exigences de l\u2019article 22, lu en combinaison avec les articles 13 et 14 du RGPD, est de fournir un lien vers une proc\u00e9dure de recours au moment o\u00f9 la d\u00e9cision automatis\u00e9e est transmise \u00e0 la personne concern\u00e9e, avec des d\u00e9lais convenus pour l\u2019examen du dossier et un point de contact d\u00e9sign\u00e9 pour toute question18<\/sup><\/a>. En effet, un tel cadre clair permettrait aux personnes concern\u00e9es d\u2019exercer ce droit en toute confiance.

Ce qui est par ailleurs indispensable pour l\u2019exercice effectif d\u2019un droit de contestation est de fournir toutes les informations essentielles sur le fonctionnement du syst\u00e8me d\u2019IA \u00e0 la personne concern\u00e9e. En effet, en choisissant d\u2019employer le terme \u00ab contestation \u00bb le l\u00e9gislateur europ\u00e9en semble viser une demande motiv\u00e9e adress\u00e9e par la personne concern\u00e9e \u00e0 l\u2019organisme en cause de reconsid\u00e9rer sa d\u00e9cision, ce qui va au-del\u00e0 d\u2019une simple correction des donn\u00e9s sur la base desquelles la d\u00e9cision est prise. D\u00e9cid\u00e9ment, la possibilit\u00e9 d\u2019une contestation effective est conditionn\u00e9e \u00e0 la facult\u00e9 de la personne concern\u00e9e de comprendre la logique du syst\u00e8me d\u2019intelligence afin de pouvoir expliquer pourquoi ce syst\u00e8me a commis une erreur d\u2019appr\u00e9ciation. Si le RGDP ne contient pas de disposition pr\u00e9cisant le niveau d\u2019informations qui doivent \u00eatre communiqu\u00e9es \u00e0 la personne concern\u00e9e, l\u2019absence de communication des informations concr\u00e8tes et compr\u00e9hensibles sur l\u2019algorithme ainsi que sur la fa\u00e7on dont le syst\u00e8me a raisonn\u00e9 dans le cadre d\u2019un cas concret priverait l\u2019article 22, paragraphe 3 de son effet utile19<\/sup><\/a>. Par ailleurs, l\u2019exigence de la fourniture des informations compl\u00e8tes et compr\u00e9hensibles pourrait \u00eatre li\u00e9e au principe de transparence des syst\u00e8mes d\u2019intelligence artificielle \u00e9nonc\u00e9 dans le r\u00e8glement sur l\u2019intelligence artificielle20<\/sup><\/a>. Ce principe pourrait toutefois avoir une port\u00e9e plus limit\u00e9e que le principe d\u2019explicabilit\u00e9, souvent invoqu\u00e9 dans le cadre des d\u00e9cisions algorithmiques, en ce sens que seul ce dernier se r\u00e9f\u00e8re \u00e0 la capacit\u00e9 de mettre en relation et de rendre compr\u00e9hensible les \u00e9l\u00e9ments pris en compte par le syst\u00e8me d\u2019IA pour la production d\u2019un r\u00e9sultat21<\/sup><\/a>.<\/p>\n\n\n\n

B) Au-del\u00e0 du RGDP : le r\u00e8glement sur l\u2019IA et l\u2019article 47 de la Charte<\/h2>\n\n\n\n

Il d\u00e9coule ainsi de l\u2019analyse ci-dessus et concernant la port\u00e9e du droit de \u00ab contestation \u00bb, tel que pr\u00e9vu \u00e0 l\u2019article 22, paragraphe 3 du RGPD, qu\u2019il est possible d\u2019identifier des situations impliquant l\u2019usage de syst\u00e8mes d\u2019IA qui ne sont pas couvertes par cette disposition. Ce sont, d\u2019une part, les d\u00e9cisions algorithmiques qui sont rendues sans traitement de donn\u00e9es personnelles et, d\u2019autre part, les d\u00e9cisions algorithmiques qui ne sont pas fond\u00e9es \u00ab exclusivement \u00bb sur un traitement automatis\u00e922<\/sup><\/a>. Ainsi, il convient de s\u2019interroger sur la question de savoir si la personne ayant fait l\u2019objet d\u2019une d\u00e9cision automatis\u00e9e dispose de voies de recours juridictionnels dans ces situations sur la base des dispositions juridiques, autres que l\u2019article 22 du RGPD.

Le r\u00e9cent r\u00e8glement sur l\u2019IA a amen\u00e9 le l\u00e9gislateur europ\u00e9en \u00e0 r\u00e9fl\u00e9chir de mani\u00e8re approfondie sur l\u2019\u00e9quilibre \u00e0 respecter entre, d\u2019une part, les avantages \u00e9conomiques et soci\u00e9taux dont peuvent b\u00e9n\u00e9ficier les Europ\u00e9ens de cette technologie et, d\u2019autre part, le respect des valeurs de l\u2019Union et les droits fondamentaux qui peuvent \u00eatre menac\u00e9s du fait de l\u2019utilisation de cette technologie. Dans cette perspective, le l\u00e9gislateur europ\u00e9en a propos\u00e9 des r\u00e8gles harmonis\u00e9es pour le d\u00e9veloppement, la mise sur le march\u00e9 et l\u2019utilisation de syst\u00e8mes d\u2019IA dans l\u2019Union suivant une approche proportionn\u00e9e fond\u00e9e sur le risque – une approche qui adapte le choix des obligations impos\u00e9es en fonction du niveau de risque, selon la r\u00e8gle : \u00ab plus le risque est \u00e9lev\u00e9, plus les r\u00e8gles sont strictes \u00bb23<\/sup><\/a>. Cette m\u00e9thode d\u2019\u00e9valuation du risque permettrait, toujours selon le l\u00e9gislateur europ\u00e9en, de recenser les syst\u00e8mes d\u2019IA dits \u00ab \u00e0 haut risque \u00bb qui pr\u00e9sentent des risques importants pour la sant\u00e9, la s\u00e9curit\u00e9 ou les droits fondamentaux des personnes. Les syst\u00e8mes d\u2019IA en question devront ainsi satisfaire \u00e0 un ensemble d\u2019exigences obligatoires horizontales garantissant une IA digne de confiance et ils feront l\u2019objet de proc\u00e9dures d\u2019\u00e9valuation de la conformit\u00e9 avant de pouvoir \u00eatre mis sur le march\u00e9 de l\u2019Union

Il est explicitement indiqu\u00e9 dans le consid\u00e9rant 170 du r\u00e8glement sur l\u2019IA que \u00ab Le droit de l\u2019Union et le droit national pr\u00e9voient d\u00e9j\u00e0 des voies de recours effectives pour les personnes physiques et morales qui subissent une atteinte \u00e0 leurs droits et libert\u00e9s en raison de l\u2019utilisation de syst\u00e8mes d\u2019IA. \u00bb Dans ce contexte, il y a lieu de rappeler que l\u2019article 47 de la Charte \u00e9nonce, \u00e0 son premier alin\u00e9a, que toute personne dont les droits et les libert\u00e9s garantis par le droit de l\u2019Union ont \u00e9t\u00e9 viol\u00e9s a droit \u00e0 un recours effectif, dans les conditions pr\u00e9vues \u00e0 cet article24<\/sup><\/a>. \u00c0 ce droit correspond l\u2019obligation faite aux \u00c9tats membres, \u00e0 l\u2019article 19, paragraphe 1, second alin\u00e9a du Trait\u00e9 sur l\u2019Union europ\u00e9enne, d\u2019\u00e9tablir les voies de recours n\u00e9cessaires pour assurer une protection juridictionnelle effective dans les domaines couverts par le droit de l\u2019Union25<\/sup><\/a>. Par ailleurs, le contenu essentiel du droit \u00e0 un recours effectif inclut la possibilit\u00e9 d\u2019acc\u00e9der \u00e0 un tribunal comp\u00e9tent pour assurer le respect des droits que le droit de l\u2019Union garantit et pour examiner toutes les questions de droit et de fait pertinentes pour r\u00e9soudre le litige en cause26<\/sup><\/a>. Il est important de souligner que si les \u00c9tats Membres disposent d\u2019une autonomie proc\u00e9durale pour d\u00e9terminer les contours exacts des r\u00e8gles proc\u00e9durales nationales, le principe d\u2019effectivit\u00e9 implique que les modalit\u00e9s proc\u00e9durales ainsi d\u00e9finies par les \u00c9tats membres ne rendent pas \u00ab en pratique impossible ou excessivement difficile l\u2019exercice des droits conf\u00e9r\u00e9s par l\u2019ordre juridique de l\u2019Union \u00bb27<\/sup><\/a>. La reconnaissance de ce droit dans un cas d\u2019esp\u00e8ce donn\u00e9 suppose, ainsi qu\u2019il ressort de l\u2019article 47, premier alin\u00e9a, de la Charte, que la personne qui l\u2019invoque se pr\u00e9vale de droits ou de libert\u00e9s garantis par le droit de l\u2019Union.

La lecture du r\u00e8glement sur l\u2019IA r\u00e9v\u00e8le que les syst\u00e8mes d\u2019IA et notamment ceux class\u00e9s \u00ab \u00e0 haut risque \u00bb pr\u00e9sentent des risques importants pour plusieurs droits fondamentaux des personnes consacr\u00e9s dans la Charte28<\/sup><\/a>. En effet, ainsi qu\u2019il est soulign\u00e9 dans l\u2019expos\u00e9 de motifs de ce r\u00e8glement29<\/sup><\/a>, \u00ab l\u2019utilisation de l\u2019IA, compte tenu des caract\u00e9ristiques sp\u00e9cifiques de cette technologie (par exemple l\u2019opacit\u00e9, la complexit\u00e9, la d\u00e9pendance \u00e0 l\u2019\u00e9gard des donn\u00e9es, le comportement autonome), peut porter atteinte \u00e0 un certain nombre de droits fondamentaux consacr\u00e9s dans la charte des droits fondamentaux de l\u2019UE \u00bb. \u00c0 titre d\u2019illustration, un syst\u00e8me d\u2019IA destin\u00e9 \u00e0 \u00eatre utilis\u00e9 pour le recrutement de personnes physiques, en effectuant le filtrage des candidatures et en \u00e9valuant des candidats au cours d\u2019entretiens ou d\u2019\u00e9preuves, est susceptible de rendre des d\u00e9cisions erron\u00e9es ou biais\u00e9es qui peuvent violer le principe de non-discrimination (article 21) et d\u2019\u00e9galit\u00e9 entre les femmes et les hommes (article 23), ainsi que de l\u2019int\u00e9gration des personnes handicap\u00e9es (article 26).

Il est par cons\u00e9quent opportun de se pencher sur la question de la mesure dans laquelle, dans ces situations, et ind\u00e9pendamment de la question de savoir si l\u2019article 22 du RGPD est applicable, la personne concern\u00e9e peut acc\u00e9der \u00e0 un tribunal comp\u00e9tent pour assurer le respect des droits qu\u2019il estime viol\u00e9s en raison de l\u2019\u00e9mission d\u2019une d\u00e9cision par un syst\u00e8me d\u2019intelligence artificielle. Une r\u00e9ponse affirmative \u00e0 cette question signifierait que la personne concern\u00e9e devrait b\u00e9n\u00e9ficier de la protection pr\u00e9vue \u00e0 l\u2019article 47 de la Charte et notamment pouvoir \u00eatre \u00ab entendue \u00e9quitablement, publiquement et dans un d\u00e9lai raisonnable par un tribunal ind\u00e9pendant et impartial \u00bb.

Le d\u00e9clenchement de la protection offerte par l\u2019article 47 de la Charte aura d\u2019ailleurs une incidence sur l\u2019\u00e9tendue de la protection juridictionnelle offerte \u00e0 la personne qui estime que ses droits ont \u00e9t\u00e9 viol\u00e9s par une d\u00e9cision d\u2019un syst\u00e8me d\u2019IA. Par exemple, il serait peut-\u00eatre incompatible de pr\u00e9voir un traitement du recours juridictionnel contre une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA (exclusivement) par un syst\u00e8me algorithmique. En effet, il est difficile d\u2019imaginer comment un tel syst\u00e8me pourrait r\u00e9pondre aux exigences d\u2019un tribunal \u00ab impartial \u00bb, dans la mesure o\u00f9 l\u2019impartialit\u00e9 est traditionnellement per\u00e7ue comme \u00e9tant un trait humain. La r\u00e9ponse \u00e0 cette question est toutefois loin d\u2019\u00eatre \u00e9vidente puisque, certes, les syst\u00e8mes d\u2019IA fonctionnent sur la base des donn\u00e9es d\u2019entr\u00e9e et de la programmation de l\u2019algorithme sans aucune influence humaine. Cependant, ces syst\u00e8mes ne sont pas aussi impartiaux que les donn\u00e9es et les algorithmes utilis\u00e9s pour les cr\u00e9er.<\/p>\n\n\n\n

II. Les d\u00e9fis actuels de la mise en \u0153uvre du droit de contestation<\/h1>\n\n\n\n

L\u2019IA gagne en popularit\u00e9 dans presque tous les secteurs. Au cours de la derni\u00e8re ann\u00e9e, les fournisseurs se sont lanc\u00e9s dans une course pour d\u00e9velopper et d\u00e9ployer des syst\u00e8mes num\u00e9riques plus puissants. Des outils comme ChatGPT, dont l\u2019utilisation avait initialement fait l\u2019objet des nombreux d\u00e9bats sont utilis\u00e9s aujourd\u2019hui au quotidien par un grand nombre des personnes \u00e0 des fins tr\u00e8s vari\u00e9s. Comme nous avons t\u00e9moign\u00e9 pendant la proc\u00e9dure l\u00e9gislative pour l\u2019adoption du r\u00e8glement sur l\u2019IA, cette technologie est parfois capable d\u2019avancer beaucoup plus rapidement que le l\u00e9gislateur.

La mise en \u0153uvre de cette technologie nous am\u00e8nera ainsi \u00e0 r\u00e9fl\u00e9chir sur la question de savoir si les structures juridiques de notre soci\u00e9t\u00e9 sont suffisamment \u00e9quip\u00e9es pour faire face aux nouveaux d\u00e9fis soulev\u00e9s par celle-ci. Pour ce qui concerne, plus pr\u00e9cis\u00e9ment, le droit de contester les d\u00e9cisions \u00e9mises par des syst\u00e8mes d\u2019intelligence artificielle, en tant que garantie pour la protection des droits des personnes qui feront l\u2019objet de telles d\u00e9cisions, sa mise en \u0153uvre n\u00e9cessitera, fort probablement, des adaptations tant au niveau l\u00e9gislatif qu\u2019au niveau pratique.<\/p>\n\n\n\n

A) Clart\u00e9 et ad\u00e9quation du cadre juridique existant<\/h2>\n\n\n\n

Ainsi que relev\u00e9 ci-dessus, la seule disposition portant actuellement sur le droit de contester une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA est l\u2019article 22 du RGDP. Selon cette disposition, un droit de contestation est n\u00e9 uniquement si, d\u2019une part, il existe un traitement de donn\u00e9es personnelles et si, d\u2019autre part, les autres conditions impos\u00e9es par cette disposition sont respect\u00e9es. Outre le fait qu\u2019il est possible de s\u2019interroger sur la question de savoir si cette disposition offre la s\u00e9curit\u00e9 juridique n\u00e9cessaire quant \u00e0 l\u2019exercice d\u2019un tel droit, ladite disposition ne s\u2019applique pas \u00e0 la totalit\u00e9 des d\u00e9cisions \u00e9mises par des syst\u00e8mes d\u2019intelligence artificielle.

Pour ce qui concerne, en premier lieu, la s\u00e9curit\u00e9 juridique, il est possible d\u2019observer que l\u2019article 22 du RGPD pr\u00e9voit un droit de contestation sans toutefois pr\u00e9ciser ses contours exacts. Si, certes, le l\u00e9gislateur europ\u00e9en a probablement voulu laisser une certaine marge d\u2019appr\u00e9ciation aux \u00c9tats membres, sa formulation g\u00e9n\u00e9rale a donn\u00e9 lieu \u00e0 des mises en \u0153uvre divergentes. En effet, ainsi qu\u2019observ\u00e930<\/sup><\/a>, certains pays, comme le Royaume-Uni ont opt\u00e9 pour une approche plus \u00ab proc\u00e9durale \u00bb qui se concentre sur les modalit\u00e9s pratiques pour s\u2019assurer que la personne concern\u00e9e aura la possibilit\u00e9 r\u00e9elle d\u2019exercer son droit de contestation. D\u2019autres pays, comme la Hongrie, se sont focalis\u00e9s plut\u00f4t sur les aspects \u00ab substantiels \u00bb de ce droit, en pr\u00e9cisant par exemple que la d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA ne doit pas porter atteinte au principe de non-discrimination. Par ailleurs, cette disposition ne permet pas de d\u00e9terminer le niveau d\u2019informations que doit fournir l\u2019\u00e9metteur de la d\u00e9cision \u00e0 la personne concern\u00e9e, en vue de l\u2019exercice de son droit de contestation. Certes, le principe de transparence, qui semble trouver son expression au niveau de l\u2019article 13 f) du RGPD, pr\u00e9voit la mise \u00e0 disposition de la personne concern\u00e9e par le traitement automatis\u00e9 des informations utiles concernant sa logique sous-jacente. Ce qui constitue une \u00ab information utile \u00bb n\u2019est cependant pas d\u00e9fini, ce qui n\u2019est pas en soi \u00e9tonnant, vu l\u2019\u00e9l\u00e9ment de subjectivit\u00e9 qui caract\u00e9rise cette notion31<\/sup><\/a>. Cela \u00e9tant et eu \u00e9gard au large nombre d\u2019acteurs publics et priv\u00e9s qui seront oblig\u00e9s de respecter cette disposition, il serait particuli\u00e8rement utile d\u2019\u00e9laborer des instructions pratiques contenant des informations minimales sur ce qui est vis\u00e9 par cette disposition32<\/sup><\/a>. Il serait par ailleurs opportun de clarifier le niveau de technicit\u00e9 de ces informations pour \u00e9tablir si elles doivent \u00eatre compr\u00e9hensibles par un simple citoyen, sans devoir consulter un expert.

Il est n\u00e9cessaire, en second lieu, de se pencher sur la question de savoir si cette disposition encadre de mani\u00e8re suffisamment compl\u00e8te l\u2019exercice de ce droit, et ce, \u00e0 la lumi\u00e8re des \u00e9volutions l\u00e9gislatives qui ont \u00e9merg\u00e9 post\u00e9rieurement \u00e0 son adoption. L\u2019article 22 du RGDP a \u00e9t\u00e9 adopt\u00e9 plusieurs ann\u00e9es avant le r\u00e8glement sur l\u2019IA. La question qui se pose est ainsi de mesurer si les dispositions de ce dernier r\u00e8glement, et notamment la classification des syst\u00e8mes d\u2019intelligence artificielle, fond\u00e9e sur les risques pour les droits et la s\u00e9curit\u00e9 des personnes, impacteront les droits proc\u00e9duraux offerts aux parties qui ont fait l\u2019objet d\u2019une d\u00e9cision \u00e9mise par de tels syst\u00e8mes. Est-ce que, par exemple, le fait que les syst\u00e8mes dits \u00ab \u00e0 haut risque \u00bb pr\u00e9sentent des risques importants pour la sant\u00e9, la s\u00e9curit\u00e9 ou les droits fondamentaux des personnes, devrait signifier qu\u2019un droit de contestation soit toujours garanti ? Ou, au contraire, est-ce que ce droit devrait \u00eatre limit\u00e9 \u00e0 la question du respect par les fournisseurs et utilisateurs de ces syst\u00e8mes des exigences strictes impos\u00e9es avant et apr\u00e8s leur mise sur le march\u00e9 ? Il y a lieu de noter \u00e0 cet \u00e9gard que le r\u00e8glement sur l\u2019IA pr\u00e9voit une proc\u00e9dure de recours contre les d\u00e9cisions des organismes notifi\u00e9s concernant leur \u00e9valuation de conformit\u00e9 du syst\u00e8me en cause avec les exigences du r\u00e8glement sur l\u2019IA33<\/sup><\/a>. De telles exigences sont, par exemple, celles d\u2019exactitude et de robustesse34<\/sup><\/a>.

Une pratique r\u00e9cente, qui fait l\u2019objet des nombreuses discussions aux niveaux europ\u00e9en et international, nous emm\u00e8ne aussi \u00e0 nous pencher sur l\u2019encadrement juridique des syst\u00e8mes d\u2019IA. En effet, l\u2019usage informel par des administrations publiques ainsi que par des entreprises priv\u00e9es des outils d\u2019intelligence artificielle, tel que ChatGPT, soul\u00e8ve plusieurs interrogations. Il se peut que \u2013 \u00e0 l\u2019heure actuelle \u2013 des d\u00e9cisions soient fond\u00e9es (ou largement bas\u00e9es) sur les r\u00e9sultats de cet outil qui est capable de fournir des r\u00e9ponses et des solutions prometteuses \u00e0 des situations individualis\u00e9es. Toutefois, les recommandations dudit outil ne sont pas visibles dans la d\u00e9cision finale et la personne concern\u00e9e pourrait compl\u00e8tement ignorer le fait qu\u2019un tel outil a \u00e9t\u00e9 utilis\u00e9 ainsi que le degr\u00e9 et le mode de contribution du traitement algorithmique dans la prise de d\u00e9cision. Si certes plusieurs acteurs sont actuellement en train d\u2019adopter des recommandations internes pour l\u2019usage de ce type d\u2019outils, il n\u2019est reste pas moins que ce type d\u2019usage n\u2019est pas r\u00e8glement\u00e935<\/sup><\/a>. Cela signifie qu\u2019il n\u2019est pas exig\u00e9 des entreprises ou des personnes qu\u2019elles divulguent clairement qu\u2019elles utilisent ChatGPT, ce qui rend impossible l\u2019exercice d\u2019un \u00e9ventuel droit de contestation.<\/p>\n\n\n\n

B) Les difficult\u00e9s pratiques li\u00e9es \u00e0 la nature des syst\u00e8mes d\u2019IA<\/h2>\n\n\n\n

Les syst\u00e8mes d\u2019IA sont des syst\u00e8mes \u00e0 forte complexit\u00e9 dont le fonctionnement exact ne peut \u00eatre appr\u00e9hend\u00e9 que par une partie tr\u00e8s limit\u00e9e des citoyens. En effet, leur fonctionnement, marqu\u00e9 par un grand degr\u00e9 d\u2019autonomie, est caract\u00e9ris\u00e9 par le c\u00e9l\u00e8bre \u00ab black box effect<\/em> \u00bb (effet de bo\u00eete noire), dans le sens o\u00f9 il est tr\u00e8s difficile de comprendre comment raisonnent ces syst\u00e8mes dans un cas concret. L\u2019imposition des exigences de transparence et d\u2019explicabilit\u00e9 est souvent pr\u00e9sent\u00e9e comme un \u00ab antidote \u00bb \u00e0 ce probl\u00e8me puisqu\u2019elles peuvent rendre compr\u00e9hensible les \u00e9l\u00e9ments pris en compte par le syst\u00e8me d\u2019IA pour la production d\u2019un r\u00e9sultat. Cela \u00e9tant, leur mise en \u0153uvre peut conna\u00eetre plusieurs obstacles pratiques.

Dans ses principes directeurs pour une IA digne de confiance, l\u2019Organisation de coop\u00e9ration et de d\u00e9veloppement \u00e9conomiques (OCDE) d\u00e9finit, \u00e0 son tour, ces deux principes (l\u2019exigence de transparence et l\u2019explicabilit\u00e9) comme la \u00ab divulgation significative d\u2019informations sur les syst\u00e8mes d\u2019IA afin de garantir que les gens comprennent quand ils s\u2019engagent avec eux et peuvent contester les r\u00e9sultats36<\/sup><\/a> \u00bb. Leur respect est une condition n\u00e9cessaire pour exercer de mani\u00e8re effective le droit \u00ab d\u2019exprimer son point de vue et de contester la d\u00e9cision \u00bb, pr\u00e9vu \u00e0 l\u2019article 22 du RGPD. En effet, il est impossible de pouvoir contester de mani\u00e8re effective le r\u00e9sultat d\u2019un syst\u00e8me d\u2019IA, sans pouvoir obtenir des informations concises, compl\u00e8tes, claires, et compr\u00e9hensibles sur son fonctionnement. Cette approche a \u00e9t\u00e9 adopt\u00e9e par le l\u00e9gislateur de l\u2019UE, qui a propos\u00e9 une s\u00e9rie d\u2019exigences dans le r\u00e8glement sur l\u2019IA pour garantir la transparence algorithmique de tels syst\u00e8mes37<\/sup><\/a>. Celles-ci incluent l\u2019obligation de concevoir et de d\u00e9velopper des syst\u00e8mes d\u2019IA \u00e0 haut risque de mani\u00e8re \u00e0 garantir que leur fonctionnement soit suffisamment transparent pour permettre aux utilisateurs d\u2019interpr\u00e9ter les r\u00e9sultats du syst\u00e8me38<\/sup><\/a>.

Cela \u00e9tant, l\u2019applicabilit\u00e9 de ces principes pourrait, en pratique, conna\u00eetre des limites. De fait, la transparence algorithmique doit coexister avec l\u2019int\u00e9r\u00eat commercial l\u00e9gitime des fournisseurs d\u2019IA \u00e0 maintenir secr\u00e8tes certaines informations sensibles39<\/sup><\/a>. En fait, il est tout \u00e0 fait clair qu\u2019il existe une tension potentielle entre, d\u2019une part, cette exigence de transparence et, d\u2019autre part, les droits de propri\u00e9t\u00e9 intellectuelle. In\u00e9vitablement, le risque de r\u00e9v\u00e9ler le code source pourrait avoir un effet dissuasif sur l\u2019innovation en IA, car les entreprises investissent beaucoup de temps et de ressources dans leurs algorithmes. De plus, rendre les syst\u00e8mes d\u2019IA totalement transparents pourrait \u00e9ventuellement pr\u00e9senter un risque de r\u00e9v\u00e9ler les donn\u00e9es personnelles qui ont \u00e9t\u00e9 utilis\u00e9es pour former des algorithmes d\u2019apprentissage automatique ou pourrait m\u00eame exposer les syst\u00e8mes d\u2019IA \u00e0 des cyberattaques. L\u2019absence de limite claire concernant l\u2019obligation de transparence dans la l\u00e9gislation existante pourrait amener par la suite le pouvoir judiciaire \u00e0 d\u00e9cider lui-m\u00eame au cas par cas. Dans ce cas, il est in\u00e9vitable que cette \u00ab zone grise \u00bb concernant l\u2019exercice du droit de contester une d\u00e9cision \u00e9mise par une IA puisse avoir un effet dissuasif sur l\u2019exercice du droit de contestation.

En outre, il est tout \u00e0 fait l\u00e9gitime de s\u2019interroger sur la question de savoir si le respect des exigences de transparence et d\u2019explicabilit\u00e9 par les fournisseurs et utilisateurs de syst\u00e8mes d\u2019IA sera suffisant pour permettre aux personnes concern\u00e9es d\u2019exercer au mieux leur droit de recours. Il y a lieu de rappeler \u00e0 cet \u00e9gard qu\u2019en principe, le droit \u00e0 un recours effectif implique l\u2019existence d\u2019une d\u00e9cision motiv\u00e9e et individuelle40<\/sup><\/a>. Il existe \u00e0 cet \u00e9gard une riche jurisprudence dans les divers \u00c9tats membres sur le contenu exact de la notion de motivation suffisante des actes administratifs. Si certes les exigences d\u2019explicabilit\u00e9 et de transparence des syst\u00e8mes d\u2019IA sont cens\u00e9es \u00ab permettre aux utilisateurs d\u2019interpr\u00e9ter les r\u00e9sultats du syst\u00e8me et de l\u2019utiliser de mani\u00e8re appropri\u00e9e41<\/sup><\/a> \u00bb, il n\u2019en reste pas moins que les d\u00e9cisions \u00e9mises par ces syst\u00e8mes ne contiennent pas n\u00e9cessairement de motivation. Il est ainsi indispensable que les explications et les informations fournies aux personnes concern\u00e9es r\u00e9pondent \u00e0 un niveau ad\u00e9quat de d\u00e9tails et de pr\u00e9cisions, similaire \u00e0 celui exig\u00e9 dans le cadre de la motivation d\u2019une d\u00e9cision administrative.

Par ailleurs, et sur le plan purement pratique, il faudrait tenir compte du co\u00fbt particuli\u00e8rement \u00e9lev\u00e9 que peut entra\u00eener la proc\u00e9dure de contestation d\u2019une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA pour la personne concern\u00e9e. En effet, celle-ci serait confront\u00e9e non pas seulement au c\u00f4t\u00e9 juridique de cette contestation, qui n\u00e9cessiterait l\u2019intervention d\u2019un avocat, mais \u00e9galement au c\u00f4t\u00e9 technique pour lequel il faudrait consulter un expert. Cette derni\u00e8re expertise est tout \u00e0 la fois rare et tr\u00e8s demand\u00e9e dans l\u2019UE, qui fait face \u00e0 une p\u00e9nurie d\u2019experts num\u00e9riques capables de d\u00e9velopper des nouvelles technologies, telles l\u2019IA42<\/sup><\/a>. Le co\u00fbt \u00e9lev\u00e9 ainsi que le temps important qui doivent \u00eatre investis dans une telle proc\u00e9dure de contestation pourraient aussi avoir un effet dissuasif important.<\/p>\n\n\n\n

C) La structure des syst\u00e8mes judiciaires en Europe<\/h2>\n\n\n\n

Une autre question importante concernant la mise en \u0153uvre d\u2019un droit de contester une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA est celle de savoir si les syst\u00e8mes judiciaires en Europe sont pr\u00eats \u00e0 conna\u00eetre de telles contestations. \u00c0 la diff\u00e9rence des recours classiques, l\u2019analyse des recours contre une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA implique une compr\u00e9hension en profondeur de la technologie en cause. Une t\u00e2che complexe, notamment quand le syst\u00e8me d\u2019intelligence en cause est fond\u00e9 sur la technique de \u00ab machine learning<\/em> \u00bb (apprentissage automatique), qui implique le d\u00e9veloppement, par les ordinateurs, d\u2019un m\u00e9canisme de prise de d\u00e9cision autonome pour les situations qui ne peuvent pas \u00eatre trait\u00e9es directement et de mani\u00e8re satisfaisante par les algorithmes disponibles. Il est ainsi particuli\u00e8rement difficile de comprendre comment un tel syst\u00e8me est arriv\u00e9 \u00e0 une conclusion concr\u00e8te.

De mani\u00e8re g\u00e9n\u00e9rale, le juge saisi d\u2019un litige dispose du pouvoir d\u2019ordonner une expertise s\u2019il estime qu\u2019il ne dispose pas d\u2019\u00e9l\u00e9ments suffisants pour prendre sa d\u00e9cision et qu\u2019il a besoin de l\u2019avis technique d\u2019un professionnel. Le juge peut ainsi faire appel aux experts mais il n\u2019est pas oblig\u00e9 de partager leurs constatations et reste en g\u00e9n\u00e9ral libre dans sa d\u00e9cision. Dans ce contexte, il serait tout \u00e0 fait possible de pr\u00e9voir des formations pour les juges afin de leur permettre de mieux appr\u00e9hender les grands principes de cette technologie complexe et de pouvoir appr\u00e9cier les preuves amen\u00e9es, afin de poser les bonnes questions lorsque de telles preuves sont pr\u00e9sent\u00e9es au tribunal. En effet, il est d\u2019une importance primordiale que le juge puisse avoir les outils pour effectivement \u00eatre en mesure de questionner ces d\u00e9cisions algorithmiques qui souvent sont les produits d\u2019un biais d\u2019automatisation, qui consiste \u00e0 penser que parce que les donn\u00e9es proviennent d\u2019un algorithme, elles sont n\u00e9cessairement objectives.

Cependant, les exigences en mati\u00e8re de documentation et de tra\u00e7abilit\u00e9, impos\u00e9es par la proposition de r\u00e8glement sur IA, seront-elles suffisantes pour une compr\u00e9hension ad\u00e9quate de cette technologie complexe ? Les particularit\u00e9s d\u2019une contestation algorithmique justifient-elles le mod\u00e8le d\u2019une expertise contraignante, s\u2019imposant au juge et le privant d\u2019une partie de sa marge de man\u0153uvre ? En principe, il n\u2019y a lieu d\u2019ordonner une expertise que dans le cas o\u00f9 des constatations ou une consultation ne pourraient suffire \u00e0 \u00e9clairer le juge. Cela \u00e9tant, eu \u00e9gard \u00e0 la nouveaut\u00e9 et \u00e0 la complexit\u00e9 de telles contestations, il serait possible de revoir la libert\u00e9 dont dispose le juge pour ordonner une expertise judiciaire et de r\u00e9examiner l\u2019\u00e9tendue avec laquelle le rapport de l\u2019expert va lier le juge dans la prise de sa d\u00e9cision.

Une approche encore plus radicale serait d\u2019\u00e9ventuellement identifier et de s\u00e9parer deux volets lors des contestations d\u2019une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA, \u00e0 savoir un volet \u00ab juridique \u00bb et un volet \u00ab technique \u00bb et de donner la comp\u00e9tence \u00e0 un comit\u00e9 d\u2019experts ou \u00e0 une autorit\u00e9 administrative ind\u00e9pendante pour se prononcer sur ce second volet. Une telle approche supposerait toutefois qu\u2019il est possible de distinguer nettement deux volets pour ce type de contestation. Pour prendre l\u2019exemple d\u2019une contestation d\u2019une d\u00e9cision algorithmique comme \u00e9tant discriminatoire du fait de l\u2019appartenance d\u2019un candidat \u00e0 un groupe ethnique, il conviendrait, \u00e9ventuellement, dans un premier temps, de d\u00e9terminer la qualit\u00e9 des donn\u00e9es d\u2019entra\u00eenement pour voir si elles sont le plus repr\u00e9sentatives possible et bien annot\u00e9es. Pour ce volet \u00ab technique \u00bb, il serait possible de devoir saisir un comit\u00e9 d\u2019experts ou une autorit\u00e9 administrative ind\u00e9pendante qui donnerait un avis contraignant, restant disponible pour r\u00e9pondre aux \u00e9ventuelles questions suppl\u00e9mentaires du juge. Dans un second temps, le juge, sur la base de ces \u00e9l\u00e9ments, trancherait la question de savoir s\u2019il y a lieu de qualifier la d\u00e9cision en cause de \u00ab discriminatoire \u00bb et \u00e0 qui il conviendrait, le cas \u00e9ch\u00e9ant, d\u2019imputer la responsabilit\u00e943<\/sup><\/a>.<\/p>\n\n\n\n

\n\n\n\n

Notre soci\u00e9t\u00e9 semble vouloir embrasser l\u2019IA aussi t\u00f4t que possible. Cette technologie puissante et myst\u00e9rieuse n\u2019est toutefois pas facile \u00e0 appr\u00e9hender par la plus grande partie de la population. Sa mise en \u0153uvre devrait ainsi \u00eatre accompagn\u00e9e de suffisamment de mesures et de pr\u00e9cautions qui permettront de remettre en question de fa\u00e7on approfondie son fonctionnement. Une simple lecture de la r\u00e9cente proposition de r\u00e8glement sur l\u2019IA suffit pour relever le nombre important de droits fondamentaux qui peuvent \u00eatre menac\u00e9s par l\u2019utilisation de l\u2019IA. La n\u00e9cessit\u00e9 de bien garantir l\u2019effectivit\u00e9 d\u2019un droit de contester une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019IA est ainsi imp\u00e9rieuse et rev\u00eat un int\u00e9r\u00eat d\u2019une importance primordiale.

Les d\u00e9fis de la mise en \u0153uvre d\u2019un tel droit sont toutefois nombreux. Les dispositions juridiques pr\u00e9cisant les modalit\u00e9s d\u2019un tel recours doivent \u00eatre \u00e0 la fois suffisamment pr\u00e9cises pour garantir la confiance en l\u2019exercice de ce droit et d\u2019une souplesse ad\u00e9quate afin de pouvoir englober les nombreux cas d\u2019application. L\u2019article 22 du RGDP qui est consacr\u00e9 \u00e0 l\u2019exercice de ce droit a toutefois \u00e9t\u00e9 \u00e9labor\u00e9 bien avant le r\u00e8glement sur l\u2019IA. Cette disposition semble \u00eatre ainsi con\u00e7ue uniquement sous le prisme de la protection des donn\u00e9es \u00e0 caract\u00e8re personnel et ne prend pas en compte la r\u00e9cente proposition de r\u00e8glement sur l\u2019IA, qui fait l\u2019objet d\u2019une \u00e9tude approfondie des impacts de l\u2019IA sur l\u2019ensemble des structures de notre soci\u00e9t\u00e9. Se pencher sur l\u2019articulation entre ces deux textes afin de mieux identifier les contours de l\u2019exercice d\u2019un droit de contestation semble ainsi opportun. Deux questions restent encore ouvertes. La premi\u00e8re concerne l\u2019impact de la classification d\u2019un syst\u00e8me d\u2019IA en tant que \u00ab \u00e0 haut risque \u00bb sur l\u2019exercice du droit de contestation. La seconde est relative \u00e0 la garantie de ce droit de contestation, m\u00eame quand il a \u00e9t\u00e9 prouv\u00e9 que le syst\u00e8me d\u2019intelligence ayant \u00e9mis la d\u00e9cision \u00e9tait conforme \u00e0 la totalit\u00e9 des exigences de s\u00e9curit\u00e9 et de s\u00fbret\u00e9 impos\u00e9es par ladite proposition de r\u00e8glement sur l\u2019IA.

Les particularit\u00e9s des d\u00e9cisions \u00e9mises par des syst\u00e8mes d\u2019IA, caract\u00e9ris\u00e9es par une opacit\u00e9, une complexit\u00e9 et une autonomie \u00e9lev\u00e9es, vont in\u00e9vitablement nous amener \u00e0 nous pencher sur les possibilit\u00e9s de garantir un droit de contestation effectif et accessible. D\u2019une part, et eu \u00e9gard \u00e0 la possibilit\u00e9 d\u2019absence de motivation de telles d\u00e9cisions, il serait n\u00e9cessaire de fournir des lignes directrices claires aux \u00e9metteurs des d\u00e9cisions sur la nature exacte des informations \u00e0 fournir aux personnes ayant fait l\u2019objet de telles d\u00e9cisions. D\u2019autre part, il serait n\u00e9cessaire de r\u00e9fl\u00e9chir aux modalit\u00e9s de pr\u00e9paration des juges pour leur permettre d\u2019appr\u00e9hender le fonctionnement des algorithmes, ainsi qu\u2019au r\u00f4le des experts en IA dans le cadre de ces proc\u00e9dures. L\u2019implication d\u2019une autorit\u00e9 administrative ind\u00e9pendante, sp\u00e9cialis\u00e9e sur le fonctionnement algorithmique, dans le traitement de telles contestations est aussi une piste envisageable.<\/p>\n\n\n\n

\n\n\n\n

1<\/a> R\u00e8glement (UE) 2016\/679 du Parlement europ\u00e9en et du Conseil, du 27 avril 2016, relatif \u00e0 la protection des personnes physiques \u00e0 l\u2019\u00e9gard du traitement des donn\u00e9es \u00e0 caract\u00e8re personnel et \u00e0 la libre circulation de ces donn\u00e9es, et abrogeant la directive 95\/46\/CE (r\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es) (JO<\/em> 2016, L 119, p. 1).<\/p>\n\n\n\n

2<\/a> Y. Bathaee, The Artificial Intelligence Black Box and the Failure of Intent and Causation, Harvard Journal of Law & Technology <\/em>2018, <\/em>p. 906-907, qui explique que \u00ab Generally, the Black Box Problem can be defined as an inability to fully understand an AI\u2019s decision-making process and the inability to predict the AI\u2019s decisions or outputs<\/em> \u00bb.<\/p>\n\n\n\n

3<\/a> Cette intervention examine la question du droit de recours contre des d\u00e9cisions non-judicaires, telles que des d\u00e9cisions administratives individuelles, ou bien les d\u00e9cisions en entreprise, qui sont \u00e9mises par des syst\u00e8mes d\u2019IA.<\/p>\n\n\n\n

4<\/a> R\u00e8glement (UE) 2024\/1689 du Parlement europ\u00e9en et du Conseil du 13 juin 2024 \u00e9tablissant des r\u00e8gles harmonis\u00e9es concernant l\u2019intelligence artificielle et modifiant les r\u00e8glements (CE) n\u00b0 300\/2008, (UE) n\u00b0 167\/2013, (UE) n\u00b0 168\/2013, (UE) 2018\/858, (UE) 2018\/1139 et (UE) 2019\/2144 et les directives 2014\/90\/UE, (UE) 2016\/797 et (UE) 2020\/1828 (r\u00e8glement sur l\u2019intelligence artificielle).<\/p>\n\n\n\n

5<\/a> R\u00e8glement (UE) 2016\/679 du Parlement europ\u00e9en et du Conseil, du 27 avril 2016, relatif \u00e0 la protection des personnes physiques \u00e0 l\u2019\u00e9gard du traitement des donn\u00e9es \u00e0 caract\u00e8re personnel et \u00e0 la libre circulation de ces donn\u00e9es, et abrogeant la directive 95\/46\/CE (r\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es) (JO<\/em> 2016, L 119, p. 1).<\/p>\n\n\n\n

6<\/a> Voir consid\u00e9rant 9 du r\u00e8glement sur l\u2019IA.<\/p>\n\n\n\n

7<\/a>  Il existe des opinions divergentes quant \u00e0 la question de savoir si cette disposition introduit ou pas une interdiction de prise des d\u00e9cisions automatis\u00e9es. Voir L. Tosini, \u00ab The Right to Object to Automated Individual Decisions: Resolving the Ambiguity of Article 22(1) of the General Data Protection Regulation \u00bb, International Data Privacy Law<\/em>, 2021, vol. 11, n\u00b0 2, p. 145-162.<\/p>\n\n\n\n

8<\/a> Article 22 \u00a71 a) du RGDP.<\/p>\n\n\n\n

9<\/a> La notion de \u00ab donn\u00e9es \u00e0 caract\u00e8re personnel \u00bb est d\u00e9finie \u00e0 l\u2019article 4, point 1) du RGPD.<\/p>\n\n\n\n

10<\/a> Cela semble \u00eatre l\u2019interpr\u00e9tation propos\u00e9e dans les Lignes directrices relatives \u00e0 la prise de d\u00e9cision individuelle automatis\u00e9e et au profilage aux fins du r\u00e8glement (UE) 2016\/679, adopt\u00e9es le 3 octobre 2017 par un groupe de travail institu\u00e9 par l\u2019article 29 de la directive 95\/46\/CE (ci-apr\u00e8s, les \u00ab Lignes directrices relatives \u00e0 la prise de d\u00e9cision individuelle automatis\u00e9e et au profilage \u00bb).<\/p>\n\n\n\n

11<\/a> Dans ses conclusions pr\u00e9sent\u00e9es le 16 mars 2023 dans l\u2019affaire C-634\/21 | SCHUFA Holding e.a. (Scoring) et dans les affaires jointes C-26\/22 et C-64\/22 SCHUFA Holding e.a. (Lib\u00e9ration de reliquat de dette), l\u2019Avocat g\u00e9n\u00e9ral Pikam\u00e4e a propos\u00e9 un test selon lequel il y a lieu d\u2019examiner la participation humaine dans le cadre de la proc\u00e9dure d\u2019adoption d\u2019une d\u00e9cision et de d\u00e9terminer si elle \u00e9tait en mesure d\u2019influencer le lien de causalit\u00e9 entre le traitement automatis\u00e9 et la d\u00e9cision finale. Les humains impliqu\u00e9s dans le processus de l\u2019\u00e9mission de cette d\u00e9cision ne devraient avoir \u00ab aucune marge de man\u0153uvre \u00bb quant \u00e0 son application afin qu\u2019elle puisse \u00eatre qualifi\u00e9e de d\u00e9cision fond\u00e9e \u00ab exclusivement \u00bb sur un traitement automatis\u00e9.<\/p>\n\n\n\n

12<\/a> Voir, \u00e0 cet \u00e9gard, Conclusions de l\u2019avocat g\u00e9n\u00e9ral dans l\u2019affaire C-634\/21 | SCHUFA Holding e.a. (Scoring) et dans les affaires jointes C-26\/22 et C-64\/22 SCHUFA Holding e.a. (Lib\u00e9ration de reliquat de dette)<\/a>, point 43.<\/p>\n\n\n\n

13<\/a> Arr\u00eat du 7 d\u00e9cembre 2023, SCHUFA Holding (Lib\u00e9ration de reliquat de dette), C\u201126\/22 et C\u201164\/22, EU:C:2023:958.<\/p>\n\n\n\n

14<\/a> Arr\u00eat du 7 d\u00e9cembre 2023, SCHUFA Holding (Lib\u00e9ration de reliquat de dette), C\u201126\/22 et C\u201164\/22, EU:C:2023:958, point 48 (\u00ab la tierce partie est guid\u00e9e \u00ab de mani\u00e8re d\u00e9terminante \u00bb par cette valeur \u00bb), point 14.<\/p>\n\n\n\n

15<\/a> Arr\u00eat du 7 d\u00e9cembre 2023, SCHUFA Holding (Lib\u00e9ration de reliquat de dette), C\u201126\/22 et C\u201164\/22, EU:C:2023:958, point 48 (\u00ab la tierce partie est guid\u00e9e \u00ab de mani\u00e8re d\u00e9terminante \u00bb par cette valeur \u00bb).<\/p>\n\n\n\n

16<\/a> N. Genicot, Arr\u00eat \u00ab SCHUFA Holding (scoring) \u00bb : les scores \u00e9valuant la solvabilit\u00e9 des individus au regard de la protection des donn\u00e9es \u00e0 caract\u00e8re personnel, Journal de droit europ\u00e9en <\/em>2024, n\u00ba 5, p. 230\u2011232.<\/p>\n\n\n\n

17<\/a> Lignes directrices relatives \u00e0 la prise de d\u00e9cision individuelle automatis\u00e9e et au profilage, p. 18.<\/p>\n\n\n\n

18<\/a> Lignes directrices relatives \u00e0 la prise de d\u00e9cision individuelle automatis\u00e9e et au profilage, Annexe I, p. 37.<\/p>\n\n\n\n

19<\/a> Voir, en ce sens, E. Pehrsson, \u00ab The Meaning of the GDPR Article 22 \u00bb, Stanford-Vienna Transatlantic Technology Law Forum<\/em>, 2018, EU Law Working Papers n\u00b0 31, p. 27-28.<\/p>\n\n\n\n

20<\/a> Voir article 13 (Transparence et fourniture d\u2019informations aux utilisateurs) et Chapitre IV du r\u00e8glement sur l\u2019IA.<\/p>\n\n\n\n

21<\/a> Voir les d\u00e9finitions de ce principe par la CNIL<\/a> ainsi que par l\u2019OCDE<\/a>.<\/p>\n\n\n\n

22<\/a> Une autre situation qui n\u2019est pas couverte par l\u2019article 22 du RGPD est l\u2019\u00e9mission d\u2019une d\u00e9cision qui ne produit pas d\u2019effets juridiques qui affectent une personne de mani\u00e8re significative ou de fa\u00e7on similaire. Cela \u00e9tant, dans la mesure o\u00f9 cette condition peut pr\u00e9senter des fortes similarit\u00e9s avec les conditions de l\u2019int\u00e9r\u00eat \u00e0 agir, elle n\u2019est pas analys\u00e9e dans le cadre de la pr\u00e9sente intervention.<\/p>\n\n\n\n

23<\/a> M. Elbers, Truly Risk-Based Regulation of Artificial Intelligence – How to Implement the EU’s AI Act, Stanford-Vienna Transatlantic Technology Law Forum<\/em>, 2018, EU Law Working Papers n\u00b0 31, p. 6 ; voir \u00e9galement T. Mahler, Between risk management and proportionality: The risk-based approach in the EU\u2019s Artificial Intelligence Act Proposal (September 30, 2021). Nordic Yearbook of Law and Informatics<\/em>, p. 248-251.<\/p>\n\n\n\n

24<\/a> Pour une analyse approfondie de la question de l\u2019applicabilit\u00e9 de cet article 47 de la Charte dans le cadre de la prise de d\u00e9cisions automatis\u00e9es voir S. Demkov\u00e1, Automated Decision-Making and Effective Remedies, The New Dynamics in the Protection of EU Fundamental Rights in the Area of Freedom, Security and Justice, Elgar Studies in European Law and Policy, <\/em>p. 117-148.<\/p>\n\n\n\n

25<\/a> Ainsi qu\u2019il r\u00e9sulte d\u2019une jurisprudence constante de la CJUE, le droit \u00e0 un recours effectif est invocable sur la seule base de l\u2019article 47 de la Charte, sans que le contenu de celui-ci doive \u00eatre pr\u00e9cis\u00e9 par d\u2019autres dispositions du droit de l\u2019Union ou par des dispositions du droit interne des \u00c9tats membre, comme en l\u2019occurrence, le RGPD ou bien la Proposition de r\u00e8glement sur l\u2019intelligence artificielle.<\/p>\n\n\n\n

26<\/a> Voir, en ce sens, notamment : CJUE, 6 novembre 2012, Otis e.a.<\/em>, C\u2011199\/11, point 49 et CJUE, 12 d\u00e9cembre 2019, Aktiva Finants<\/em>, C\u2011433\/18, point 36.<\/p>\n\n\n\n

27<\/a> Voir, notamment, arr\u00eat du 26 octobre 2006, Mostaza Claro, C\u2011168\/05, EU:C:2006:675, point 24 et jurisprudence cit\u00e9e.<\/p>\n\n\n\n

28<\/a> Voir l\u2019expos\u00e9 de motifs et notamment les points 1.1, 3.3, 5.2.3, ainsi que les consid\u00e9rants 15 et 18, 37-38 et l\u2019article 7 \u00a7 1 b) de la Proposition de r\u00e8glement sur l\u2019IA.<\/p>\n\n\n\n

29<\/a> Voir l\u2019expos\u00e9 de motifs de la Proposition de r\u00e8glement du Parlement europ\u00e9en et du Conseil \u00e9tablissant des r\u00e8gles harmonis\u00e9es concernant l\u2019IA et modifiant certains actes l\u00e9gislatifs de l\u2019Union COM (2021) 206 final, et notamment le point 3.5. (\u00ab droits fondamentaux \u00bb). Sont explicitement mentionn\u00e9s le droit \u00e0 la dignit\u00e9 humaine (article 1er<\/sup>), le respect de la vie priv\u00e9e et la protection des donn\u00e9es \u00e0 caract\u00e8re personnel (articles 7 et 8), la non-discrimination (article 21), l\u2019\u00e9galit\u00e9 entre les femmes et les hommes (article 23), les conditions de travail justes et \u00e9quitables (article 31), le droit des consommateurs \u00e0 un niveau \u00e9lev\u00e9 de protection (article 28), les droits de l\u2019enfant (article 24) et l\u2019int\u00e9gration des personnes handicap\u00e9es (article 26).<\/p>\n\n\n\n

30<\/a> M.E. Kaminski et J.M. Urban, \u00ab The Right to Contest AI \u00bb, Columbia Law Review<\/em>, 2021, vol. 121, n\u00b0 7, p. 2020-2028.<\/p>\n\n\n\n

31<\/a> Voir \u00e0 cet \u00e9gard A.D. Selbst, and J. Powles, \u00ab Meaningful Information and the Right to Explanation \u00bb, International Data Privacy Law<\/em>, 2017, vol. 7, n\u00b0 4, p. 233-242, qui font valoir que cette disposition doit \u00eatre interpr\u00e9t\u00e9e de mani\u00e8re flexible et fonctionnelle en prenant en compte les circonstances particuli\u00e8res de chaque cas.<\/p>\n\n\n\n

32<\/a> Il y a lieu de mentionner \u00e0 cet \u00e9gard l\u2019adoption en France du d\u00e9cret n\u00b0 2017-330 du 14 mars 2017 relatif aux droits des personnes faisant l\u2019objet de d\u00e9cisions individuelles prises sur le fondement d’un traitement algorithmique, qui pr\u00e9cise que doivent \u00eatre fournies, \u00e0 la demande de l\u2019int\u00e9ress\u00e9 : a) le degr\u00e9 et le mode de contribution du traitement algorithmique \u00e0 la prise de d\u00e9cision, b) les donn\u00e9es trait\u00e9es et leurs sources, c) les param\u00e8tres de traitement et, le cas \u00e9ch\u00e9ant, leur pond\u00e9ration, appliqu\u00e9s \u00e0 la situation de l\u2019int\u00e9ress\u00e9 et d) les op\u00e9rations effectu\u00e9es par le traitement.<\/p>\n\n\n\n

33<\/a> Voir l\u2019article 85 du r\u00e8glement sur l\u2019IA.<\/p>\n\n\n\n

34<\/a> Voir l\u2019article 15 du r\u00e8glement sur l\u2019IA.<\/p>\n\n\n\n

35<\/a> Les syst\u00e8mes d\u2019IA g\u00e9n\u00e9rative, tels que ChatGPT, doivent, en principe respecter des exigences de transparence. Cela inclut d’informer les utilisateurs qu’ils interagissent avec un syst\u00e8me d’IA plut\u00f4t qu’avec un humain, et d\u2019informer que le contenu a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 artificiellement.<\/p>\n\n\n\n

36<\/a> En effet, ainsi qu\u2019il a \u00e9t\u00e9 soulign\u00e9 par l\u2019OCDE dans ces principes sur l\u2019IA \u00ab Les acteurs de l\u2019IA devraient s\u2019engager \u00e0 assurer la transparence et une divulgation responsable des informations li\u00e9es aux syst\u00e8mes d\u2019IA. \u00c0 cet effet, ils devraient fournir des informations pertinentes, adapt\u00e9es au contexte et \u00e0 l\u2019\u00e9tat de l\u2019art, afin : [\u2026] de permettre aux personnes subissant les effets n\u00e9fastes d\u2019un syst\u00e8me d\u2019IA de contester les r\u00e9sultats sur la base d\u2019informations claires et facilement compr\u00e9hensibles sur les facteurs et sur la logique ayant servi \u00e0 la formulation de pr\u00e9visions, recommandations ou d\u00e9cisions <\/em>\u00bb.<\/p>\n\n\n\n

37<\/a> Voir, notamment, l\u2019article 13 de ce r\u00e8glement qui porte sur les exigences de transparence des syst\u00e8mes d\u2019IA dites \u00ab \u00e0 haut risque \u00bb.<\/p>\n\n\n\n

38<\/a> Ainsi qu\u2019il ressort de l\u2019article 85 du r\u00e8glement sur l\u2019IA \u00ab Sans pr\u00e9judice d\u2019autres recours administratifs ou judiciaires, toute personne physique ou morale ayant des motifs de consid\u00e9rer qu\u2019il y a eu violation des dispositions du pr\u00e9sent r\u00e8glement peut d\u00e9poser des r\u00e9clamations aupr\u00e8s de l\u2019autorit\u00e9 de surveillance du march\u00e9 concern\u00e9e. \u00bb<\/p>\n\n\n\n

39<\/a> Pour une analyse plus approfondie de cette probl\u00e9matique voir, notamment, M. Maggiolino, \u00ab EU Trade Secrets Law and Algorithmic Transparency \u00bb, Bocconi Legal Studies Research Paper<\/em> n\u00b0 3363178, 2019.<\/p>\n\n\n\n

40<\/a> Voir l\u2019\u00e9tude du Conseil d\u2019Europe, \u00ab Algorithmes et droits humains<\/a> \u00bb, pr\u00e9par\u00e9e par le comit\u00e9 d\u2019experts sur les interm\u00e9diaires d\u2019internet (MSI-NET), \u00e9tude DGI (2017)12, p. 27.<\/p>\n\n\n\n

41<\/a> Voir l\u2019article 13 du r\u00e8glement sur l\u2019IA.<\/p>\n\n\n\n

42<\/a> Voir, parmi plusieurs articles sur ce sujet, T. Tse, L. Cartechini et M. Esposito, \u00ab Artificial Intelligence in Europe<\/a> \u00bb, 2021.<\/p>\n\n\n\n

43<\/a> Ainsi que soulign\u00e9, le terme \u00ab biais \u00bb employ\u00e9 par les informaticiens peut avoir une port\u00e9e diff\u00e9rente du terme \u00ab discrimination \u00bb, telle que d\u00e9finie par les juristes. Voir, \u00e0 cet \u00e9gard, l\u2019\u00e9tude \u00ab Bias in Algorithms \u2013 Artificial Intelligence and Discrimination \u00bb, European Union Agency for Fundamental Rights<\/em>, 2022, p. 22.<\/p>\n\n\n\n

<\/p>\n\n\n\n

\n\n\n\n
Droit-contester-decision-emise-par-systeme-intelligence-artificielle-IA_K.-Xintara_12-24<\/a><\/a><\/div>\n\n\n\n

Kelly Xintara, \u00ab Le droit de contester une d\u00e9cision \u00e9mise par un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e et perspectives\u00bb, La r\u00e9gulation internationale de l\u2019IA : enjeux et perspectives [Dossier], Confluence des droits_La revue <\/em>[En ligne], 12 | 2024, mis en ligne le 18 d\u00e9cembre 2024. URL : https:\/\/confluencedesdroits-larevue.com\/?p =3724<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Kelly Xintara, Conseill\u00e8re juridique \u00e0 la Chambre de Commerce de Luxembourg, anciennement\u00a0r\u00e9f\u00e9rendaire \u00e0 la Cour de Justice de l\u2019Union europ\u00e9enne<\/p>\n","protected":false},"author":2,"featured_media":3738,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_editorskit_title_hidden":false,"_editorskit_reading_time":0,"_editorskit_is_block_options_detached":false,"_editorskit_block_options_position":"{}","footnotes":""},"categories":[5,3,13],"tags":[172,183,182,181,178,179,180],"yoast_head":"\nKelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives - Confluence des droits_La revue<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/confluencedesdroits-larevue.com\/?p=3724\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives - Confluence des droits_La revue\" \/>\n<meta property=\"og:description\" content=\"Kelly Xintara, Conseill\u00e8re juridique \u00e0 la Chambre de Commerce de Luxembourg, anciennement\u00a0r\u00e9f\u00e9rendaire \u00e0 la Cour de Justice de l\u2019Union europ\u00e9enne\" \/>\n<meta property=\"og:url\" content=\"https:\/\/confluencedesdroits-larevue.com\/?p=3724\" \/>\n<meta property=\"og:site_name\" content=\"Confluence des droits_La revue\" \/>\n<meta property=\"article:published_time\" content=\"2024-12-20T14:53:26+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-04-10T08:41:39+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/confluencedesdroits-larevue.com\/wp-content\/uploads\/2024\/12\/IA-01.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1080\" \/>\n\t<meta property=\"og:image:height\" content=\"791\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"DICE \u00c9ditions\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"DICE \u00c9ditions\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"42 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/?p=3724#article\",\"isPartOf\":{\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/?p=3724\"},\"author\":{\"name\":\"DICE \u00c9ditions\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/person\/5c2bef570684d183d7f5a81e4107304c\"},\"headline\":\"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives\",\"datePublished\":\"2024-12-20T14:53:26+00:00\",\"dateModified\":\"2025-04-10T08:41:39+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/?p=3724\"},\"wordCount\":9484,\"publisher\":{\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#organization\"},\"keywords\":[\"AI Act\",\"article 47 de la Charte\",\"contestation\",\"decision algorythmique\",\"droit de recours\",\"intelligence artificielle (AI)\",\"RGPD\"],\"articleSection\":[\"Actu\",\"Articles\",\"Dossier\"],\"inLanguage\":\"fr-FR\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/?p=3724\",\"url\":\"https:\/\/confluencedesdroits-larevue.com\/?p=3724\",\"name\":\"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives - Confluence des droits_La revue\",\"isPartOf\":{\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#website\"},\"datePublished\":\"2024-12-20T14:53:26+00:00\",\"dateModified\":\"2025-04-10T08:41:39+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/?p=3724#breadcrumb\"},\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/confluencedesdroits-larevue.com\/?p=3724\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/?p=3724#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Accueil\",\"item\":\"https:\/\/confluencedesdroits-larevue.com\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#website\",\"url\":\"https:\/\/confluencedesdroits-larevue.com\/\",\"name\":\"Confluence des droits_La revue\",\"description\":\"UMR 7318 Droits International, Compar\u00e9 et Europ\u00e9en\",\"publisher\":{\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/confluencedesdroits-larevue.com\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#organization\",\"name\":\"Confluence des droits_La revue\",\"url\":\"https:\/\/confluencedesdroits-larevue.com\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/confluencedesdroits-larevue.com\/wp-content\/uploads\/2024\/05\/Confluence-des-droits_La-revue.png\",\"contentUrl\":\"https:\/\/confluencedesdroits-larevue.com\/wp-content\/uploads\/2024\/05\/Confluence-des-droits_La-revue.png\",\"width\":3934,\"height\":613,\"caption\":\"Confluence des droits_La revue\"},\"image\":{\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/logo\/image\/\"}},{\"@type\":\"Person\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/person\/5c2bef570684d183d7f5a81e4107304c\",\"name\":\"DICE \u00c9ditions\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/c7dfd2401bef8b8be87ab2a215ca0435?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/c7dfd2401bef8b8be87ab2a215ca0435?s=96&d=mm&r=g\",\"caption\":\"DICE \u00c9ditions\"},\"url\":\"https:\/\/confluencedesdroits-larevue.com\/?author=2\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives - Confluence des droits_La revue","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/confluencedesdroits-larevue.com\/?p=3724","og_locale":"fr_FR","og_type":"article","og_title":"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives - Confluence des droits_La revue","og_description":"Kelly Xintara, Conseill\u00e8re juridique \u00e0 la Chambre de Commerce de Luxembourg, anciennement\u00a0r\u00e9f\u00e9rendaire \u00e0 la Cour de Justice de l\u2019Union europ\u00e9enne","og_url":"https:\/\/confluencedesdroits-larevue.com\/?p=3724","og_site_name":"Confluence des droits_La revue","article_published_time":"2024-12-20T14:53:26+00:00","article_modified_time":"2025-04-10T08:41:39+00:00","og_image":[{"width":1080,"height":791,"url":"https:\/\/confluencedesdroits-larevue.com\/wp-content\/uploads\/2024\/12\/IA-01.jpg","type":"image\/jpeg"}],"author":"DICE \u00c9ditions","twitter_card":"summary_large_image","twitter_misc":{"\u00c9crit par":"DICE \u00c9ditions","Dur\u00e9e de lecture estim\u00e9e":"42 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/confluencedesdroits-larevue.com\/?p=3724#article","isPartOf":{"@id":"https:\/\/confluencedesdroits-larevue.com\/?p=3724"},"author":{"name":"DICE \u00c9ditions","@id":"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/person\/5c2bef570684d183d7f5a81e4107304c"},"headline":"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives","datePublished":"2024-12-20T14:53:26+00:00","dateModified":"2025-04-10T08:41:39+00:00","mainEntityOfPage":{"@id":"https:\/\/confluencedesdroits-larevue.com\/?p=3724"},"wordCount":9484,"publisher":{"@id":"https:\/\/confluencedesdroits-larevue.com\/#organization"},"keywords":["AI Act","article 47 de la Charte","contestation","decision algorythmique","droit de recours","intelligence artificielle (AI)","RGPD"],"articleSection":["Actu","Articles","Dossier"],"inLanguage":"fr-FR"},{"@type":"WebPage","@id":"https:\/\/confluencedesdroits-larevue.com\/?p=3724","url":"https:\/\/confluencedesdroits-larevue.com\/?p=3724","name":"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives - Confluence des droits_La revue","isPartOf":{"@id":"https:\/\/confluencedesdroits-larevue.com\/#website"},"datePublished":"2024-12-20T14:53:26+00:00","dateModified":"2025-04-10T08:41:39+00:00","breadcrumb":{"@id":"https:\/\/confluencedesdroits-larevue.com\/?p=3724#breadcrumb"},"inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/confluencedesdroits-larevue.com\/?p=3724"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/confluencedesdroits-larevue.com\/?p=3724#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Accueil","item":"https:\/\/confluencedesdroits-larevue.com\/"},{"@type":"ListItem","position":2,"name":"Kelly Xintara \u2013 Le droit de contester une d\u00e9cision \u00e9mise par\u00a0un syst\u00e8me d\u2019intelligence artificielle (IA). Port\u00e9e\u00a0et\u00a0perspectives"}]},{"@type":"WebSite","@id":"https:\/\/confluencedesdroits-larevue.com\/#website","url":"https:\/\/confluencedesdroits-larevue.com\/","name":"Confluence des droits_La revue","description":"UMR 7318 Droits International, Compar\u00e9 et Europ\u00e9en","publisher":{"@id":"https:\/\/confluencedesdroits-larevue.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/confluencedesdroits-larevue.com\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"fr-FR"},{"@type":"Organization","@id":"https:\/\/confluencedesdroits-larevue.com\/#organization","name":"Confluence des droits_La revue","url":"https:\/\/confluencedesdroits-larevue.com\/","logo":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/logo\/image\/","url":"https:\/\/confluencedesdroits-larevue.com\/wp-content\/uploads\/2024\/05\/Confluence-des-droits_La-revue.png","contentUrl":"https:\/\/confluencedesdroits-larevue.com\/wp-content\/uploads\/2024\/05\/Confluence-des-droits_La-revue.png","width":3934,"height":613,"caption":"Confluence des droits_La revue"},"image":{"@id":"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/logo\/image\/"}},{"@type":"Person","@id":"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/person\/5c2bef570684d183d7f5a81e4107304c","name":"DICE \u00c9ditions","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/confluencedesdroits-larevue.com\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/c7dfd2401bef8b8be87ab2a215ca0435?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/c7dfd2401bef8b8be87ab2a215ca0435?s=96&d=mm&r=g","caption":"DICE \u00c9ditions"},"url":"https:\/\/confluencedesdroits-larevue.com\/?author=2"}]}},"post_mailing_queue_ids":[],"_links":{"self":[{"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=\/wp\/v2\/posts\/3724"}],"collection":[{"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=3724"}],"version-history":[{"count":16,"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=\/wp\/v2\/posts\/3724\/revisions"}],"predecessor-version":[{"id":4170,"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=\/wp\/v2\/posts\/3724\/revisions\/4170"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=\/wp\/v2\/media\/3738"}],"wp:attachment":[{"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=3724"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=3724"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/confluencedesdroits-larevue.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=3724"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}