L’IA dans la justice : voici des pistes de réflexion pour allier éthique, technologies et protection juridique

L’intelligence artificielle (IA) s’invite peu à peu dans les systèmes judiciaires à travers le monde, transformant la manière dont juges, avocats et justiciables interagissent avec la justice. Entre outils de reconnaissance vocale, analyse prédictive et automatisation des tâches administratives, ces technologies promettent d’améliorer l’efficacité et l’accessibilité de la justice.

Au Maroc, cette transition technologique suscite autant d’espoirs que de questionnements. Si l’IA peut alléger la charge de travail des magistrats, greffiers et avocats, tout en accélérant la digitalisation, elle soulève des enjeux cruciaux : biais algorithmiques, protection des données personnelles et respect des droits fondamentaux.

Dans cet entretien, Me Kawtar Jalal, avocate au barreau de Casablanca, partage son expertise sur les opportunités et les défis de cette révolution judiciaire.

Médias24 : Pouvons-nous prétendre à une intégration, dans un futur proche ou moyen, d’outils basés sur l’intelligence artificielle, dans le système judiciaire ?

Me Kawtar Jalal : Au Maroc, le ministre de la Justice avait déclaré le mardi 11 juin 2024, devant la Commission de justice, de législation et des droits de l’homme à la Chambre des représentants que son département a “acquis un programme similaire à ChatGPT et l’a remis au Conseil supérieur du pouvoir judiciaire (CSPJ) pour qu’il le distribue aux juges. Il allégera la charge de travail des juges en matière de rédaction des jugements. Les juges se contenteront d’oraliser l’énoncé du verdict que l’intelligence artificielle le transformera en texte écrit”. Il s’agit d’un outil d’IA permettant la reconnaissance vocale et la transcription automatique mais qui n’implique aucunement une prise de décision automatisée et donc son utilisation ne soulève pas de problématiques juridiques particulières. Je ne dispose pas de plus d’informations sur ce point.

Quand on parle d’intégration d’IA dans le système judiciaire, on vise l'utilisation de l'automatisation et des algorithmes dans le système judiciaire communément appelée la justice automatisée ou prédictive tel qu’il en est fait usage en droit comparé. En France, des plateformes comme ‘Predictice et Case Law Analytics’ utilisent l'IA pour analyser la jurisprudence et aider aussi bien les avocats que les juges à évaluer les probabilités de succès d'un contentieux ou encore estimer les montants d'indemnisation.

On peut citer aussi le cas du gouvernement estonien qui a développé une intelligence artificielle qui devra arbitrer de façon autonome des affaires de délits mineurs. Ce système d'IA pourra traiter les litiges de faible valeur (moins de 7.000 €) en analysant les documents soumis et proposer une décision, qui peut être contestée devant un juge humain.

Un autre outil d’IA très controversé est celui dénommé ‘COMPAS’ utilisé dans plusieurs États américains pour évaluer les risques de récidive des prévenus. Il aide les juges à prendre des décisions sur la libération sous caution ou les peines.

Au Maroc, le premier paragraphe de l’article 11 de la loi 09.08 relative à la protection des données à caractère personnel dispose qu’aucune décision de justice impliquant une appréciation sur le comportement d'une personne ne peut avoir pour fondement un traitement automatisé de données à caractère personnel destiné à évaluer certains aspects de sa personnalité. Cette disposition légale consacre la prohibition de fonder un jugement sur un traitement automatisé aboutissant à une décision entièrement automatisée obtenue par le biais d’algorithmes appliqués à ces données à caractère personnel, sans qu’aucun être humain n’intervienne dans le processus.

La loi française ‘informatique et libertés’ consacre la même interdiction dans son article 47 et le RGPD (Règlement général sur la protection des données, ndlr) la consacre également par le biais de son article 22. On comprend qu’il est interdit, par la loi, de fonder un jugement sur un outil d’intelligence artificielle et qu’il est indispensable de prévoir une intervention humaine afin d’éviter les biais algorithmiques qui peuvent compromettre les droits des individus à l’image de ce qui est reproché à l’IA COMPASS susvisée.

Ces outils peuvent être utilisés afin d’évaluer les risques de récidive ou recommander des peines ou encore dans le cadre d’outils de justice prédictive et donc analyser la jurisprudence pour anticiper l'issue d'un litige comme en France.

L’utilisation de l’IA dans le système judiciaire soulève des questions éthiques et juridiques

Il est indéniable que l’utilisation de l’IA dans le système judiciaire permettra d’améliorer l’efficacité et l'accès à la justice. Toutefois, cela soulève des questions éthiques et juridiques, notamment en matière de transparence, de biais algorithmiques et de protection des droits fondamentaux.

Par exemple si on prend l’exemple de l’IA COMPASS, certes elle permet de réduire le temps nécessaire pour analyser les dossiers et assure une standardisation de certaines évaluations qui peut ne pas être remplie avec un travail humain, mais d’un autre côté il a été constaté, selon une étude publiée en 2016, que cet outil peut présenter des biais raciaux et porte préjudice à la population noire. À titre de clarification, notons qu’un biais algorithmique est une situation où un algorithme produit des résultats qui favorisent ou défavorisent injustement certaines personnes ou groupes, souvent en raison de la manière dont il a été conçu ou des données utilisées pour son apprentissage.

Qui est responsable en cas d’erreur ?

En outre, une autre problématique se pose. Elle est liée à la responsabilité, en cas d’erreur engendrée par une décision dictée par l’IA. Incombe-t-elle au développeur de l’algorithme, à l’utilisateur, en l’occurrence le juge, ou bien à l’institution judiciaire ?

Il est évident que la notion de l’intime conviction du juge précisée dans l’article 286 du Code de procédure pénale est fondamentalement remise en cause en cas d’utilisation d’une IA en matière pénale, car elle repose sur des considérations humaines et contextuelles que les algorithmes ne peuvent pas prendre en compte.

Eu égard à ce qui précède, on peut dire que l’intégration de l’IA est faisable mais le plus important à mon sens, est que l’IA soit encadrée par des principes éthiques, juridiques et technologiques solides d’où la nécessité de prévoir au préalable un cadre légal afin d’éviter le chaos qui règne dans l’utilisation des réseaux sociaux. La vigilance s’impose.

- Et, compte tenu du retard en matière de digitalisation, est-ce que l’IA a réellement une place à prendre ?

- Elles peuvent aller de pair et je peux même dire que l’IA peut être un catalyseur de transformation pour accélérer la digitalisation. Concrètement, l’utilisation de l’IA, objet de la déclaration du ministre visée ci-dessus, permettra un gain de temps énorme pour les juges dans la rédaction des jugements.

Le site Mahakim est une belle illustration de la politique de digitalisation. Il est possible de consulter l'état d’une procédure en cours en ligne, sans avoir à se rendre physiquement au tribunal. Les algorithmes peuvent automatiser des tâches fastidieuses comme le traitement des dossiers ou la recherche juridique, cela permettra de moderniser rapidement certaines procédures et, le plus important, de libérer des ressources humaines pour se concentrer sur des tâches à plus forte valeur ajoutée.

-Quels sont les obstacles spécifiques à l’intégration de l’IA dans les systèmes judiciaires marocains, notamment en termes d’infrastructures, de formation ou d’acceptation culturelle ?

- Pour une implémentation réussie de l’IA dans le système judiciaire, il faut :

• Disposer d’une infrastructure technologique suffisante qui doit se traduire par une connexion à l’internet sans interruption et de qualité ainsi que du matériel informatique de qualité et non obsolète;
• Former les professionnels du droit en l’occurrence les avocats, les juges et les greffiers. La réalité est que la majorité n’est pas formée à l'utilisation des technologies de l'IA. Il est dommage de ne pas y remédier au niveau même de l’Université;
• Prévoir un cadre juridique et éthique car cela pose un sérieux souci de conformité légale, de transparence et de protection des données à caractère personnel.

Des initiatives récentes, telles que le colloque organisé par l'UNESCO et le Conseil Supérieur du Pouvoir Judiciaire du Maroc en octobre 2024, montrent une volonté de moderniser le système judiciaire en intégrant l'IA, tout en abordant les défis éthiques et techniques associés.

Le cadre légal de l’IA doit avoir pour objet de réglementer le développement, le déploiement et l’utilisation de l’IA en mettant l'accent sur la sécurité, les droits fondamentaux et la transparence

-Comment l’intelligence artificielle peut améliorer le fonctionnement du système judiciaire ? Et quel sera l’impact sur le rôle de l’avocat et sur les intérêts du citoyen ?

- En tant qu’avocate, j’utilise quelques outils IA dans la recherche jurisprudentielle, la rédaction des documents standards tels que des courriers d’information destinés aux clients, ou encore la préparation de présentations lors des séminaires ou réunions clients. Ce gain de temps me permet de travailler sur des sujets qui sollicitent une réflexion intellectuelle, un travail d’analyse et d’argumentation.

Dans le système judiciaire, l’IA permettra d’automatiser des tâches répétitives tels que l’enrôlement des dossiers, la planification et le report des audiences en priorisant les dossiers en fonction de leur ancienneté. L’IA a déjà été déployée dans plusieurs systèmes judiciaires pour automatiser la gestion administrative des tribunaux.

Le cadre légal doit veiller à établir un équilibre entre innovation technologique et protection des droits fondamentaux

-Le ministre de la Justice avait annoncé qu’un cadre légal de l’IA verra le jour avant les prochaines élections. En tout cas, c’est une échéance prévue. Pensez-vous que ce cadre doit être élaboré plus tôt ?

- Je considère qu’il s’agit d’un sujet imminent et il faut s’y mettre sans plus tarder. Le cadre légal de l’IA doit avoir pour objet de réglementer le développement, le déploiement et l’utilisation de l’IA en mettant l'accent sur la sécurité, les droits fondamentaux et la transparence.

Au niveau européen, le Règlement sur l’intelligence artificielle (AI Act) est un exemple de législation régissant l’IA. Le cadre doit veiller à établir un équilibre entre innovation technologique et protection des droits fondamentaux, tout en incitant les entreprises à développer des IA éthiques et responsables.

L'IA évolue rapidement et une réglementation va contribuer à limiter les abus liés à l’utilisation non éthique de l’IA et instaurer une confiance des citoyens.

-Quelles sont les principales dérives qui, selon vous, doivent être nécessairement encadrées dans la loi à venir ? Et quels sont les principaux droits à garantir dans le même texte ?

- Les principales dérives qui doivent être encadrées par une éventuelle réglementation sont liées aux biais et discriminations car il faut avouer que les modèles d’IA peuvent reproduire ou amplifier des biais existants entraînant des discriminations, l’exemple phare est celui de l’IA COMPASS susvisée. C’est pourquoi il est important de prévoir une obligation de transparence sur les jeux de données utilisés et d’imposer des audits réguliers des biais algorithmiques, en interdisant expressément toute discrimination.

Un autre exemple est celui d’une entreprise qui utilise un système d’IA pour filtrer les CV et sélectionner les candidats. Cet outil est entraîné sur des données historiques des recrutements passés de l’entreprise. Supposons que par le passé, cette entreprise a principalement recruté des hommes pour des postes de commerciaux, l’IA peut apprendre à privilégier les candidatures masculines. Ce biais algorithmique perpétue une inégalité structurelle dans le processus de recrutement excluant des femmes.

Une autre dérive est liée à la protection des données à caractère personnel dans la mesure où les outils d’IA traitent ces données à grande échelle et le risque de violation de la vie privée est présent. Il en résulte qu’il serait opportun que la réglementation se penche sur l’obligation d’anonymisation et aussi le respect des droits des personnes concernées contenus dans la loi 09.08 susvisée, en l’occurrence le droit d’accès, de rectification et de suppression.

En outre, il est généralement admis que les décisions issues des systèmes d'IA sont opaques rendant ainsi délicates leur interprétation ou contestation. Il serait opportun que la réglementation impose une obligation de transparence sur les mécanismes décisionnels notamment une explicabilité des algorithmes.

La Loi pour une République numérique, adoptée en France en octobre 2016, contient plusieurs dispositions sur la transparence des algorithmes publics. L’article 4 de cette loi impose aux administrations publiques de fournir des explications sur le fonctionnement des traitements algorithmiques utilisés dans leurs décisions, et ces explications portent sur l’existence de l’utilisation d’un algorithme, les règles de fonctionnement et les caractéristiques principales de l’algorithme notamment ses paramètres essentiels, et la logique sous-jacente en l’occurrence une explication compréhensible des mécanismes logiques construisant la décision. Il est clair que cette transparence vise à garantir le respect des droits fondamentaux, comme l’égalité devant les services publics et la protection des données à caractère personnel.

Notons aussi qu’il y a un risque pour la stabilité des emplois et il faut veiller à mettre en place des stratégies permettant d’utiliser l’IA comme soutien de l’humain et non en remplacement de l’humain.

Enfin, il est impératif de conserver un contrôle humain pour les décisions sensibles.

À titre de précision, il s’agit d’une liste énonciative et non limitative.

L’idée est de mettre en place un cadre légal instaurant un équilibre entre l’innovation technologique et la protection des droits humains fondamentaux

- Et quels sont les principaux droits à garantir dans le même texte ?

-Les principaux droits à garantir dans le cadre d’une réglementation d’IA se présentent comme suit :

• Les personnes concernées doivent être informées qu’une IA va prendre une décision les concernant et ils doivent avoir un droit d’accès à des explications claires et compréhensibles sur les algorithmes et leur fonctionnement;
•  Les personnes concernées ont le droit au respect de leur vie privée et à la protection de leurs données à caractère personnel. Ils doivent donner leur consentement explicite à l’utilisation de leurs données dans le cadre d’un outil IA et l’utilisateur doit avoir une obligation de sécurité à sa charge afin de protéger ces données de tout usage abusif et doit permettre à ces personnes concernées d’exercer leurs droits tels que précisés par la loi 09.08 relative à la protection des données à caractère personnel.

L’idée est de mettre en place un cadre légal instaurant un équilibre entre l’innovation technologique et la protection des droits humains fondamentaux en l’occurrence les droits inhérents à tout être humain, indépendamment de sa nationalité, de son origine, de son genre, de sa religion ou de toute autre distinction. Ces droits, universels et inaliénables, sont consacrés dans l’article 19 de la Constitution marocaine.

Concrètement, il est primordial d’interdire les outils d’IA qui présentent un niveau de risque élevé d’atteinte aux droits fondamentaux et de sensibiliser les professionnels et les citoyens aux enjeux éthiques de l’IA. Une réglementation équilibrée doit trouver un compromis entre l’innovation technologique et la protection des droits humains fondamentaux.