Les incidences sur la production des règles de droit

Les incidences sur la production des règles de droit

– L'influence de l'évolution technologique. – Le numérique est présent partout. Il crée un environnement pervasif, dans lequel la communication informatique s'immisce et se propage en permanence. Le monde numérique est devenu un milieu de vie. Les techniques de l'électronique pénètrent le quotidien sous le regard espion des Gafam et autres BATX Acronyme des géants du web : Gafam : Google, Apple, Facebook, Amazon, Microsoft ; BATX : Baidu, Alibaba, Tencent, Xiaomi. . C'est le cas de la domotique et ses objets connectés (IoT) Internet of Things. , de la surveillance par géolocalisation type traceur GPS Acronyme de Global Positioning System, système de positionnement par satellite. , ou bien encore des robots de compagnie pénétrant les lieux de vie. Au-delà de la vie réelle et des rapports humains se crée un monde virtuel. La collecte des données se fait au moyen d'algorithmes. Les statistiques ainsi produites ou leurs corrélations sont fondées sur une approche purement mathématique où le concepteur du programme décide du traitement des données et du niveau de satisfaction à atteindre.
Source : https://img-0.journaldunet.com/P1GaF1feCsozfWpEYDwPniAkEDI=/1280x/smart/5e34f1707adf4209a60499ac1dd29419/ccmcms-jdn/10921882.jpg">Lien
– L'influence des algorithmes. – Une mutation s'opère en raison et sous l'influence des algorithmes. Internet a été imaginé par des techniciens mettant en application la science mathématique. Il convient donc de faire attention à la logique du système numérique.

Réflexions d'auteurs sur l'« intelligence artificielle »

1) J.-G. Ganascia, professeur à la Sorbonne :
  • Le mythe de la singularité : faut-il craindre l'intelligence artificielle ? (www.youtube.com/watch?v=2C1Y2bD5ZSE">Lien) ;
  • Big Data, Deep Learning, Intelligence Artificielle au chevet de la médecine (www.youtube.com/watch?v=2C1Y2bD5ZSE">Lien) ; www.youtube.com/watch?v=gSVOOYZwCCw">Lien).
2) M. Buydens, L'intelligence artificielle et le droit : vertiges d'un nouveau monde (www.youtube.com/watch?v=1tl9x1vVE4I">Lien).
Fournir et mettre en relation des données ne signifie pas pour autant en faire une analyse approfondie. En effet, l'algorithme recherche automatiquement des corrélations entre les données fournies selon une fonction mathématique programmée pour arriver à une prédiction. Le concepteur du programme indique à l'algorithme s'il identifie correctement la donnée ou non pour la faire glisser dans une catégorie. Il suffit de modifier les paramètres pour modifier les résultats. Un exemple simple permet d'illustrer le propos :
L'immense base de données est une valeur ajoutée indéniable, mais la présence d'une analyse humaine est indispensable parce que dotée de sensibilité.
Le Machine Learning ou « apprentissage automatique » par algorithme est devenu banal. Il est fondé sur l'idée de collecte maximale de données à fin d'analyse pour trouver un lien permettant de créer une règle et faire ainsi des prédictions. Cependant son fonctionnement repose sur des données du passé, sur la mémoire de la récapitulation des données. L'analyse transversale des algorithmes manque d'introspection humaine, donc d'empathie. Les techniques d'enquête numérique peuvent ainsi fausser le jugement. Une décision rendue sans audition et hors la présence des parties au litige est nécessairement biaisée. La place du contradictoire est gommée. Pour être informatisé, tout doit être calculable ; or, peut-on calculer le juridique ? Prendre uniquement des indicateurs et des ratios est un non-sens en droit. En effet, le principe du contradictoire, principe fondamental consacré par les plus hautes juridictions, garantit un verdict prononcé après avoir entendu les parties et leur avoir permis de débattre. La confrontation des allégations et arguments de chacune des parties conduit à l'ajustement de la décision après examen de la pluralité de points de vue. Là est tout l'intérêt du contradictoire, lequel conditionne la prise d'une décision équitable. Lorsque ne sont prises en compte que les données informatiques rentrées dans un logiciel aux paramétrages prédéfinis, rigides et abscons, aucune place n'est laissée à l'analyse factuelle de la situation en cause et des circonstances exceptionnelles de l'affaire, de l'affect entourant chaque situation, mais également de l'appréciation de la bonne ou mauvaise foi de l'individu. Un algorithme n'est jamais neutre et peut à tout moment basculer dans l'absurde ou entraîner des discriminations Charte éthique européenne d'utilisation de l'intelligence artificielle dans les systèmes judiciaires et leur environnement, adoptée lors de la 31e réunion plénière de la Cepej (Strasbourg, 3-4 déc. 2018) (https://rm.coe.int/charte-ethique-fr-pour-publication-4-decembre-2018/16808f699b">Lien). . Dans un tel contexte, il semble irréaliste de s'assurer de la pertinence des solutions proposées par un algorithme privé d'esprit critique ou d'intuition.

L'image du panda de Goodfellow

Alors chercheur scientifique chez Google Brain, Ian J. Goodfellow publie la photographie d'un panda en introduisant de manière infinitésimale une nouvelle donnée (du bruit) dans l'image. L'algorithme de classification GoogleNet considéré comme ultraperformant étiquette l'image comme étant un gibbon à plus de 99 %.
a1-22-fig001
Image
Source : www.eidelman.org/">Lien</a>
Or voici ce qu'est un gibbon…
a1-22-fig002
Image
Source : https://pxhere.com/fr/photo/432781">Lien</a>
– L'influence de la simplification. – L'élaboration d'un corpus de règles « simplifiées », due notamment à l'évolution de la manière de concevoir les rapports du citoyen avec les autorités quelles qu'elles soient, impacte la manière de penser le droit. L'usager devient consommateur d'une prestation préfabriquée, sans réelle possibilité d'option. Le vortex numérique emporte sur son passage toutes les bases du domaine normatif et le contraint à bouger ses lignes. La dématérialisation influence la manière d'appréhender le droit par l'émergence de sources nouvelles et de nouveaux acteurs influenceurs. Le monde web s'opacifie alors que les lois de simplification se multiplient, ce qui est pour le moins très contradictoire. La manière hypersimplifiée change parfois la perception du droit, le faisant vaciller lors de sa mise en œuvre. La loi doit comprendre des dispositions suffisamment précises et des formules non équivoques CE, ass. gén., 13 juill. 2016, Simplification et qualité du droit (www.vie-publique.fr/sites/default/files/rapport/pdf/164000610.pdf">Lien). . Une adaptation est donc nécessaire : apporter des réponses ajustées aux nouvelles technologies et à leur mode d'utilisation devient un défi majeur.
– Les effets induits de la dématérialisation. – Les nouvelles technologies et les espaces numériques modifient les conditions d'exercice des droits fondamentaux et la manière traditionnelle de les concilier. L'enjeu est plus large avec l'émergence de droits fondamentaux numériques autonomes. Certes, la dématérialisation a pour source les interconnexions avec le monde réel. Cependant, d'innombrables domaines se superposent entraînant une difficulté supplémentaire majeure à articuler des règles générales et des règles spéciales. La dégéolocalisation en augmente la complexité. Pour éviter le retour à un modèle médiéval sous la protection des géants du web, les juristes tentent de s'adapter à cette terra incognita pour trouver un ordonnancement juridique pertinent.
Le Parlement européen, dans sa résolution du 16 février 2017 Comm. UE, rés. no 2015/2103, 16 févr. 2017, contenant des recommandations à la Commission concernant les règles de droit civil sur la robotique (www.europarl.europa.eu/doceo/document/TA-8-2017-0051_FR.html">Lien). , se réfère aux romanciers pour appuyer une règle de droit, ce qui traduit son malaise à traiter du problème de la robotique. Il définit l'autonomie d'un robot comme étant sa « capacité à prendre des décisions et à les mettre en pratique dans le monde extérieur indépendamment de tout contrôle ou influence extérieurs ». Il précise toutefois que cette autonomie est purement technique et résulte uniquement de sa programmation. La question qui se pose pour l'homme de droit est orwellienne. La dématérialisation est susceptible d'entraîner une stigmatisation de l'individu que l'on doit faire entrer dans les cases du logiciel. Avec cette dépersonnification, l'application de la règle de droit par algorithmes est tronquée. Le danger est la systématisation d'une norme méconnaissant les facteurs humains par ignorance de la logique qui sous-tend le traitement automatisé. La règle de droit est générale et abstraite. Elle est certes malléable, mais en présence d'une black box l'adéquation avec les spécificités du cas ou de l'individu est absente. La machine manque à la fois d'objectivité et de subjectivité. Le traitement par dématérialisation pose ainsi la question de l'absence de discrimination, de traitement équitable, de l'intelligibilité et de la transparence des processus décisionnels.
– L'adaptation des acteurs du droit. – L'influence du numérique sur le droit est sans conteste. L'adaptation des acteurs du droit face à l'inflation numérique est cruciale pour maintenir la cohésion d'un système juridique décorrélé des puissances connues mais non identifiables, Gafam et autres BATX. Le processus d'adaptation a commencé d'abord timidement puis de manière déterminée à l'instar du notariat, alors que des questions fondamentales tardent à trouver des réponses pertinentes.
Quant au droit de la santé, il doit s'accommoder de la téléconsultation à distance, comme la plateforme Docavenue hébergée par une société anonyme Cegedim avec les agréments du ministère de la Santé www.cegedim-logiciels.com/dyn/espace_client/Aide_en_ligne/MediClick/5.17/content/ch14s06s02.html">Lien .
Le droit des sociétés, lui, s'adapte au numérique. À titre d'exemple, depuis 2015, la convocation à une assemblée générale d'une société à responsabilité limitée peut se faire par voie électronique C. com., art. R. 223-20. à l'instar de ce qui existe pour les sociétés anonymes depuis 2002 V. infra, sur la dématérialisation des décisions sociales : V. infra, nos et s. . De même les mises à disposition de documents juridiques via les LegalTech foisonnent sur la toile. Ces entreprises proposant des business models du droit grâce à des robots juridiques – encore appelés chatbots – laissent supposer que la matière juridique est simple et accessible à tous V. infra, no . .
Le droit des contrats s'oriente également vers l'automatisation, avec la création de robots fabriquant des contrats, les smart contracts, les blockchains, etc., à l'instar de la blockchain TechNot'19 créée par la Chambre des notaires de Paris www.digitalberry.fr/reference/la-chambre-des-notaires-de-paris-experimente-la-blockchain-privee-avec-digitalberry/">Lien .
Le droit civil est confronté en permanence à de nouvelles problématiques. La place grandissante des objets connectés dans le quotidien complique l'application des règles actuelles de la responsabilité et nécessite de repenser la matière. L'individu est aujourd'hui multiple comme étant une personne mais également son ou ses avatars en fonction des réseaux où il apparaît. Ces facettes de lui-même vivant dans le monde réel et virtuel interrogent sur ce qu'est l'identité aujourd'hui et s'il existe une identité numérique V. infra, Commission 1, Partie II, nos et s. . Face au développement de l'acte électronique y compris en visioconférence, hors la présence d'une personne de confiance tel le notaire, la sécurisation de ce qu'est l'identité est primordiale. Elle est en effet au centre de toute relation contractuelle. Le consentement est également au cœur des débats et plus encore la preuve du consentement. Un algorithme connu sous le nom d'« Hemingway » est capable aujourd'hui de reproduire à l'identique une signature humaine. À partir d'images sont créées des personnes qui n'existent pas, on peut leur prêter des actions construites de toutes pièces, posant des problèmes probatoires certains. La mort de l'individu n'est plus seulement la disparition des fonctions végétatives et cérébrales. La personnalité de l'individu ne prend plus fin avec la mort réelle ou présumée.
La personne décédée laisse ses héritiers dans le plus grand désarroi numérique : ils hériteront de plus en plus d'identifiants numériques sans pouvoir les utiliser, même lorsque le défunt aura laissé des instructions à ce sujet. La clôture des comptes ouverts via internet est permise L. no 78-17, 6 janv. 1978, art. 85 : JO 7 janv. 1978 ; D. no 2019-536, 29 mai 2019 : JO 30 mai 2019, texte no 16. mais quasi impossible à réaliser.
– La dématérialisation source de progrès social. – Le numérique est souvent perçu comme un atout par le professionnel. Il est vrai qu'avec des recherches facilitées et une rapidité incontestable grâce au numérique, les professionnels du droit ont à leur disposition des ressources exponentielles.
Avant-gardiste, le notariat sait mettre à profit les opportunités pour améliorer la pratique. La plateforme d'échanges dématérialisée des données de l'état civil « Comedec » dépassant les huit millions de communications électroniques en est un exemple C. civ., art. 101-1 : JCP N 2018, no 1, act. 119 ; JCP N 2019, no 47, act. 897. . Le notariat est à l'origine de nombreux dispositifs améliorant ses relations avec les pouvoirs publics au service de l'intérêt général C. Borrel et P. Donon, Le notariat et la transformation numérique : JCP N 2020, no 9, act. 1056. . Il s'est également investi dans le fonctionnement du service de la publicité foncière de la Direction générale des finances publiques, pour le rendre encore plus performant Rép. min. no 12954 : JO Sénat Q 5 mars 2020, p. 1137. . Consultée plus de quatre cent mille fois, la base de vérification de la régularité de l'usage des locaux parisiens « Vidoc » a été mise en place en 2018 par la Chambre des notaires de Paris A. no BCRE1033003A, 10 déc. 2010, relatif à la mise en service par la Direction générale des finances publiques d'un traitement automatisé de données à caractère personnel dénommé « VIsualisation de la DOcumentation Cadastrale (Vidoc) » : JO 29 déc. 2010, no 301 ; https://paris.notaires.fr/fr/vidoc-consultation-des-declarations-foncieres-de-la-ville-de-paris/vidoc-consultation-des-declarations-foncieres-de-la-ville-de-paris">Lien . Démontrant son implication constante dans cette révolution numérique, elle promeut le projet « VictorIA » pour explorer le vaste potentiel offert par les nouvelles technologies au service du droit et des citoyens VictorIA : le projet en Intelligence Artificielle de la chambre des notaires de Paris : Defrénois 2020, art. 157c8 (https://paris.notaires.fr/sites/default/files/2020-02/2020-01-30_-_invitation_presse_-_projet_victoria_002.pdf">Lien). .
Si la dématérialisation est incontestablement source d'opportunités progressistes, elle connaît quelques revers néfastes.
– La dématérialisation, source de difficultés. – La profusion des LegalTech C'est-à-dire startups juridiques. et la myriade des services numériques sont difficilement lisibles pour le profane. Les raisons de cette illisibilité sont diverses.
La codification informatisée s'applique à des notions juridiques de plus en plus complexes. La volonté affichée du législateur est pourtant de simplifier le droit. L'inflation des lois de simplification du droit en témoigne Étude du Conseil d'État, Mesurer l'inflation législative, 3 mai 2018 (https://www.conseil-etat.fr/ressources/etudes-publications/rapports-etudes/etudes/mesurer-l-inflation-normative">Lien ; Rapp. AN no 1817, visant à lutter contre la sur-réglementation (www.assemblee-nationale.fr/dyn/15/rapports/cion_lois/l15b1817_rapport-fond">Lien). . Depuis 2004, plus de dix lois ont été adoptées avec pour objectif de rendre le droit intelligible tant pour le juriste que pour les citoyens. Ces lois se présentent donc sous une finalité vertueuse. Pourtant, loin de simplifier parfois, certaines d'entre elles entraînent des pertes de repère sur la manière d'interpréter les notions juridiques de la lex lata I.e. La loi telle qu'elle existe. . Elles laissent les professionnels du droit, mais plus encore le citoyen, dans la plus grande expectative. La dématérialisation accentue le phénomène. Pourtant, l'accessibilité et l'intelligibilité de la loi ont valeur constitutionnelle V. infra, no . . Les valeurs fondatrices de la pensée juridique sont profondément bousculées par la profusion des données et concepts numériques.
L'approche du droit sous le joug du numérique nécessite de repenser les normes juridiques.
– L'influence d'internet sur la manière d'appréhender le droit. – La connaissance des sources du droit est significativement améliorée par les banques de données juridiques en ligne P. Catala, Le droit à l'épreuve du numérique, Jus ex machina, PUF, coll. « Droit, Éthique, Société », 1998. . Le développement numérique influence l'évolution du droit par la puissance des moteurs de recherche. Ils attirent l'attention du juriste sur des sources ignorées jusqu'alors en dépit de son expérience http://enetter.fr/introduction/ii-le-numerique-et-le-droit/#1_8211_Lacces_a_linformation">Lien .
Le numérique entraîne un changement normatif en empruntant la voie déductive tirée du droit des gens E. Jouannet, L'idée de communauté humaine à la croisée de la communauté des États et de la communauté mondiale : Arch. phil. dr. 2003, t. 47, « La Mondialisation entre l'Illusion et l'Utopie », p. 191-232 (www.pantheonsorbonne.fr/fileadmin/IREDIES/Contributions_en_ligne/E._JOUANNET/Notion_de_communaute_humaine3.pdf">Lien). : à partir de considérations comportementales, philosophiques, ethnologiques ou religieuses influencées par les réseaux sociaux, la tentation est grande de faire vœu du plus grand nombre, et de redéfinir les règles de droit sous leur influence.
Si l'on considère un individu comme pouvant avoir plusieurs identités V. infra, Commission 1, Partie II, « Les attributs numériques de la personne ». ou plusieurs domiciles, réels, virtuels sur une interface mondiale, la difficulté à construire un droit national adapté à l'incursion du numérique est grandissante. Il semble impossible de distinguer avec netteté quelles règles sont applicables à l'individu naviguant sur la toile. Un nouveau jus cogens M. Charité, La notion de jus cogens en droit interne français. Réflexions sur un excès du droit international impératif (https://colloqdoccrjp.sciencesconf.org/data/pages/M._CHARITE_La_notion_de_jus_cogens_en_droit_interne_francais._Reflexions_sur_un_exces_du_droit_international_imperatif.pdf">Lien). pourrait être transposé au monde numérique en ce qu'il constitue un ensemble de droits universels supérieurs, bases des normes impératives du droit international général Conv. int. 23 mai 1969, art. 53 (convention de Vienne) : « Aux fins de la présente Convention, une norme impérative du droit international général est une norme acceptée et reconnue par la communauté internationale des États dans son ensemble en tant que norme à laquelle aucune dérogation n'est permise et qui ne peut être modifiée que par une nouvelle norme du droit international général ayant le même caractère ». . Pour l'heure, un droit coutumier numérique semble émerger, en proie à de nouveaux dictats.
– L'indispensable raisonnement juridique humain. – S'affranchir du raisonnement humain conduit à stigmatiser et stéréotyper la participation du citoyen à la vie sociale. L'idéal de réalisation efficace grâce au numérique risque de réduire le droit à une simple technique machinique.
Le « droit numérique » auquel on veut tendre se construit à partir de données purement mathématiques. Or, chaque source du droit fait l'objet d'un traitement analytique approprié. Le droit enrichi par la jurisprudence se renouvelle. Cela constitue une force d'adaptation aux évolutions sociétales et par conséquent une source de progrès. À l'origine, la jurisprudence était la science du droit. Les juristes déployaient leur talent de sagesse et faisaient autorité en participant à l'action jurisdictio.
Aujourd'hui nombre de professionnels traduisent le droit et réduisent sensiblement les éventuels conflits. La médiation prend en effet de l'ampleur, phénomène significatif d'un besoin d'échanges humains maîtrisés. L'application numérique risque d'entraîner une homogénéisation de situations par essence singulières. Un droit positif futur basé sur des données mathématiques informatisées constitue un droit négatif si le scénario mis en place est le suivant : le juge fait des recherches par mot-clé ; selon des critères inconnus du juriste, les algorithmes lui révèlent des données ; ces données influencent les décisions prises, qui à leur tour nourrissent des algorithmes, donnant naissance à des e-décisions. En outre, l'obsolescence technologique inquiète.
Les données stockées aujourd'hui seront peut-être inutilisables demain. La transformation numérique doit prendre en compte l'ensemble des problématiques mécaniques, humaines, énergétiques et environnementales. Une adaptation est là encore nécessaire. Un équilibre entre la transformation numérique source de progrès, la maîtrise de la technique et le monde juridique reste à trouver.
En 2019, le Comité des Ministres de l'Europe a créé un Comité ad hoc sur l'intelligence artificielle (CAHAI) www.coe.int/fr/web/artificial-intelligence/-/the-council-of-europe-established-an-ad-hoc-committee-on-artificial-intelligence-cahai">Lien . Ce comité est chargé d'examiner « la faisabilité et les éléments potentiels, sur la base de larges consultations multipartites, d'un cadre juridique pour le développement, la conception et l'application de l'intelligence artificielle, fondé sur les normes du Conseil de l'Europe en matière de droits de l'homme, de démocratie et d'État de droit ». La mise en place d'une éthique tournée vers l'action normative est à envisager afin de tracer une ligne directrice sur laquelle doit reposer le droit. Pour assurer cet équilibre, une ou des autorités capables de maîtriser autant la technique que le juridique sont à espérer.
  • le respect des droits fondamentaux ;
  • la non-discrimination entre les individus et groupes d'individus ;
  • la qualité et la sécurité ;
  • la transparence et la neutralité, l'intégrité intellectuelle ;
  • la maîtrise par l'utilisateur : la gouvernance des données, le contrôle du processus par la personne.
– Les dérives engendrées par la dématérialisation du droit. – L'utilisation des algorithmes a permis d'améliorer la recherche juridique. Toutefois, les moteurs de recherche affichent des décisions de justice sans classement par ordre d'importance. La hiérarchisation des décisions fait défaut, le principal et le secondaire risquent d'apparaître au même rang dans les résultats proposés. Si le numérique est synonyme de rapidité, l'accès à la bonne information n'est pas assuré. Nombreux sont les exemples de dérives occasionnées par leur utilisation. La justice prédictive est définie comme étant une solution donnée à un litige à partir de moyens informatiques www.courdecassation.fr/publications_26/prises_parole_2039/discours_2202/marin_procureur_7116/justice_predictive_38599.html">Lien . Bien que l'idée d'une prévisibilité de la justice soit ancienne B. Dondero, Justice prédictive : la fin de l'aléa judiciaire ? : D. 2017, p. 532. , elle fait l'objet d'une attention particulière ces dernières années www.conseil-etat.fr/actualites/discours-et-interventions/la-justice-predictive">Lien . Elle a été testée en France à titre expérimental en matière civile avec l'utilisation du logiciel de la startup « Predictice ». Ce programme informatique prétend être en mesure de prévoir une décision judiciaire grâce au traitement algorithmique préalable de l'ensemble de la jurisprudence. Mise en place dans les cours d'appel de Rennes et de Douai en partenariat avec la Chancellerie, l'expérience déçoit comme étant trop aléatoire www.dalloz-actualite.fr/interview/l-utilisation-de-l-outil-predictice-decoit-cour-d-appel-de-rennes#.XlrHvpVKjIU">Lien .
Plus encore, aux États-Unis, la justice prédictive a été remise en cause comme étant trop discriminatoire. Les algorithmes utilisés ont conduit à la surincarcération des jeunes Afro-Américains ou à la stigmatisation de leur propension de récidive criminelle. Le logiciel Compas Correctional Offender Management Profiling for Alternative Sanctions. , sur lequel se sont fondés les tribunaux pénaux américains, appartient à une entreprise privée. Cette société, Northpoint, considère son algorithme comme un secret commercial. Son refus d'autoriser les accusés et même la justice à examiner sa formule mathématique semble inconcevable quand il s'agit de condamner un individu.
Les Pays-Bas, fervents utilisateurs du numérique JCP G 17 déc. 2018, suppl. au no 51, p. 51 (www.rug.nl/research/portal/files/73992203/La_Semaine_Juridique_Pavillon.pdf">Lien). , ont eux aussi expérimenté les tribunaux électroniques, plateformes de justice numérique. Jugé peu objectif et manquant d'impartialité, le système des e-courts s'est arrêté après quelques mois www.horizonspublics.fr/juridique/le-droit-et-la-justice-sous-limpact-du-numerique-etat-des-lieux">Lien .
Consciente des difficultés engendrées par la cyberjustice, la Commission européenne, dans une Charte pour l'efficacité de la justice « Cepej », a adopté cinq principes Commission européenne pour l'efficacité de la justice (Cepej), Charte éthique européenne d'utilisation de l'intelligence artificielle dans les systèmes judiciaires et leur environnement, 31e réunion plénière de la Cepej, 3-4 déc. 2018) (https://rm.coe.int/charte-ethique-fr-pour-publication-4-decembre-2018/16808f699b">Lien). :