Chapitre II – L’identification des risques pour les citoyens

L’immense base de données est une valeur ajoutée indéniable, mais la présence d’une analyse humaine est indispensable parce que dotée de sensibilité.

Le Machine Learning ou « apprentissage automatique » par algorithme est devenu banal. Il est fondé sur l’idée de collecte maximale de données à fin d’analyse pour trouver un lien permettant de créer une règle et faire ainsi des prédictions. Cependant son fonctionnement repose sur des données du passé, sur la mémoire de la récapitulation des données. L’analyse transversale des algorithmes manque d’introspection humaine, donc d’empathie. Les techniques d’enquête numérique peuvent ainsi fausser le jugement. Une décision rendue sans audition et hors la présence des parties au litige est nécessairement biaisée. La place du contradictoire est gommée. Pour être informatisé, tout doit être calculable ; or, peut-on calculer le juridique ? Prendre uniquement des indicateurs et des ratios est un non-sens en droit. En effet, le principe du contradictoire, principe fondamental consacré par les plus hautes juridictions, garantit un verdict prononcé après avoir entendu les parties et leur avoir permis de débattre. La confrontation des allégations et arguments de chacune des parties conduit à l’ajustement de la décision après examen de la pluralité de points de vue. Là est tout l’intérêt du contradictoire, lequel conditionne la prise d’une décision équitable. Lorsque ne sont prises en compte que les données informatiques rentrées dans un logiciel aux paramétrages prédéfinis, rigides et abscons, aucune place n’est laissée à l’analyse factuelle de la situation en cause et des circonstances exceptionnelles de l’affaire, de l’affect entourant chaque situation, mais également de l’appréciation de la bonne ou mauvaise foi de l’individu. Un algorithme n’est jamais neutre et peut à tout moment basculer dans l’absurde ou entraîner des discriminations⁴⁹. Dans un tel contexte, il semble irréaliste de s’assurer de la pertinence des solutions proposées par un algorithme privé d’esprit critique ou d’intuition.

Le Parlement européen, dans sa résolution du 16 février 2017⁵¹, se réfère aux romanciers pour appuyer une règle de droit, ce qui traduit son malaise à traiter du problème de la robotique. Il définit l’autonomie d’un robot comme étant sa « capacité à prendre des décisions et à les mettre en pratique dans le monde extérieur indépendamment de tout contrôle ou influence extérieurs ». Il précise toutefois que cette autonomie est purement technique et résulte uniquement de sa programmation. La question qui se pose pour l’homme de droit est orwellienne. La dématérialisation est susceptible d’entraîner une stigmatisation de l’individu que l’on doit faire entrer dans les cases du logiciel. Avec cette dépersonnification, l’application de la règle de droit par algorithmes est tronquée. Le danger est la systématisation d’une norme méconnaissant les facteurs humains par ignorance de la logique qui sous-tend le traitement automatisé. La règle de droit est générale et abstraite. Elle est certes malléable, mais en présence d’une black box l’adéquation avec les spécificités du cas ou de l’individu est absente. La machine manque à la fois d’objectivité et de subjectivité. Le traitement par dématérialisation pose ainsi la question de l’absence de discrimination, de traitement équitable, de l’intelligibilité et de la transparence des processus décisionnels.

Quant au droit de la santé, il doit s’accommoder de la téléconsultation à distance, comme la plateforme Docavenue hébergée par une société anonyme Cegedim avec les agréments du ministère de la Santé⁵².

Le droit des sociétés, lui, s’adapte au numérique. À titre d’exemple, depuis 2015, la convocation à une assemblée générale d’une société à responsabilité limitée peut se faire par voie électronique⁵³ à l’instar de ce qui existe pour les sociétés anonymes depuis 2002⁵⁴. De même les mises à disposition de documents juridiques via les LegalTech foisonnent sur la toile. Ces entreprises proposant des business models du droit grâce à des robots juridiques – encore appelés chatbots – laissent supposer que la matière juridique est simple et accessible à tous⁵⁵.

Le droit des contrats s’oriente également vers l’automatisation, avec la création de robots fabriquant des contrats, les smart contracts, les blockchains, etc., à l’instar de la blockchain TechNot’19 créée par la Chambre des notaires de Paris⁵⁶.

Le droit civil est confronté en permanence à de nouvelles problématiques. La place grandissante des objets connectés dans le quotidien complique l’application des règles actuelles de la responsabilité et nécessite de repenser la matière. L’individu est aujourd’hui multiple comme étant une personne mais également son ou ses avatars en fonction des réseaux où il apparaît. Ces facettes de lui-même vivant dans le monde réel et virtuel interrogent sur ce qu’est l’identité aujourd’hui et s’il existe une identité numérique⁵⁷. Face au développement de l’acte électronique y compris en visioconférence, hors la présence d’une personne de confiance tel le notaire, la sécurisation de ce qu’est l’identité est primordiale. Elle est en effet au centre de toute relation contractuelle. Le consentement est également au cœur des débats et plus encore la preuve du consentement. Un algorithme connu sous le nom d’« Hemingway » est capable aujourd’hui de reproduire à l’identique une signature humaine. À partir d’images sont créées des personnes qui n’existent pas, on peut leur prêter des actions construites de toutes pièces, posant des problèmes probatoires certains. La mort de l’individu n’est plus seulement la disparition des fonctions végétatives et cérébrales. La personnalité de l’individu ne prend plus fin avec la mort réelle ou présumée.

La personne décédée laisse ses héritiers dans le plus grand désarroi numérique : ils hériteront de plus en plus d’identifiants numériques sans pouvoir les utiliser, même lorsque le défunt aura laissé des instructions à ce sujet. La clôture des comptes ouverts via internet est permise⁵⁸ mais quasi impossible à réaliser.

Avant-gardiste, le notariat sait mettre à profit les opportunités pour améliorer la pratique. La plateforme d’échanges dématérialisée des données de l’état civil « Comedec » dépassant les huit millions de communications électroniques en est un exemple⁵⁹. Le notariat est à l’origine de nombreux dispositifs améliorant ses relations avec les pouvoirs publics au service de l’intérêt général⁶⁰. Il s’est également investi dans le fonctionnement du service de la publicité foncière de la Direction générale des finances publiques, pour le rendre encore plus performant⁶¹. Consultée plus de quatre cent mille fois, la base de vérification de la régularité de l’usage des locaux parisiens « Vidoc » a été mise en place en 2018 par la Chambre des notaires de Paris⁶². Démontrant son implication constante dans cette révolution numérique, elle promeut le projet « VictorIA » pour explorer le vaste potentiel offert par les nouvelles technologies au service du droit et des citoyens⁶³.

Si la dématérialisation est incontestablement source d’opportunités progressistes, elle connaît quelques revers néfastes.

La codification informatisée s’applique à des notions juridiques de plus en plus complexes. La volonté affichée du législateur est pourtant de simplifier le droit. L’inflation des lois de simplification du droit en témoigne⁶⁵. Depuis 2004, plus de dix lois ont été adoptées avec pour objectif de rendre le droit intelligible tant pour le juriste que pour les citoyens. Ces lois se présentent donc sous une finalité vertueuse. Pourtant, loin de simplifier parfois, certaines d’entre elles entraînent des pertes de repère sur la manière d’interpréter les notions juridiques de la lex lata⁶⁶. Elles laissent les professionnels du droit, mais plus encore le citoyen, dans la plus grande expectative. La dématérialisation accentue le phénomène. Pourtant, l’accessibilité et l’intelligibilité de la loi ont valeur constitutionnelle⁶⁷. Les valeurs fondatrices de la pensée juridique sont profondément bousculées par la profusion des données et concepts numériques.

L’approche du droit sous le joug du numérique nécessite de repenser les normes juridiques.

Le numérique entraîne un changement normatif en empruntant la voie déductive tirée du droit des gens⁷⁰ : à partir de considérations comportementales, philosophiques, ethnologiques ou religieuses influencées par les réseaux sociaux, la tentation est grande de faire vœu du plus grand nombre, et de redéfinir les règles de droit sous leur influence.

Si l’on considère un individu comme pouvant avoir plusieurs identités⁷¹ ou plusieurs domiciles, réels, virtuels sur une interface mondiale, la difficulté à construire un droit national adapté à l’incursion du numérique est grandissante. Il semble impossible de distinguer avec netteté quelles règles sont applicables à l’individu naviguant sur la toile. Un nouveau jus cogens⁷² pourrait être transposé au monde numérique en ce qu’il constitue un ensemble de droits universels supérieurs, bases des normes impératives du droit international général⁷³. Pour l’heure, un droit coutumier numérique semble émerger, en proie à de nouveaux dictats.

Le « droit numérique » auquel on veut tendre se construit à partir de données purement mathématiques. Or, chaque source du droit fait l’objet d’un traitement analytique approprié. Le droit enrichi par la jurisprudence se renouvelle. Cela constitue une force d’adaptation aux évolutions sociétales et par conséquent une source de progrès. À l’origine, la jurisprudence était la science du droit. Les juristes déployaient leur talent de sagesse et faisaient autorité en participant à l’action jurisdictio.

Aujourd’hui nombre de professionnels traduisent le droit et réduisent sensiblement les éventuels conflits. La médiation prend en effet de l’ampleur, phénomène significatif d’un besoin d’échanges humains maîtrisés. L’application numérique risque d’entraîner une homogénéisation de situations par essence singulières. Un droit positif futur basé sur des données mathématiques informatisées constitue un droit négatif si le scénario mis en place est le suivant : le juge fait des recherches par mot-clé ; selon des critères inconnus du juriste, les algorithmes lui révèlent des données ; ces données influencent les décisions prises, qui à leur tour nourrissent des algorithmes, donnant naissance à des e-décisions. En outre, l’obsolescence technologique inquiète.

Les données stockées aujourd’hui seront peut-être inutilisables demain. La transformation numérique doit prendre en compte l’ensemble des problématiques mécaniques, humaines, énergétiques et environnementales. Une adaptation est là encore nécessaire. Un équilibre entre la transformation numérique source de progrès, la maîtrise de la technique et le monde juridique reste à trouver.

En 2019, le Comité des Ministres de l’Europe a créé un Comité ad hoc sur l’intelligence artificielle (CAHAI)⁷⁴. Ce comité est chargé d’examiner « la faisabilité et les éléments potentiels, sur la base de larges consultations multipartites, d’un cadre juridique pour le développement, la conception et l’application de l’intelligence artificielle, fondé sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’État de droit ». La mise en place d’une éthique tournée vers l’action normative est à envisager afin de tracer une ligne directrice sur laquelle doit reposer le droit. Pour assurer cet équilibre, une ou des autorités capables de maîtriser autant la technique que le juridique sont à espérer.

Plus encore, aux États-Unis, la justice prédictive a été remise en cause comme étant trop discriminatoire. Les algorithmes utilisés ont conduit à la surincarcération des jeunes Afro-Américains ou à la stigmatisation de leur propension de récidive criminelle. Le logiciel Compas⁷⁹, sur lequel se sont fondés les tribunaux pénaux américains, appartient à une entreprise privée. Cette société, Northpoint, considère son algorithme comme un secret commercial. Son refus d’autoriser les accusés et même la justice à examiner sa formule mathématique semble inconcevable quand il s’agit de condamner un individu.

Les Pays-Bas, fervents utilisateurs du numérique⁸⁰, ont eux aussi expérimenté les tribunaux électroniques, plateformes de justice numérique. Jugé peu objectif et manquant d’impartialité, le système des e-courts s’est arrêté après quelques mois⁸¹.

Consciente des difficultés engendrées par la cyberjustice, la Commission européenne, dans une Charte pour l’efficacité de la justice « Cepej », a adopté cinq principes⁸² :

Cette accessibilité numérique est loin de signifier l’assimilation juridique des données récoltées⁸⁴. Pour illustrer le propos, il suffit de s’intéresser à la notion de faute. En matière civile, aucune définition n’existe, ni légale ni jurisprudentielle. La Cour de cassation ne s’est pas prononcée sur le sujet. Sa caractérisation relève de la compétence des juges du fond. La Haute Cour contrôle en dernier ressort la qualification juridique donnée par les premières instances⁸⁵. La doctrine en a déduit que la faute s’analyse en un manquement à une obligation préexistante⁸⁶. En droit pénal, la faute est dépendante de la notion d’intention. La loi de programmation 2018-2022⁸⁷ s’oriente vers une justice sur dossier. Dans l’exemple cité, le profane peut être leurré par une lecture sommaire d’une définition trouvée sur internet, et estimer à tort qu’une erreur de conduite ou une défaillance sont constitutives d’une faute pénale. Par ailleurs, des LegalTech⁸⁸ proposent de sonder ses chances de réussite ou de perte au procès en fonction des éléments qu’il aurait lui-même fournis. Il sera sans doute tenté de saisir la juridiction compétente via une plateforme d’accès. Cela participera à terme soit à l’engorgement des tribunaux, soit à la création de e-tribunaux.