Maître vous avez la parole…

Faut-il instaurer un régime juridique spécifique pour les robots ? Question saugrenue à première vue.

Mais, auriez-vous pensé  un jour retrouver les lois de la robotique élaborées par Isaac Asimov dans une proposition de résolution du Parlement européen ? Et bien non, ce n'est pas de la science-fiction: elles figurent en bonne place (page 5/24) dans le rapport Delvaux ayant soumis à la Commission juridique européenne des recommandations concernant les règles de droit civil sur la robotique.

Rappelons ces lois fondamentales:

• (1) Un robot ne peut attenter à la sécurité d'un être humain, ni, par inaction, permettre qu'un être humain soit mis en danger.
• (2) Un robot doit obéir aux ordres d'un être humain, sauf si ces ordres entrent en conflit avec la première loi.
• (3) Un robot doit protéger sa propre existence tant que cela n'entre pas en conflit avec la première ou la deuxième loi. (Voir I. Asimov, Cercle vicieux (Runaround, 1942).
• (0) Un robot ne peut faire de mal à l'humanité, ni, par inaction, permettre que l'humanité soit mise en danger

L'eurodéputée luxembourgeoise, Mady Delvaux rapporteure du projet, a fixé d'emblée les enjeux: l'humanité se trouve à l'aube d'une ère où les robots, les algorithmes intelligents, les androïdes et les autres formes d'intelligence artificielle, de plus en plus sophistiqués, semblent être sur le point de déclencher une nouvelle révolution industrielle qui touchera très probablement toutes les couches de la société.

A court ou moyen terme, la robotique et l'intelligence artificielle promettent une grande efficacité et des économies conséquentes, non seulement dans la production et le commerce, mais également dans des domaines tels que le transport, les soins médicaux, l'éducation et l'agriculture, tout en permettant d'éviter d'exposer des êtres humains à des conditions dangereuses, par exemple lors des opérations de nettoyage de sites pollués par des substances toxiques; qu'à long terme, il serait possible d'accéder à une prospérité quasiment illimitée.

Dans le même temps, le développement de la robotique et de l'intelligence artificielle pourrait avoir pour conséquence l'accomplissement par des robots d'une grande partie des tâches autrefois dévolues aux êtres humains; que cette hypothèse s'avère préoccupante pour l'avenir de l'emploi et la viabilité des régimes de sécurité sociale, si l'assiette de contributions actuelle est maintenue; qu'elle pourrait déboucher sur un creusement des inégalités dans la répartition des richesses et de l'influence

Il n’existe pas de définition précise unique de l’IA. Il s’agit d’un concept qui englobe un grand nombre de (sous) domaines, tels que l’informatique cognitive (cognitive computing: algorithmes qui raisonnent et apprennent à un niveau supérieur, c’est-à-dire plus humain), l’apprentissage automatique (machine learning: algorithmes qui apprennent de manière autonome à réaliser des tâches), l’intelligence augmentée (augmented intelligence: coopération entre l’homme et la machine) et la robotique intelligente (IA intégrée dans des robots).

L’objectif principal de la recherche et du développement en matière d’IA est toutefois d’automatiser les comportements intelligents, entre autres la capacité de raisonner, de collecter des informations, de planifier, d’apprendre, de communiquer, de manipuler, de signaler et même de créer, de rêver et de percevoir

Il existe donc d'autres sujets de préoccupation, tels que la sécurité physique, par exemple en cas de défaillance du programme d'un robot, ou encore les conséquences possibles d'une défaillance du système ou du piratage de robots connectés et de systèmes robotiques à une époque où des applications de plus en plus autonomes sont utilisées, ou le seront bientôt, qu'il s'agisse de véhicules, de drones, de robots de soins à la personne ou de robots utilisés à des fins de maintien de l'ordre et de fonctions de police

Il faut donc pour le législateur examiner toutes les conséquences d'une telle révolution.

Pour la Commission européenne, jusqu'à ce que les robots deviennent conscients de leur propre existence, ou soient fabriqués ainsi à dessein, si tant est que cela advienne un jour, il y a lieu de considérer les lois d'Asimov comme s'appliquant aux concepteurs, aux fabricants et aux utilisateurs de robots, étant donné que lesdites lois ne peuvent être traduites en langage de programmation.

Il est néanmoins nécessaire de définir une série de règles, notamment en matière de responsabilité et de déontologie.

Plus un robot est autonome, moins il peut être considéré comme un simple outil contrôlé par un autre acteur (le fabricant, le propriétaire, l'utilisateur, etc.).

Dès lors, les règles ordinaires en matière de responsabilité s'avèrent insuffisantes, et il y aura lieu d'adopter de nouvelles règles permettant d'imputer (totalement ou partiellement) à une machine ses actes ou son inaction et par conséquent, il devient impérieux de trancher la question fondamentale de l'octroi ou non aux robots d'une personnalité juridique.

Le rapport préconise donc:

• que la Commission propose une définition européenne commune des différentes catégories de robots autonomes et intelligents, compte étant tenu des caractéristiques suivantes des robots intelligents (acquisition d'autonomie grâce à des capteurs et/ou à l'échange de données avec l'environnement et interconnectivité); échange et analyse de données, capacité d'auto-apprentissage, présence d'une enveloppe physique, adaptation du comportement et des actes à l'environnement)
• la création d'un registre des robots avancés,
• la mise au point d'un cadre éthique pour la conception, la fabrication et l'utilisation des robots qui complète utilement les recommandations juridiques du présent rapport ainsi que l'acquis national et de l'Union existant; propose, en annexe à la présente résolution, un tel cadre, sous forme de charte établissant un code de conduite pour les ingénieurs en robotique, une déontologie pour les comités d'éthique de la recherche lorsqu'ils examinent les protocoles de robotique, et un ensemble de licences-type pour les concepteurs et les utilisateurs,
• la création d'une agence européenne pour la robotique et l'intelligence artificielle,
• l'adoption d'une approche équilibrée en matière de droits de propriété intellectuelle et l'introduction, en accord avec les principes de nécessité et de proportionnalité, de garanties de protection de la vie privée et des données lors de l'élaboration de toute politique de l'Union en matière de robotique

Par ailleurs, la responsabilité civile des robots étant une question cruciale, il faut d’ores et déjà réfléchir, face à la complexité de l'imputabilité des dommages causés par des robots de plus en plus autonomes, à la mise en place d'un régime d'assurance obligatoire. Mais également, la création d'un numéro d'immatriculation individuel, inscrit dans un registre spécifique de l'Union, afin de pouvoir toujours associer un robot au fonds dont il dépend; ce numéro permettrait à toute personne interagissant avec le robot de connaître la nature du fonds, les limites en matière de responsabilité en cas de dommages matériels, les noms et les fonctions des contributeurs et toute autre information pertinente.

Enfin, est évoquée la création d'une personnalité juridique spécifique aux robots, pour qu'au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques dotées de droits et de devoirs bien précis, y compris celui de réparer tout dommage causé à un tiers; serait considéré comme une personne électronique tout robot qui prend des décisions autonomes de manière intelligente ou qui interagit de manière indépendante avec des tiers.

Voilà qui va ravir les tenants de la personnalité robot.

Le Parlement européen a finalement adopté jeudi 16 février 2017 le rapport Delvaux Mais la partie du texte qui proposait l'instauration d'une «taxe robot» destinée à financer un revenu universel en compensation de la perte de travail consécutive à l'utilisation des robots dans l'économie a été rejetée par les députés européens.

Après une consultation publique lancée durant l’été 2017, le texte va encore continuer d’être évalué ces prochains mois avant de revenir devant le Parlement, l’UE se proposant de  jouer un rôle moteur dans l’établissement de cadres stratégiques clairs et universels en matière d’IA et de stimuler ce processus au niveau mondial.

Car l’IA ne connaît pas de frontières. Il importe dès lors de se pencher sur la nécessité d’une réglementation mondiale, étant donné qu’une réglementation régionale ne suffira pas et pourrait même avoir des effets indésirables

C’est dans ce cadre que l'Estonie espère devenir la première nation à codifier l'intelligence artificielle.

C'est en tous cas le but assigné en novembre 2016 par le gouvernement estonien à un groupe d'experts qui a abouti à des recommandations comme la création d'une loi spécifique concernant les robots et des changements drastiques dans le code civil, mais aussi plus généralement sur tous les pans du droit impactés par la responsabilité d'une intelligence artificielle qui constitue la question essentielle:

Qui va être responsable en cas de défaillance de l'IA ?

C'est donc un changement de paradigme auquel pense l'Estonie qui rêve ainsi de devenir le 1er pays au monde à légiférer sur l'Intelligence artificielle, déjà surnommée la loi Kratt (du nom de cette mythique créature des forêts estoniennes, un génie domestique plutôt retors qu'on pourrait traduire par "Gobelin" et au service forcé de son maître, une version estonienne du golem ou du "robota" tchèque de Karel Çapek)

Quatre scenarii sont ainsi envisagés:

• le moins radical serait de se concentrer sur la règlementation des transports et les véhicules autonomes, déjà en développement en Estonie ;
• un deuxième scénario y ajouterait une loi spéciale pour réguler la robotique (robots, algorithmes, capteurs etc.) ;
• une 3ème orientation conduirait à modifier le Code civil pour y inclure des articles régulant les intentions et autorisations réciproques. Par exemple, si votre frigo "intelligent" considère que vous n'avez plus assez de bières, il vous en commandera automatiquement, mais seulement avec votre autorisation préalable ;
• enfin un 4ème scénario aboutirait à la création d'une personnalité robot à part entière.

Une telle  "loi des Robots"  ne devrait cependant pas être d'actualité avant plusieurs années encore et la Kratt Law rester dans les tiroirs estoniens en attendant que les algorithmes continuent de se développer avec le deep learning et l'avènement de la future IA conceptuelle transversale.

Thierry Vallat, Avocat au Barreau de Paris - Cabinet Thierry Vallat - www.thierryvallatavocat.com