Robotique et Robot-Law : à propos de « Robotics and the lessons of cyberlaw » de Ryan Calo

Capture d’écran 2014-12-14 à 03.27.45

Dans un article à paraître en 2015, le professeur Ryan Calo de la School of Law de Washington (http://www.law.washington.edu/directory/Profile.aspx?ID=713&vw=bio), examine ce que l’internet et aujourd’hui les robots font à la loi. Constatant les progrès de la robotique et son extension à de nombreux secteurs de la vie sociale, et la distinguant de ce point de vue de l’internet par les enjeux qu’elle suscite, Calo définit l’ontologie robotique tout en tentant de faire le point sur son impact sur la loi et les institutions. Ainsi, la généralisation de la robotique et son emprise sur le corps social est assez clairement établie par l’usage qu’en font les géants du net, tels Google avec son projet de voiture sans conducteur ou Amazon qui envisage de délivrer des colis à l’aide de drones. Cette expansion du domaine de la robotique ne date certes pas d’aujourd’hui, mais ce qui spécifie l’époque actuelle est le fait que le coût des robots a considérablement diminué et les rend accessibles aux amateurs autant qu’aux professionnels. C’est cet article passionnant que je voudrais évoquer ici, tant je suis en effet convaincu que les transformations anthropologiques induites par les robots s’accompagneront de bouleversements juridiques dont il est encore difficile voire impossible de prédire l’ampleur et la nature exacte.

Comme le remarque Calo, le robot se caractérise par trois propriétés : d’une part, il est la combinaison des data et des aptitudes « physiques » ; d’autre part, les robots accomplissent des tâches qu’il est difficile d’anticiper par avance ; enfin, les robots repoussent constamment la frontière qui les sépare des humains… Si Calo considère que l’intelligence robotique ne peut équivaloir celle de l’humain au sens où elle en diffère fondamentalement, on peut cependant dire que, en un certain sens, le robot « pense » : la preuve en est donnée lorsqu’on observe le Mars Rover, piloté à distance, mais capable de choisir des options contraires aux ordres donnés si la situation l’exige. D’autre part, le robot « agit » : c’est là, selon Calo, qu’intervient la distinction entre les technologies qui « informent » (comme un Smartphone) et celles qui agissent sur le monde (comme un robot). Agir signifie ici non seulement performer – comme le fait le langage par exemple – mais transformer physiquement l’environnement. J’ajoute que la question de « l’agir physique sur le monde » comme élément constitutif de l’ontologie robotique pose la question de ce que sont des entités comme les hologrammes : les hologrammes sont-ils des robots au sens où l’entend Calo ? Calo complète sa définition en indiquant que « la donnée n’est pas incarnée alors que les robots le sont généralement » (« data is not embodied ; robots generally are », p. 119), et c’est ce qu’il entend par leur « présence physique » au monde, présence qui permet de les situer ontologiquement entre l’objet et l’agent.

Reste que c’est peut-être par l’analyse des conséquences de cet « agir sur le monde » tel qu’elles peuvent être examinées par le législateur qu’on mesure mieux ce qui distingue le robot des autres artefacts numériques. Calo prend ici différents exemples pour préciser son analyse : dans le cas d’une voiture sans conducteur ou d’un robot-chirurgien, en cas d’accident, sur qui se reportera la responsabilité ? De même que Facebook ne peut juridiquement être tenu pour responsable des propos tenus sur sa plateforme, les concepteurs de robots devraient être dédouanés par des systèmes d’assistance qui préviennent le conducteur en cas de danger inopiné ou qui permettent au chirurgien de sentir les organes, et donc de prendre in fine leur responsabilité en cas de problème. Mais un tel exemple se redouble d’une seconde question : si l’on devait néanmoins incriminer les robots, viserait-on la partie digitale de l’objet, faite de bits, ou la partie physique faite d’atomes. En d’autres termes, si un véhicule sans conducteur commet un accident, est-ce le concepteur du programme qui est incriminé, ou le fabricant de la voiture ? Autre exemple, que se passe-t-il du point de vue des impôts si des postes de travail affectés à des humains sont confiés à des robots ? Un troisième exemple, étudié notamment par Anne-Marie Bridy, concerne les œuvres crées par des robots. Or, un logiciel génératif n’a pas de personnalité juridique et ne peut donc être redevable du copyright. Et que faire d’un tweet ou d’une information journalistique générés automatiquement mais qui pourraient se révéler diffamatoires ? Si on prend pour exemple le bot conçu par l’artiste Darius Kazemi pour acheter au hasard des produits sur Amazon, et si on imagine que le bot se porte acquéreur d’une panoplie d’objets nazis, que dirait la loi française : faudrait-il incriminer Kazemi ? Avait-il à l’esprit que son robot pourrait enfreindre la loi et porter préjudice moral aux victimes du nazisme ? De même qu’il existe une notion de « responsabilité » à l’égard des animaux dangereux, des enfants, des personnes dépendantes, etc…, pourquoi ne pas imaginer une responsabilité légale du propriétaire à l’égard de son robot, au même titre qu’il est responsable de son chien s’il mord ? Mais alors, doit-on considérer le robot, par analogie, au même titre que le chien, ou faut-il l’inclure dans une catégorie à part et bien spécifique ?

Faisant référence aux travaux du psychologue Peter Khan et de son équipe, Calo montre ensuite que la perception que les individus se forment des robots assigne ces derniers à une ontologie totalement nouvelle et spécifique : « Les individus ne considèrent pas les robots anthropomorphiques comme des êtres vivants, mais ils ne les considèrent pas plus comme des objets. Ils ont tendance à leur attribuer des états mentaux et ne savent pas comment se comporter avec eux, alors que les objets ne leurs posent pas de telles difficultés  » (p. 133). Comme l’indique Khan, si nous savons situer la plupart des êtres dans des catégories ontologiques, nous éprouvons beaucoup de difficultés avec les robots car ils sont à la fois agents et objets. Les questions juridiques soulevées par l’« être social » du robot sont bien exemplifiées dans le cadre hospitalier, où les robots sont de plus en plus présents : faut-il « présenter » le robot au patient, lui affecter un genre, un sexe ? De telles questions ne sont pas absurdes car on sait que plus le robot est anthropomorphe et plus les humains sont enclins à partager avec lui succès et échecs au lieu de l’incriminer totalement. Ce fait interroge par exemple sur les formes de coopération qui vont de développer de plus en plus entre robots et militaires ou policiers : quelle sera la nature de cette coopération ? Jusqu’où les humains s’engageront-ils au côté des robots, seront-ils prêts à prendre des risques si ces derniers sont menacés sur le théâtre des opérations ? Plus largement, c’est la question des affects portés aux robots, de l’attachement émotionnel, qui est posée ici. Citant Kate Darling, Calo se demande d’ailleurs si nous ne devrons pas étendre les droits des « robots sociaux », notamment en interdisant qu’ils soient maltraités (une question dont j’indique en passant qu’elle est centrale dans la série TV Real Humans) ? Bref, le robot ne va t-il pas devenir un nouveau sujet de droit, à mi-chemin de la personne et de la chose ?

Pour conclure avec Calo, on peut dire que le robot se distingue de l’internet parce qu’il est engagé dans un rapport « physique » au monde : Le type de dommages qu’il peut causer est de ce point de vue spécifique. En ce sens, même s’il existe des parallèles entre l’internet et la robotique, les robots soulèvent un ensemble distinct de questions juridiques et politiques. En outre, le robot est une entité « émergente », c’est à dire qu’il est a priori difficile de prévoir tous les comportements qui peuvent résulter de l’activité robotique, a fortiori parce que différents robots peuvent interagir entre eux de manière inattendue. La réponse institutionnelle à la généralisation des robots a été sectorielle – aux USA, les drones relèvent des questions aériennes, les robots chirurgicaux relèvent de l’équivalent du ministère de la santé, etc. – mais on pourrait imaginer unifier les questions robotiques dans la création d’une agence dédiée à ce sujet. Une autre série de questions porte sur la nature ontologique des robots, question elle-même déterminée par le type de regard et d’attention que nous portons à ces derniers : s’agit-il d’un équivalent des enfants, des animaux ou des esclaves ? se demande Calo. Enfin, aborder de telles questions, compte tenu des caractéristiques des robots et notamment de leur signification sociale invite à un dialogue interdisciplinaire entre sciences sociales et sciences informatiques « to a degree even greater than the Internet » (p. 147). Il semble donc évident que c’est l’élaboration d’une nouvelle infrastructure théorique et doctrinale autour de la robotique qui constituera un des grands enjeux des décennies à venir, enjeux qui justifient l’existence même de ce blog et la présentation de cet article fondateur de Calo.

Publicités

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s