Quand la science-fiction inspire les juristes

Dans une salle de conférence de l’Université du Sussex, Lilian Edwards décrit Captain America 2 comme un film «incontournable». Des propos étonnants dans la bouche d’un professeur de droit. Encore plus étrange: son auditoire se compose essentiellement de juristes qui s’empressent de noter ce conseil cinéma du week-end. Parfait exemple de ce que réserve la conférence Gikii.

Chaque année, des spécialistes du droit férus de technologie et de science-fiction se réunissent pour examiner des idées parmi les plus étranges jamais imaginées. Gikii est une conférence de deux jours sur la loi des nouvelles technologies, mais la plupart de ses exposés s’inspirent ouvertement de la science-fiction.

La conférence inaugurale en 2006 avait vu Adrian de Groot de l’Université Radboud disserter sur les ramifications juridiques du développement des robots tueurs open source et Judith Rauhofer de l’Université d’Edimbourg interpréter Harry Potter et le Prince de sang-mêlé de J.K. Rowling comme une parodie de la réponse britannique à la menace terroriste. En 2014, un intervenant a vu dans La Reine des neiges de Disney une allégorie du secret et de l’autocensure.

Cela peut paraître léger, voire complaisant, compte tenu de l’intérêt avoué des participants pour la culture geek. Mais ces cerveaux juridiques font partie des plus brillants d’Europe. Ils insistent sur le fait que Gikii représente un effort authentique pour trouver des réponses à des questions d’enjeu international. Ecrivains, artistes et réalisateurs imaginent comment la technologie peut bouleverser la société. Pourquoi ne pas profiter de leur pre­science pour aider le droit à ne pas se laisser dépasser?

La transparence absolue

Les auteurs de science-fiction présentent souvent un futur dystopique. C’est pour­quoi leurs points de vue sont tellement précieux, explique Lilian Edwards: de nombreux écueils liés aux progrès technologiques ont été anticipés, ce qui peut nous aider à les éviter. «Les par­ticipants de Gikii sont très influents dans les cercles juridiques, explique la professeur de l’Université de Strathclyde. Bon nombre de ces discussions se sont avérées utiles pour notre travail.»

C’est l’une des raisons du succès rencontré à Gikii par l’analyse de Yung Shin Van Der Sype et de Jeff Ausloos du roman The Circle de Dave Eggers. Le personnage principal, Mae Holland, est embauché dans une entreprise de haute technologie ultramoderne qui rappelle Facebook, Google et d’autres entreprises de la Silicon Valley. Peu à peu, elle s’enfonce dans une vie vécue presque exclusivement en ligne. Les maximes de l’entreprise («Les secrets sont des mensonges», «La vie privée est un vol», «Partager, c’est prendre soin») nous font réfléchir sur les lois de la protection des données personnelles et sur nos habitudes, souligne Yung Shin Van Der Sype. «Nous nous dirigeons vers ce genre de société», selon la chercheuse.

Heureusement, nous sommes mieux armés que Mae pour éviter ce genre de problèmes. C’est l’un des bienfaits de la fiction, poursuit la chercheuse: l’œuvre d’Eggers ne comprend aucun chevalier de la vie privée prêt à se battre contre cette transparence totale, mais de telles personnes existent bien dans notre monde. A nous d’utiliser cette différence entre la fiction et la réalité pour éclairer leur rôle et les soutenir. «Nous avons des gens qui se battent pour une meilleure protection des données, mais je ne suis pas sûre que leur voix se fasse suffisamment entendre», dit-elle.

Du fait de sa croissance rapide, un grand nombre de questions juridiques soulevées par le monde virtuel n’ont pas été suffisamment étudiées. La loi n’est pas forcément en complet décalage avec les nouveaux comportements en ligne, mais l’appliquer nécessite beaucoup de temps, de réflexion et de créativité. L’essence de Gikii, c’est d’accélérer ce processus en s’inspirant de ces fictions à notre disposition.

Yung Shin Van Der Sype dit espérer voir davantage de gens lire des œuvres telles que The Circle pour qu’ils réfléchissent aux questions qu’elles soulèvent. Et surtout les équipes techniques telles qu’ingénieurs en logiciels et développeurs, afin qu’ils s’impliquent dès le début sur ce type de questions légales et éthiques. «Il faut davantage de collaboration entre les techniciens et les avocats et les législateurs», souligne-t-elle.

Le robot juge

Spécialiste en droit de la propriété intellectuelle, Anna Ronkainnen de Trademark Now a présenté son analyse du concept des juges robots. Sa conclusion: la robotisation tant redoutée du droit n’arrivera pas. Le droit, dit-elle, est beaucoup trop nuancé pour qu’une intelligence artificielle (IA) puisse rendre des jugements appropriés. Cependant, les réflexions sur la manière dont la technologie de demain affectera la prise de décisions juridiques peuvent nous permettre d’anticiper ce qui pourrait nous attendre.

Il n’est pas exclu que les algorithmes puissent être utiles. Aux Etats-Unis, des spécialistes du droit ont récemment indiqué qu’une IA pourrait s’avérer plus fiable que des humains pour déterminer le niveau d’intrusion acceptable lors d’une surveillance. Un détective sur la piste d’un suspect aura toujours envie d’aller un peu plus loin, à cause du désir intrinsèque de voir le travail déjà effectué servir à quelque chose. Un algorithme ne connaît pas ce genre de biais, et serait dans une meilleure situation pour prendre la décision d’interrompre la traque lorsque c’est nécessaire.

Viennent ensuite les problèmes d’interaction entre êtres humains et robots. Raymond Cuijpers de l’Eindhoven University of Technology travaille à la mise au point d’aides robotiques pour répondre aux besoins des personnes âgées et des patients. Le projet KSERA a pour but de développer une interaction efficace entre les humains et les robots mobiles. Un volet de ce travail consiste à réfléchir aux limites de la responsabilité juridique.

«Le robot ne peut pas être responsable, ce n’est qu’un objet», déclare le chercheur. Les premières pistes de réflexion voudraient faire porter la responsabilité aux vendeurs de robots, mais Raymond Cuijpers reconnaît que ce n’est pas aussi simple et donne un exemple. Imaginons qu’un patient souffre après avoir suivi les mauvais conseils donnés par un robot et dise: «C’est le robot qui m’a dit de faire ça.» Le fabricant pourra argumenter que la personne était trop naïve et n’aurait pas dû obéir au robot. Au contraire, le patient pourrait reprocher au robot d’être trop convaincant…

C’est d’autant plus plausible que les robots sont dotés de capacités de plus en plus humaines. «On risque d’avoir un gros problème légal le jour où l’on peut convaincre quelqu’un que le programme n’est plus distinguable d’une personne réelle», note le chercheur. L’avènement de l’intelligence artificielle ne rendra les choses que plus difficiles en termes de responsabilité juridique. Avant de faire le ménage et de ranger la vaisselle, un robot devra apprendre les détails de votre maison. «Mais si un robot est capable d’apprendre, il exécute un programme différent de celui d’origine, note Thomas Bolander de la Danmarks Tekniske Universitet. S’il blesse quelqu’un en rangeant la vaisselle, le fabricant pourra dire que vous lui avez mal appris à le faire et qu’il n’est donc pas responsable.»

Dépendance

Déjà décrite en 1942 dans une nouvelle de Robert Heinlein, la téléchirurgie crée des problèmes plus immédiats. En 2001, un chirurgien a opéré depuis New York et à l’aide d’un robot un patient situé en France. Qui serait responsable en cas de panne du robot ou de la connexion internet? Des protocoles de tests et des certifications strictes existent déjà pour prévenir les pannes techniques, mais une sécurisation à toute épreuve des communications longue distance reste encore un domaine de recherche, selon Sandra Hirche, spécialiste en automatique à la Technische Universität München.

La science-fiction aborde également le sujet de notre dépendance aux nouvelles technologies. Le film Her s’intéresse aux problèmes qui peuvent survenir dès lors que les ordinateurs deviennent pour nous de meilleurs amis que les êtres humains. Nous n’aurons peut-être bientôt plus à chercher d’exemples dans la science-fiction: le MIT Media Lab a créé Jibo, un adorable robot domestique capable de faire des listes de courses et de raconter des histoires aux enfants. Ce robot a été créé pour que nous appréciions sa compagnie. Mais que se passera-t-il s’il nous devenait trop proche?

«Nous pouvons facilement devenir dépendants de la technologie et il me semble important que nous soyons sensibilisés aux dangers potentiels, explique Thomas Bolander. Nous ne ménageons pas nos efforts pour parler aux gens des dangers du tabac et de la drogue. Nous devrions peut-être aborder les addictions à la technologie sous le même angle.» L’industrie du tabac ne le sait que trop bien: ce genre de problème peut mener devant les tribunaux.

A défaut de pouvoir compter sur un Captain America pour nous tirer d’une mauvaise situation, espérons que les juristes geek de Gikii puissent nous prévenir des dangers qui nous guettent.
_______

Une version de cet article est parue dans le magazine Technologist (no 3).