Journal d'un terrien

Web log de Serge Boisse

On line depuis 1992 !

Recherche personnalisée

Le droit des IA

Quels droits (au sens juridique) peut avoir une Intelligence artificielle,,. Et quels droits les humains ont-ils sur les IA, et les IA entre elles ?

Actuellement, les choses sont claires : une IA est une machine, et les machines n’ont aucun droit. Une IA n’est pas juridiquement considérée comme une personne physique. Elle peut, par contre, être une personne morale : il suffit que l’IA crée une société en son nom (ou qu’un humain le fasse pour elle). En tant que personne morale, une IA pourra donc posséder des choses, vendre des services, et gagner de l’argent.

Mais pas forcément n’importe quels services ! Je voudrais donner des exemples extrêmes, entre lesquels existent des tas de variantes intermédiaires :

Le premier est un mécanisme pour portail automatique : une caméra, située à côté du portail et reliée à une IA, surveille la rue et reconnaît le propriétaire de la maison, sa voiture, et les personnes qu’il a autorisées à entrer. L’IA ouvre alors le portail, sans qu’il soit besoin de télécommande ou de digicode. Il ne s’agit que d’une version améliorée de ce qui existe déjà. Il est peu probable que des lignes de citoyens se forment pour protester contre « l’intolérable surveillance de la rue par des machines ». Après tout, la seule fonction du système est d’ouvrir le portail aux personnes de confiance. Ce n’est qu’une télécommande améliorée.

Mais considérons maintenant un service de surveillance vidéo : Des caméras sont installées dans tous les lieux publics, reliés à un PC de surveillance qui analyse les images, et signale toutes les violations (ou tentatives de violation) de la loi : vols, agressions, attentats, etc. Actuellement de tels systèmes (comme celui qui existe à Londres) se heurtent à l’opposition de citoyens qui clament, à juste titre, qu’il s’agit d’une atteinte à la liberté individuelle. Cela parce que ce sont des humains qui surveillent les moniteurs. Mais ce travail pourrait être confié à une IA. Il pourrait même être possible de concevoir un système crypté et sécurisé par l’IA elle-même, de telle manière que l’on puisse garantir que jamais aucun humain n’aura la possibilité de visualiser les images brutes. Si un tel système semble lever l’objection précédente sur la liberté individuelle, il restera des problèmes : Quelle serait alors la valeur juridique des rapports fournis par l’IA ? Quelle confiance les citoyens ordinaires peuvent ils avoir dans un tel système ? Que se passera-t-il si le gouvernement décide que des caméras (reliés à des IA) doivent être installées non seulement dans les lieux publics, mais dans des lieux privés ?

Autre exemple : un système basé sur une IA qui écoute toutes les conversations téléphoniques de tout un chacun, et signale à la police tout ce qui peut avoir trait à des activités criminelles en préparation. Dans le droit actuel, un tel système est parfaitement possible. Les humains n’ont pas le droit (en principe !) d’écouter ou d’espionner les conversations téléphoniques, les SMS et les emails des autres humains sans leur accord, mais une machine possède ce droit. Sinon les centraux téléphoniques seraient illégaux ! Il ne fait nul doute qu’un tel système serait utile, qu’il pourrait sauver des centaines de personnes chaque année dans chaque grande ville. Pourtant, l’existence même de ce système pourrait choquer nombre de personnes. Le réseau Echelon déjà mis en place par les Américains pour espionner certaines conversations sur toute la planète trouble déjà énormément de gens.

Dans le droit actuel, un humain a le droit de modifier, vendre et détruire une machine qui lui appartient. Vous pouvez donc « tuer » une IA sans aller en prison. Mais il est clair que si l’IA contient l’esprit d’un humain « uploadé », ceci est loin d’être satisfaisant ! De plus la morale commande que les humains soient respectueux envers les autres êtres conscients, donc les IA, autant qu’ils le sont envers les humains. Mais attention : la solution est loin d’être triviale. Supposons qu’une loi (humaine) décide que toutes les règles et lois conçues pour les humains doivent désormais s’appliquer aux machines conscientes. Les systèmes de surveillance vidéo et d’écoutes téléphoniques décrits plus haut deviennent alors impossibles !

Un autre exemple : Imaginons un chercheur qui essaye de comprendre ce qui se cache derrière les NDE, « near death experiences », ou expériences de mort rapprochée (vous savez, ces gens qui disent avoir cru mourir, puis qui revienne à la vie en racontant des choses étranges sur ce qu’ils ont perçu ou cru percevoir). Si notre chercheur dispose d’une IA, quel merveilleux outil d’investigation ! Il suffit de « tuer l’IA », en enregistrant ce qui se passe dans son esprit (contrairement à l’esprit humain, l’esprit d’une IA peut être « espionné » par des sondes informatiques très facilement). La question est : ce chercheur a-t-il le droit légal de procéder à ces expériences ?

Et d’abord, qu’est ce que cela veut dire, « tuer une IA » ? Supposons que vous disposiez d’une IA qui tourne dans votre ordinateur domestique. Est-ce que « éteindre l’ordinateur » serait un crime ? Il est probable que les tribunaux décideront que non, qu’il ne s’agit que d’une mise en sommeil. Au redémarrage de l’ordinateur, l’IA « se réveille » en effet. Mais supposons que votre ordinateur tombe en panne suite à une négligence de votre part, et ne redémarre plus. Avez-vous tué l’IA qui se trouvait dedans ? Probablement pas, si vous aviez pris la précaution de faire une sauvegarde. Le disque dur de votre ordinateur acquiert alors un statut juridique nouveau : il contient une personne ! Vous n’avez plus le droit de détruire ce disque.

Supposons alors que vous en fassiez une copie, puis que vous relanciez deux ordinateurs, contenant chacun la copie de l’IA. Puis, juste après, vous fracassez l’un des ordinateurs (et son disque) à coup de marteau : ceci fait-il de vous un criminel ? Oui, parce que vous avez tué un être conscient. Et non, parce sa copie parfaite est toujours « vivante » et en fonctionnement. Après tout, après avoir copié le disque, vous devriez avoir le droit de détruire la copie !

De telles questions montrent que la question des IA et du droit est loin d’être triviale ! Il est clair que la solution de dire que « les IA sont considérés comme des humains au sens de la loi » n’est pas satisfaisante. La bonne solution est probablement de définir trois nouvelles classes de lois, pour encadrer le comportement des humains envers les IA, le comportement des IA envers les humains, et le comportement des IA entre elles. Il y aurait alors quatre classes de lois, dont seule la première existe actuellement :

  1. Lois s’appliquant aux humains, et régissant le comportement des humains vis à vis d’eux-mêmes, des biens appartenant à d’autres humains, et de la nature. Cette classe de lois existe déjà, elle est basée sur les fameux « droits de l’homme », sur les droits des animaux (lorsqu’ils sont reconnus), et sur la charte de la protection de la nature.

  1. Lois s’appliquant aux IA, et régissant le comportement des IA vis à vis des humains, des biens appartenant aux humains, et de l’environnement Cette classe est à inventer. Elle sera basée également sur la même déclaration des droits de l’homme, mais elle contiendra des mesures s’adressant spécifiquement aux IA. Au fait lorsqu’une IA enfreint une de ces lois, quelles « punitions » peut-on envisager ?

  1. Lois s’appliquant aux humains, et régissant le comportement des humains vis à vis des IA et des biens appartenant aux IA. Cette classe est à inventer. Elle sera basée sur les « droits des IA », notion elle aussi à inventer, et répondra a des questions comme : un humain a-t-il le droit de détruire une IA ? De lui retirer une modalité sensorielle, ou un organe actionneur, ou un module logiciel ? De modifier son système de buts ? Un humain a-t-il le droit de créer un robot de combat, ou un ?

  1. Lois s’appliquant aux IA, et régissant le comportement des IA vis à vis d’elles-mêmes et des biens appartenant à d’autres IA. Par exemple : Une IA a-t-elle le droit de décider spontanément de se reproduire ? Peut-elle créer une autre IA ? Si oui, dans quelles conditions ?

Il est à noter que les lois des classes 2 et 4, c’est à dire les lois s’appliquant aux IA, sont des lois qui s’appliquent à ces IA une fois conçues. Mais il sera nécessaire d’inclure (dans la classe 3) des lois qui interdisent aux humains de créer délibérément des IA qui seraient conçues pour enfreindre une des lois des classes 2 et 4. En particulier, la loi la plus importante de la classe 3 devrait être : « aucun humain n’a le droit de créer une IA inamicale, ni même une IA neutre » : En d’autres termes le super-but ultime de toute IA doit être : « être amical envers les humains ».

Ces classes de lois permettraient de réguler ce qui se passera entre le moment de l’introduction des IA et la singularité. Mais cette période risque fort d’être très brève ! C’est pourquoi il est urgent de créer ces lois, avant même que l’IA devienne une réalité.

Après la singularité, c’est à dire lorsqu’une IA deviendra super intelligente, accèdera à la nanotechnologie et deviendra la première Puissance, il sera nécessaire de changer complètement de système. Cependant nous, les humains, ne sommes pas assez intelligents pour imaginer ce que ce système législatif devrait être ; Nous laisserons au premier Génie ou « guide de transition » le soin de gérer ce problème. En d’autres termes, les humains devront abandonner le droit de légiférer sur eux-mêmes.

Il est clair que certains humains pourraient avoir quelques réticences à faire cela. Personnellement, je ne vois que des avantages à laisser à une super intelligence le soin de conduire les affaires de notre petit monde, dès lors que je suis persuadé que cette super-intelligence est bien amicale.

Il devient donc de la plus extrême importance de définir clairement ce qu’on entend par IA amicale, de savoir si concevoir une IA amicale est simplement possible, et si oui comment il faudra s’y prendre. (à suivre)

Cette page est extraite de mon livre : L'esprit,l'IA et la Singularité

Voir aussi : le droit des robots sur le site de Murielle Cahen, avocate.



Home Mes livres Mes tableaux Plan du site

Partagez / votez pour cette page :

Journal d'un terrien

Commentaires (1) :

Page : [1] 

kadirou mca
Le 28/09/2014 à 14h46
kadirou mca vivi alegireu


Ajouter un commentaire (pas besoin de s'enregistrer)

Pseudo :
Message :


image de protection
En cliquant sur le bouton "Envoyer" vous acceptez les conditions suivantes : Ne pas poster de message injurieux, obscène ou contraire à la loi, ni de liens vers de tels sites. Respecter la "netiquette", ne pas usurper le pseudo d'une autre personne, respecter les posts faits par les autres. L'auteur du site se réserve le droit de supprimer un ou plusieurs posts à tout moment. Merci !
Ah oui : le html genre <br>, <a href=...>, <b>b etc. ne fonctionne pas dans les commentaires. C'est voulu.
< Retour en haut de la page