Entités algorithmiques - Algorithmic entities
Les entités algorithmiques font référence à des algorithmes autonomes qui fonctionnent sans contrôle ni interférence humaine. Récemment, l'attention s'est portée sur l'idée d'attribution de la personnalité juridique (partielle ou complète) aux entités algorithmiques . Le professeur Shawn Bayern et le professeur Lynn M. LoPucki ont popularisé à travers leurs articles l'idée d'avoir des entités algorithmiques qui obtiennent la personnalité juridique et les droits et obligations qui l'accompagnent.
Entités algorithmiques légales
Au cours des dernières années, les universitaires et les politiciens ont discuté de la possibilité d'avoir une entité algorithmique légale, ce qui signifie qu'un algorithme ou une IA se voit accorder la personnalité juridique. Dans la plupart des pays, la loi ne reconnaît que les personnes physiques ou réelles et les personnes morales . L'argument principal est que derrière chaque personne morale (ou couches de personnes morales), il y a finalement une personne physique.
Dans certains pays, il y a eu quelques exceptions à cela sous la forme d'octroi d'une personnalité environnementale aux rivières, chutes d'eau, forêts et montagnes. Dans le passé, une certaine forme de personnalité existait également pour certaines constructions religieuses telles que les églises et les temples.
Certains pays – bien qu'à des fins publicitaires – se sont montrés disposés à accorder (une certaine forme de) la personnalité juridique aux robots . Le 27 octobre 2017, l'Arabie saoudite est devenue le premier pays au monde à accorder la citoyenneté à un robot en donnant un passeport à « Sophia » . La même année, le statut de résident officiel a été accordé à un chatbot nommé « Shibuya Mirai » à Tokyo, au Japon.
Le consensus général est que l'IA ne peut en aucun cas être considérée comme une personne physique ou réelle et que l'octroi de la personnalité (juridique) à l'IA à ce stade est indésirable d'un point de vue sociétal. Cependant, les discussions académiques et publiques se poursuivent alors que les logiciels d'IA deviennent de plus en plus sophistiqués et que les entreprises mettent de plus en plus en œuvre l'intelligence artificielle pour aider dans tous les aspects des affaires et de la société. Cela amène certains chercheurs à se demander s'il ne faut pas accorder à l'IA la personnalité juridique car il n'est pas impensable de disposer un jour d'un algorithme sophistiqué capable de gérer une entreprise de manière totalement indépendante des interventions humaines.
Brown soutient que la question de savoir si la personnalité juridique d'IA peut être accordée est directement liée à la question de savoir si l'IA peut ou devrait même être autorisée à posséder légalement des biens. Brown « conclut que cette personnalité juridique est la meilleure approche pour l'IA pour posséder des biens personnels. » Il s'agit d'une enquête particulièrement importante car de nombreux chercheurs reconnaissent déjà que l'IA possède et contrôle certains actifs numériques ou même des données. L'IA peut également créer du texte écrit, des photos, de l'art et même des algorithmes, bien que la propriété de ces œuvres ne soit actuellement accordée à l'IA dans aucun pays car elle n'est pas reconnue en tant que personne morale.
États Unis
Bayern (2016) soutient que cela est déjà possible actuellement en vertu de la loi américaine. Il déclare qu'aux États-Unis, la création d'une entreprise contrôlée par l'IA sans ingérence humaine ni propriété est déjà possible dans le cadre de la législation actuelle en créant une « LLC à zéro membre » :
(1) un membre individuel crée une LLC gérée par ses membres, en déposant les documents appropriés auprès de l'État ; (2) l'individu (avec, éventuellement, avec la LLC, qui est contrôlée par le membre unique) conclut un accord d'exploitation régissant la conduite de la LLC ; (3) l'accord d'exploitation précise que la LLC prendra des mesures telles que déterminées par un système autonome, spécifiant les modalités ou conditions appropriées pour atteindre les objectifs juridiques du système autonome ; (4) le membre unique se retire de la LLC, laissant la LLC sans aucun membre. Le résultat est potentiellement une SARL perpétuelle – une nouvelle personne morale – qui ne nécessite aucune intervention continue de la part d'une personne morale préexistante afin de maintenir son statut.
Sherer (2018) soutient – après avoir mené une analyse sur la (les) loi(s) LLC de New York (et d'autres États), la loi révisée uniforme sur la société à responsabilité limitée (RULLCA) et la jurisprudence américaine sur les principes fondamentaux de la personnalité juridique – que cette option n'est pas viable, mais est d'accord avec le Bayern sur l'existence d'une « échappatoire » par laquelle un système d'IA pourrait « contrôler efficacement une LLC et ainsi avoir l'équivalent fonctionnel de la personnalité juridique ». La faille du Bayern de « propriété croisée d'entités » fonctionnerait comme suit :
(1) La personne existante P crée des SARL A et B gérées par des membres, avec des accords d'exploitation identiques prévoyant que l'entité est contrôlée par un système autonome qui n'est pas une personne morale préexistante ; (2) P provoque l'admission de A en tant que membre de B et l'admission de B en tant que membre de A ; (3) P se retire des deux entités.
Contrairement à la LLC à zéro membre, la propriété croisée d'entités ne déclencherait pas de réponse par la loi pour avoir une entité sans membre, car il ne reste que deux entités ayant chacune un membre. Dans les sociétés, ce genre de situations est souvent empêché par des dispositions formelles dans les statuts (principalement pour les droits de vote pour les actions), cependant, de telles limitations ne semblent pas être en place pour les LLC car elles sont plus flexibles dans l'organisation du contrôle et de l'organisation.
L'Europe
En Europe, certains universitaires de différents pays ont commencé à examiner les possibilités dans leurs juridictions respectives. Bavière et al. (2017) ont comparé le Royaume-Uni, l'Allemagne et la Suisse aux conclusions de Bayern (2016) plus tôt pour les États-Unis pour voir si de telles « échappatoires » dans la loi existent également là-bas pour mettre en place une entité algorithmique.
Certaines juridictions plus petites vont plus loin et adaptent leurs lois aux changements technologiques du 21e siècle. Guernesey a accordé des droits (limités) aux agents électroniques et Malte est actuellement en train de créer un test de citoyenneté robotique.
S'il est peu probable que l' UE autorise l'IA à recevoir la personnalité juridique pour le moment, le Parlement européen a cependant demandé à la Commission européenne dans une résolution de février 2017 de "créer un statut juridique spécifique pour les robots à long terme, de sorte qu'au moins les robots autonomes les plus sophistiqués pourraient être établis comme ayant le statut de personnes électroniques chargées de réparer tout dommage qu'ils pourraient causer, et éventuellement d'appliquer la personnalité électronique aux cas où les robots prennent des décisions autonomes ou interagissent avec des tiers de manière indépendante ».
Toutes les parties des organes supranationaux européens n'étaient pas d'accord car le Comité économique et social européen a donné de sa propre initiative un avis contraire rendu en mai 2017 : « Le CESE est opposé à toute forme de statut juridique pour les robots ou l'IA (systèmes), car cela implique un risque inacceptable d'aléa moral. Le droit de la responsabilité repose sur une fonction préventive de correction du comportement, qui peut disparaître dès que le fabricant ne supporte plus le risque de responsabilité puisque celui-ci est transféré au robot (ou au système d'IA). Il existe également un risque d'utilisation inappropriée et d'abus de ce type de statut juridique.
En réponse à la demande du Parlement européen, la Commission européenne a mis en place un groupe d'experts de haut niveau pour aborder les problèmes et prendre des initiatives sur un certain nombre de sujets liés à l'automatisation, la robotique et l'IA. Le groupe d'experts de haut niveau a publié un projet de document pour les lignes directrices éthiques de l'IA et un document définissant l'IA en décembre 2018. Le document sur les lignes directrices éthiques a été ouvert à la consultation et a reçu de nombreux commentaires. La Commission européenne adopte une approche prudente en légiférant sur l'IA en mettant l'accent sur l'éthique, mais en même temps - comme l'UE est en retard dans la recherche sur l'IA aux États-Unis et en Chine - en se concentrant sur la façon de réduire l'écart avec les concurrents en créant un environnement plus invitant. cadre réglementaire pour la recherche et le développement de l'IA. Donner une personnalité juridique (limitée) à l'IA ou même autoriser certaines formes d'entités algorithmiques pourrait créer un avantage supplémentaire.