Téléchargement de l'esprit - Mind uploading

Fait partie d'une série sur
Cyborgs
Cyborgologie
Bionique Biomimétisme Génie biomédical Interface cerveau-ordinateur Cybernétique Cognition distribuée Ingénierie génétique Écosystème humain Amélioration humaine Amplification de l'intelligence Émulation du cerveau entier
Théorie
Anthropologie cyborg
Centres
Cyberpunk Cyberespace
Politique
Liberté cognitive Extropianisme Liberté morphologique Singularitarisme Techno-progressisme Transhumanisme
Articles Liés
L'art cyborg
v t e

Le téléchargement d'esprit , également connu sous le nom d' émulation de cerveau entier ( WBE ), est le processus futuriste hypothétique consistant à analyser une structure physique du cerveau avec suffisamment de précision pour créer une émulation de l'état mental (y compris la mémoire à long terme et le "soi") et de le copier. à un ordinateur sous forme numérique . L' ordinateur exécuterait ensuite une simulation du traitement de l'information du cerveau, de sorte qu'il répondrait essentiellement de la même manière que le cerveau d'origine et expérimenterait le fait d'avoir un esprit conscient sensible .

Des recherches importantes dans des domaines connexes sont menées dans les domaines de la cartographie et de la simulation du cerveau animal, du développement de superordinateurs plus rapides, de la réalité virtuelle , des interfaces cerveau-ordinateur , de la connectomique et de l'extraction d'informations à partir de cerveaux fonctionnant dynamiquement. Selon les partisans, de nombreux outils et idées nécessaires pour réaliser le téléchargement d'esprit existent déjà ou sont actuellement en cours de développement ; cependant, ils admettront que d'autres sont, pour l'instant, très spéculatifs, mais disent qu'ils sont encore dans le domaine de la possibilité d'ingénierie.

Le téléchargement de l'esprit peut potentiellement être accompli par l'une des deux méthodes suivantes : copier-et-télécharger ou copier-et-supprimer par remplacement progressif des neurones (ce qui peut être considéré comme un téléchargement progressif destructeur), jusqu'à ce que le cerveau organique d' origine n'existe plus et qu'un programme informatique imitant le cerveau prend le contrôle du corps. Dans le cas de la première méthode, le téléchargement de l'esprit serait réalisé en scannant et en cartographiant les principales caractéristiques d'un cerveau biologique, puis en stockant et en copiant cet état d'information dans un système informatique ou un autre appareil de calcul. Le cerveau biologique peut ne pas survivre au processus de copie ou peut être délibérément détruit au cours de celui-ci dans certaines variantes de téléchargement. L'esprit simulé pourrait se trouver dans une réalité virtuelle ou un monde simulé , soutenu par un modèle de simulation de corps 3D anatomique. Alternativement, l'esprit simulé pourrait résider dans un ordinateur à l'intérieur (ou connecté ou contrôlé à distance) à un robot (pas nécessairement humanoïde ) ou à un corps biologique ou cybernétique .

Chez certains futuristes et au sein du mouvement transhumaniste , le téléchargement de l'esprit est traité comme une importante technologie de prolongation de la vie proposée . Certains pensent que le téléchargement d'esprit est la meilleure option actuelle de l'humanité pour préserver l'identité de l'espèce, par opposition à la cryonie . Un autre objectif du téléchargement de l'esprit est de fournir une sauvegarde permanente à notre "fichier mental", pour permettre les voyages spatiaux interstellaires, et un moyen pour la culture humaine de survivre à une catastrophe mondiale en faisant une copie fonctionnelle d'une société humaine dans un appareil informatique. L'émulation du cerveau entier est discutée par certains futurologues comme un "point final logique" des domaines actuels des neurosciences computationnelles et de la neuroinformatique , à la fois sur la simulation du cerveau à des fins de recherche médicale. Il est discuté dans les publications de recherche sur l' intelligence artificielle comme une approche de l' IA forte ( intelligence générale artificielle ) et au moins de la superintelligence faible . Une autre approche est l'IA de graine , qui ne serait pas basée sur des cerveaux existants. L'intelligence informatique telle qu'un téléchargement pourrait penser beaucoup plus rapidement qu'un humain biologique même s'il n'était pas plus intelligent. Une société de téléchargements à grande échelle pourrait, selon les futurologues, donner lieu à une singularité technologique , ce qui signifie une diminution soudaine de la constante de temps du développement exponentiel de la technologie. Le téléchargement de l'esprit est une caractéristique conceptuelle centrale de nombreux romans, films et jeux de science-fiction .

Aperçu

Le consensus neuroscientifique établi est que l' esprit humain est en grande partie une propriété émergente du traitement de l'information de son réseau neuronal .

Les neuroscientifiques ont déclaré que les fonctions importantes exécutées par l'esprit, telles que l'apprentissage, la mémoire et la conscience, sont dues à des processus purement physiques et électrochimiques dans le cerveau et sont régies par les lois applicables. Par exemple, Christof Koch et Giulio Tononi ont écrit dans IEEE Spectrum :

La conscience fait partie du monde naturel. Elle ne dépend, croyons-nous, que des mathématiques et de la logique et des lois imparfaitement connues de la physique, de la chimie et de la biologie ; il ne provient pas d'une qualité magique ou d'un autre monde.

Le concept de téléchargement de l'esprit est basé sur cette vision mécaniste de l'esprit et nie la vision vitaliste de la vie et de la conscience humaines.

D'éminents informaticiens et neuroscientifiques ont prédit que les ordinateurs avancés seront capables de penser et même d'atteindre la conscience, notamment Koch et Tononi, Douglas Hofstadter , Jeff Hawkins , Marvin Minsky , Randal A. Koene et Rodolfo Llinás .

De nombreux théoriciens ont présenté des modèles du cerveau et ont établi une gamme d'estimations de la quantité de puissance de calcul nécessaire pour des simulations partielles et complètes. À l'aide de ces modèles, certains ont estimé que le téléchargement pourrait devenir possible d'ici quelques décennies si des tendances telles que la loi de Moore se poursuivent.

Avantages théoriques et applications

"Immortalité" ou sauvegarde

En théorie, si les informations et les processus de l'esprit peuvent être dissociés du corps biologique, ils ne sont plus liés aux limites individuelles et à la durée de vie de ce corps. En outre, les informations contenues dans un cerveau pourraient être partiellement ou totalement copiées ou transférées vers un ou plusieurs autres substrats (y compris le stockage numérique ou un autre cerveau), réduisant ainsi ou éliminant, d'un point de vue purement mécaniste, le « risque de mortalité » de ces informations. Cette proposition générale a été discutée en 1971 par le biogérontologue George M. Martin de l' Université de Washington .

Exploration de l'espace

Un "astronaute téléchargé" pourrait être utilisé à la place d'un astronaute "vivant" dans un vol spatial habité , évitant ainsi les dangers de l' apesanteur , le vide de l'espace et le rayonnement cosmique vers le corps humain . Cela permettrait l'utilisation d'engins spatiaux plus petits, tels que le StarChip proposé , et permettrait des distances de voyage interstellaires pratiquement illimitées .

Technologies et techniques pertinentes

L'objectif du téléchargement de l'esprit, dans le cas de la copie et du transfert, est l'acquisition de données, plutôt que la maintenance des données du cerveau. Un ensemble d'approches connues sous le nom de déchargement à couplage lâche (LCOL) peut être utilisé pour tenter de caractériser et de copier le contenu mental d'un cerveau. L'approche LCOL peut tirer parti des auto-évaluations, des journaux de vie et des enregistrements vidéo qui peuvent être analysés par l'intelligence artificielle. Une approche ascendante peut se concentrer sur la résolution et la morphologie spécifiques des neurones, les temps de pointe des neurones, les moments auxquels les neurones produisent des réponses potentielles d'action.

Complexité de calcul

Estimations de la puissance de traitement nécessaire pour émuler un cerveau humain à différents niveaux, ainsi que les superordinateurs les plus rapides et les plus lents de TOP500 et un PC à 1 000 $. Notez l'échelle logarithmique. La ligne de tendance (exponentielle) du supercalculateur le plus rapide reflète un doublement tous les 14 mois. Kurzweil pense que le téléchargement de l'esprit sera possible lors de la simulation neuronale, tandis que le rapport Sandberg & Bostrom est moins certain de l'endroit où la conscience surgit.

Les partisans du téléchargement d'esprit se réfèrent à la loi de Moore pour soutenir l'idée que la puissance de calcul nécessaire devrait être disponible dans quelques décennies. Cependant, les exigences de calcul réelles pour exécuter un esprit humain téléchargé sont très difficiles à quantifier, ce qui rend potentiellement un tel argument spécieux.

Quelles que soient les techniques utilisées pour capturer ou recréer la fonction d'un esprit humain, les exigences de traitement sont susceptibles d'être immenses, en raison du grand nombre de neurones dans le cerveau humain ainsi que de la complexité considérable de chaque neurone.

En 2004, Henry Markram , chercheur principal du Blue Brain Project , a déclaré que "ce n'est pas [leur] objectif de construire un réseau neuronal intelligent", basé uniquement sur les exigences informatiques d'un tel projet.

Ce sera très difficile car, dans le cerveau, chaque molécule est un ordinateur puissant et nous aurions besoin de simuler la structure et la fonction de milliers de milliards de milliards de molécules ainsi que toutes les règles qui régissent leur interaction. Vous auriez littéralement besoin d'ordinateurs des milliards de fois plus gros et plus rapides que tout ce qui existe aujourd'hui.

Cinq ans plus tard, après une simulation réussie d'une partie d'un cerveau de rat, Markram était beaucoup plus audacieux et optimiste. En 2009, en tant que directeur du Blue Brain Project, il a affirmé qu'« un cerveau humain artificiel détaillé et fonctionnel peut être construit dans les 10 prochaines années ». Moins de deux ans après le début, le projet a été reconnu comme étant mal géré et ses revendications exagérées, et Markram a été invité à se retirer.

La capacité de calcul requise dépend fortement du niveau d'échelle du modèle de simulation choisi :

Échelle de balayage et de cartographie d'un individu

Lors de la modélisation et de la simulation du cerveau d'un individu spécifique, une carte du cerveau ou une base de données de connectivité montrant les connexions entre les neurones doit être extraite d'un modèle anatomique du cerveau. Pour la simulation de l'ensemble du cerveau, cette carte du réseau doit montrer la connectivité de l'ensemble du système nerveux , y compris la moelle épinière , les récepteurs sensoriels et les cellules musculaires . Le balayage destructif d'un petit échantillon de tissu provenant d'un cerveau de souris, y compris les détails synaptiques, est possible à partir de 2010.

Cependant, si la mémoire à court terme et la mémoire de travail incluent un déclenchement prolongé ou répété des neurones, ainsi que des processus dynamiques intra-neuraux, l'état du signal électrique et chimique des synapses et des neurones peut être difficile à extraire. L'esprit téléchargé peut alors percevoir une perte de mémoire des événements et des processus mentaux immédiatement avant le moment du balayage cérébral.

Une carte cérébrale complète a été estimée occuper moins de 2 x 10 ¹⁶ octets (20 000 To) et stockerait les adresses des neurones connectés, le type de synapse et le « poids » synaptique pour chacune des 10 ¹⁵ synapses du cerveau . Cependant, les complexités biologiques de la vraie fonction cérébrale (par exemple, les états épigénétiques des neurones, les composants protéiques avec de multiples états fonctionnels, etc.) peuvent empêcher une prédiction précise du volume de données binaires nécessaires pour représenter fidèlement un esprit humain fonctionnel.

Sectionnement en série

Sectionnement en série d'un cerveau

Une méthode possible pour le téléchargement mental est la coupe en série, dans laquelle le tissu cérébral et peut-être d'autres parties du système nerveux sont congelés puis scannés et analysés couche par couche, ce qui, pour les échantillons congelés à l'échelle nanométrique, nécessite un cryo- ultramicrotome , capturant ainsi la structure des neurones et leurs interconnexions. La surface exposée du tissu nerveux congelé serait scannée et enregistrée, puis la couche superficielle de tissu retirée. Bien qu'il s'agisse d'un processus très lent et exigeant en main-d'œuvre, des recherches sont actuellement en cours pour automatiser la collecte et la microscopie de sections en série. Les scans seraient ensuite analysés et un modèle du réseau neuronal recréé dans le système dans lequel l'esprit était téléchargé.

Il y a des incertitudes avec cette approche en utilisant les techniques de microscopie actuelles. S'il est possible de reproduire la fonction neuronale à partir de sa seule structure visible, alors la résolution offerte par un microscope électronique à balayage suffirait pour une telle technique. Cependant, comme la fonction du tissu cérébral est partiellement déterminée par des événements moléculaires (en particulier au niveau des synapses , mais aussi à d' autres endroits de la membrane cellulaire du neurone ), cela peut ne pas suffire pour capturer et simuler les fonctions neuronales. Il peut être possible d'étendre les techniques de sectionnement en série et de capturer la composition moléculaire interne des neurones, grâce à l'utilisation de méthodes de coloration immunohistochimiques sophistiquées qui pourraient ensuite être lues par microscopie confocale à balayage laser . Cependant, comme la genèse physiologique de « l'esprit » n'est pas connue actuellement, cette méthode peut ne pas être en mesure d'accéder à toutes les informations biochimiques nécessaires pour recréer un cerveau humain avec une fidélité suffisante.

Imagerie cérébrale

Processus de l'acquisition IRM au réseau structurel du cerveau entier

Magnétoencéphalographie

Il peut être possible de créer des cartes 3D fonctionnelles de l'activité cérébrale, en utilisant une technologie de neuroimagerie avancée, telle que l'IRM fonctionnelle (IRMf, pour cartographier les changements dans le flux sanguin), la magnétoencéphalographie (MEG, pour cartographier les courants électriques) ou des combinaisons de plusieurs méthodes , pour construire un modèle tridimensionnel détaillé du cerveau en utilisant des méthodes non invasives et non destructives. Aujourd'hui, l'IRMf est souvent associée au MEG pour créer des cartes fonctionnelles du cortex humain lors de tâches cognitives plus complexes, car les méthodes se complètent. Même si la technologie d'imagerie actuelle n'a pas la résolution spatiale nécessaire pour recueillir les informations nécessaires à un tel balayage, d'importants développements récents et futurs devraient améliorer considérablement les résolutions spatiales et temporelles des technologies existantes.

Simulation cérébrale

Des travaux sont en cours dans le domaine de la simulation cérébrale, y compris des simulations partielles et complètes de certains animaux. Par exemple, le ver rond C. elegans , la mouche des fruits Drosophila et la souris ont tous été simulés à des degrés divers.

Le Blue Brain Project du Brain and Mind Institute de l' École polytechnique fédérale de Lausanne , en Suisse, est une tentative de création d'un cerveau synthétique par rétro-ingénierie des circuits du cerveau des mammifères.

Problèmes

Questions pratiques

Kenneth D. Miller, professeur de neurosciences à Columbia et codirecteur du Center for Theoretical Neuroscience, a soulevé des doutes quant à la faisabilité du téléchargement d'esprit. Son argument majeur est que la reconstruction des neurones et de leurs connexions est en soi une tâche formidable, mais elle est loin d'être suffisante. Le fonctionnement du cerveau dépend de la dynamique des échanges de signaux électriques et biochimiques entre les neurones ; par conséquent, les capturer dans un seul état "gelé" peut s'avérer insuffisant. De plus, la nature de ces signaux peut nécessiter une modélisation jusqu'au niveau moléculaire et au-delà. Par conséquent, sans rejeter l'idée en principe, Miller croit que la complexité de la duplication « absolue » d'un esprit individuel est insurmontable pour les centaines d'années les plus proches.

Problèmes philosophiques

Sous-jacente au concept de « transfert d'esprit » (plus précisément « transfert d'esprit ») se trouve la philosophie générale selon laquelle la conscience réside dans le traitement de l'information du cerveau et est essentiellement une caractéristique émergente qui découle des grands modèles d'organisation de haut niveau du réseau neuronal, et que les mêmes schémas d'organisation peuvent être réalisés dans d'autres dispositifs de traitement. Le téléchargement de l'esprit repose également sur l'idée que l'esprit humain (le « moi » et la mémoire à long terme), tout comme les esprits non humains, est représenté par les chemins actuels du réseau neuronal et le poids des synapses cérébrales plutôt que par un âme et esprit dualistes et mystiques. L'esprit ou « âme » peut être défini comme l'état d'information du cerveau et n'a d'importance que dans le même sens que le contenu d'information d'un fichier de données ou l'état d'un logiciel informatique résidant actuellement dans la mémoire de l'espace de travail du ordinateur. Les données spécifiant l'état des informations du réseau neuronal peuvent être capturées et copiées sous forme de « fichier informatique » à partir du cerveau et réimplémentées sous une forme physique différente. Il ne s'agit pas de nier que les esprits sont richement adaptés à leurs substrats. Une analogie avec l'idée du téléchargement mental consiste à copier l'état d'information temporaire (les valeurs variables) d'un programme informatique de la mémoire de l'ordinateur vers un autre ordinateur et de poursuivre son exécution. L'autre ordinateur peut avoir une architecture matérielle différente mais émule le matériel du premier ordinateur.

Ces problèmes ont une longue histoire. En 1775, Thomas Reid écrivait : « Je serais heureux de savoir... si, lorsque mon cerveau aura perdu sa structure d'origine, et lorsque, quelques centaines d'années plus tard, les mêmes matériaux seront fabriqués de manière si curieuse qu'ils deviendront un être intelligent, si, je dis que l'être sera moi ; ou, si, deux ou trois de ces êtres devaient être formés de mon cerveau ; s'ils seront tous moi, et par conséquent un seul et même être intelligent.

Une proportion considérable de transhumanistes et de singularitaires place un grand espoir dans la croyance qu'ils peuvent devenir immortels, en créant une ou plusieurs copies fonctionnelles non biologiques de leur cerveau, laissant ainsi leur « coquille biologique ». Cependant, la philosophe et transhumaniste Susan Schneider affirme qu'au mieux, le téléchargement créerait une copie de l'esprit de la personne d'origine. Schneider convient que la conscience a une base informatique, mais cela ne signifie pas que nous pouvons télécharger et survivre. Selon elle, le « téléchargement » entraînerait probablement la mort du cerveau de la personne d'origine, alors que seuls des observateurs extérieurs peuvent maintenir l'illusion que la personne d'origine est toujours en vie. Car il est invraisemblable de penser que sa conscience quitterait son cerveau et se rendrait dans un endroit éloigné ; les objets physiques ordinaires ne se comportent pas de cette façon. Les objets ordinaires (roches, tables, etc.) ne sont pas à la fois ici et ailleurs. Au mieux, une copie de l'esprit original est créée. Les corrélats neuronaux de la conscience , une sous-branche des neurosciences, affirment que la conscience peut être considérée comme une propriété dépendante de l'état d'un système biologique complexe indéfini , adaptatif et hautement interconnecté.

D'autres se sont opposés à de telles conclusions. Par exemple, le transhumaniste bouddhiste James Hughes a souligné que cette considération ne va pas plus loin : si l'on croit que le soi est une illusion, les soucis de survie ne sont pas des raisons d'éviter le téléchargement, et Keith Wiley a présenté un argument selon lequel tous les esprits résultants d'un procédure de téléchargement se voient accorder une primauté égale dans leur revendication à l'identité d'origine, de sorte que la survie de soi est déterminée rétroactivement à partir d'une position strictement subjective. Certains ont également affirmé que la conscience fait partie d'un système extra-biologique qui reste à découvrir ; par conséquent, il ne peut pas être pleinement compris dans les contraintes actuelles de la neurobiologie. Sans le transfert de conscience, la véritable charge mentale ou l'immortalité perpétuelle ne peuvent être pratiquement atteintes.

Une autre conséquence potentielle du téléchargement de l'esprit est que la décision de « télécharger » peut alors créer un manipulateur de symboles stupide au lieu d'un esprit conscient (voir zombie philosophique ). Devons-nous supposer qu'un téléchargement est conscient s'il affiche des comportements hautement indicatifs de la conscience ? Devons-nous supposer qu'un téléchargement est conscient s'il insiste verbalement sur le fait qu'il est conscient ? Pourrait-il y avoir une limite supérieure absolue dans la vitesse de traitement au-dessus de laquelle la conscience ne peut pas être maintenue ? Le mystère de la conscience empêche une réponse définitive à cette question. De nombreux scientifiques, dont Kurzweil, croient fermement que la réponse quant à savoir si une entité distincte est consciente (avec une confiance de 100 %) est fondamentalement inconnaissable, puisque la conscience est intrinsèquement subjective (voir solipsisme ). Quoi qu'il en soit, certains scientifiques croient fermement que la conscience est la conséquence de processus informatiques neutres vis-à-vis du substrat. Au contraire, de nombreux scientifiques pensent que la conscience peut être le résultat d'une certaine forme de calcul quantique dépendant du substrat (voir esprit quantique ).

À la lumière de l'incertitude quant à savoir s'il faut considérer les téléchargements comme conscients, Sandberg propose une approche prudente :

Principe de l'hypothèse maximale (PAM) : supposons que tout système émulé puisse avoir les mêmes propriétés mentales que le système d'origine et le traiter en conséquence.

Implications éthiques et juridiques

Le processus de développement de la technologie d'émulation soulève des questions éthiques liées au bien-être animal et à la conscience artificielle . Les neurosciences nécessaires au développement de l'émulation cérébrale nécessiteraient une expérimentation animale, d'abord sur les invertébrés puis sur les petits mammifères avant de passer aux humains. Parfois, les animaux auraient juste besoin d'être euthanasiés pour extraire, trancher et scanner leur cerveau, mais parfois des mesures comportementales et in vivo seraient nécessaires, ce qui pourrait causer de la douleur aux animaux vivants.

De plus, les émulations animales qui en résultent peuvent elles-mêmes en souffrir, selon les points de vue de chacun sur la conscience. Bancroft plaide en faveur de la plausibilité de la conscience dans les simulations cérébrales sur la base de l' expérience de pensée « fading qualia » de David Chalmers . Il conclut ensuite : « Si, comme je le dis ci-dessus, une simulation informatique suffisamment détaillée du cerveau est potentiellement équivalente sur le plan opérationnel à un cerveau organique, il s'ensuit que nous devons envisager d'étendre les protections contre la souffrance aux simulations.

Cela pourrait aider à réduire la souffrance d'émulation pour développer des équivalents virtuels de l'anesthésie, ainsi que pour omettre le traitement lié à la douleur et/ou à la conscience. Cependant, certaines expériences peuvent nécessiter une émulation animale pleinement fonctionnelle et souffrante. Les animaux peuvent également souffrir par accident en raison de défauts et d'un manque de compréhension des parties de leur cerveau qui souffrent. Des questions se posent également concernant le statut moral des émulations cérébrales partielles , ainsi que la création d'émulations neuromorphiques qui s'inspirent des cerveaux biologiques mais sont construites quelque peu différemment.

Les émulations cérébrales pourraient être effacées par des virus informatiques ou des logiciels malveillants, sans qu'il soit nécessaire de détruire le matériel sous-jacent. Cela peut rendre l'assassinat plus facile que pour les humains physiques. L'attaquant pourrait utiliser la puissance de calcul pour son propre usage.

De nombreuses questions se posent quant à la personnalité juridique des émulations. Auraient-ils les droits des humains biologiques ? Si une personne fait une copie émulée d'elle-même et meurt ensuite, l'émulation hérite-t-elle de ses biens et de ses positions officielles ? L'émulation pourrait-elle demander de "débrancher" quand sa version biologique était en phase terminale ou dans le coma ? Serait-il utile de traiter les émulations comme des adolescents pendant quelques années pour que le créateur biologique garde un contrôle temporaire ? Les émulations criminelles seraient-elles passibles de la peine de mort, ou seraient-elles soumises à une modification forcée des données en guise de « réhabilitation » ? Un téléchargement pourrait-il avoir des droits de mariage et de garde d'enfants ?

Si des esprits simulés devenaient réalité et s'ils se voyaient attribuer leurs propres droits, il pourrait être difficile d'assurer la protection des « droits humains numériques ». Par exemple, les chercheurs en sciences sociales pourraient être tentés d'exposer secrètement des esprits simulés, ou des sociétés entières isolées d'esprits simulés, à des expériences contrôlées dans lesquelles de nombreuses copies des mêmes esprits sont exposées (en série ou simultanément) à différentes conditions de test.

Implications politiques et économiques

Les émulations pourraient créer un certain nombre de conditions susceptibles d'augmenter le risque de guerre, notamment des inégalités, des changements dans la dynamique du pouvoir, une éventuelle course aux armements technologiques pour construire d'abord des émulations, des avantages de première frappe , une forte loyauté et une volonté de « mourir » parmi les émulations, et des déclencheurs pour préjugés racistes, xénophobes et religieux. Si les émulations fonctionnent beaucoup plus rapidement que les humains, il se peut que les dirigeants humains n'aient pas assez de temps pour prendre des décisions judicieuses ou négocier. Il est possible que les humains réagissent violemment contre la montée en puissance des émulations, surtout si elles dépriment les salaires humains. Les émulations peuvent ne pas se faire confiance, et même des mesures défensives bien intentionnées peuvent être interprétées comme une infraction .

Délais d'émulation et risque d'IA

Il y a très peu de technologies réalisables que les humains se sont abstenus de développer. Les neurosciences et les technologies du matériel informatique qui peuvent rendre possible l'émulation du cerveau sont largement souhaitées pour d'autres raisons, et logiquement leur développement se poursuivra dans le futur. En supposant que la technologie d'émulation arrive, la question est de savoir si nous devons accélérer ou ralentir son avancée.

Arguments pour accélérer la recherche sur l'émulation cérébrale :

• Si les neurosciences sont le goulot d'étranglement de l'émulation du cerveau plutôt que de la puissance de calcul, les progrès de l'émulation peuvent être plus erratiques et imprévisibles en fonction du moment où de nouvelles découvertes scientifiques se produisent. Une puissance de calcul limitée signifierait que les premières émulations fonctionneraient plus lentement et seraient donc plus faciles à adapter, et il y aurait plus de temps pour que la technologie fasse la transition à travers la société.
• Les améliorations de la fabrication, de l'impression 3D et de la nanotechnologie pourraient accélérer la production de matériel informatique, ce qui pourrait augmenter le « surcharge informatique » du matériel excédentaire par rapport aux neurosciences.
• Si un groupe de développement d'IA avait une avance dans la technologie d'émulation, il aurait plus de temps subjectif pour gagner une course aux armements pour construire la première IA surhumaine. Parce qu'il serait moins précipité, il aurait plus de liberté pour considérer les risques de l'IA.

Arguments pour ralentir la recherche sur l'émulation cérébrale :

• Un investissement plus important dans l'émulation du cerveau et les sciences cognitives associées pourrait améliorer la capacité des chercheurs en intelligence artificielle (IA) à créer des algorithmes « neuromorphes » (inspirés du cerveau), tels que les réseaux de neurones, l'apprentissage par renforcement et la perception hiérarchique. Cela pourrait accélérer les risques liés à l'IA non contrôlée . Les participants à un atelier d'IA de 2011 ont estimé à 85 % la probabilité que l'IA neuromorphique arrive avant l'émulation du cerveau. Ceci était basé sur l'idée que l'émulation du cerveau nécessiterait de comprendre certains composants du cerveau, et qu'il serait plus facile de les bricoler que de reconstruire l'ensemble du cerveau dans sa forme originale. Par une marge très étroite, les participants penchaient dans l'ensemble pour penser que l'accélération de l'émulation cérébrale augmenterait le risque attendu d'IA.
• Attendre pourrait donner à la société plus de temps pour réfléchir aux conséquences de l'émulation cérébrale et développer des institutions pour améliorer la coopération.

La recherche sur l'émulation accélérerait également les neurosciences dans leur ensemble, ce qui pourrait accélérer les progrès médicaux, l'amélioration cognitive, les détecteurs de mensonges et la capacité de manipulation psychologique .

Les émulations peuvent être plus faciles à contrôler que l' IA de novo car

1. Les capacités humaines, les tendances comportementales et les vulnérabilités sont mieux comprises, les mesures de contrôle pourraient donc être plus intuitives et plus faciles à planifier.
2. Les émulations pourraient plus facilement hériter des motivations humaines.
3. Les émulations sont plus difficiles à manipuler que l' IA de novo , car les cerveaux sont désordonnés et compliqués ; cela pourrait réduire les risques de leur décollage rapide. De plus, les émulations peuvent être plus volumineuses et nécessiter plus de matériel que l'IA, ce qui ralentirait également la vitesse d'une transition. Contrairement à l'IA, une émulation ne pourrait pas s'étendre rapidement au-delà de la taille d'un cerveau humain. Les émulations fonctionnant à des vitesses numériques auraient moins de différentiel d'intelligence par rapport à l'IA et pourraient donc contrôler plus facilement l'IA.

En contrepoint de ces considérations, Bostrom note quelques inconvénients :

1. Même si nous comprenons mieux le comportement humain, l' évolution du comportement d'émulation dans le cadre de l'auto-amélioration pourrait être beaucoup moins prévisible que l'évolution de l' IA sûre de novo dans le cadre de l'auto-amélioration.
2. Les émulations peuvent ne pas hériter de toutes les motivations humaines. Peut-être hériteraient-ils de nos motivations les plus sombres ou se comporteraient-ils anormalement dans l'environnement inconnu du cyberespace.
3. Même s'il y a un décollage lent vers les émulations, il y aurait toujours une deuxième transition vers l' IA de novo plus tard. Deux explosions de renseignements peuvent signifier plus de risque total.

En raison des difficultés postulées qu'une superintelligence générée par l'émulation du cerveau entier poserait pour le problème de contrôle, l'informaticien Stuart J. Russell dans son livre Human Compatible rejette la création d'une, la qualifiant simplement de « si manifestement une mauvaise idée ».

Avocats

Ray Kurzweil , directeur de l'ingénierie chez Google , prédit depuis longtemps que les gens seront capables de « télécharger » l'intégralité de leur cerveau sur des ordinateurs et de devenir « numériquement immortels » d'ici 2045. Kurzweil a fait cette affirmation pendant de nombreuses années, par exemple lors de son discours en 2013 à le Global Futures 2045 International Congress à New York, qui prétend souscrire à un ensemble de croyances similaires. Le téléchargement de l'esprit a également été préconisé par un certain nombre de chercheurs en neurosciences et en intelligence artificielle , comme le regretté Marvin Minsky . En 1993, Joe Strout a créé un petit site Web appelé Mind Uploading Home Page, et a commencé à défendre l'idée dans les cercles cryoniques et ailleurs sur le net. Ce site n'a pas été activement mis à jour ces dernières années, mais il a engendré d'autres sites, dont MindUploading.org, dirigé par Randal A. Koene , qui anime également une liste de diffusion sur le sujet. Ces défenseurs considèrent le téléchargement d'esprit comme une procédure médicale qui pourrait éventuellement sauver d'innombrables vies.

De nombreux transhumanistes attendent avec impatience le développement et le déploiement de la technologie de téléchargement de l'esprit, des transhumanistes tels que Nick Bostrom prédisant que cela deviendra possible au 21e siècle en raison de tendances technologiques telles que la loi de Moore.

Michio Kaku , en collaboration avec Science , a animé un documentaire, Sci Fi Science : Physics of the Impossible , basé sur son livre Physics of the Impossible . L'épisode quatre, intitulé "Comment se téléporter", mentionne que le téléchargement d'esprit via des techniques telles que l'intrication quantique et l'émulation du cerveau entier à l'aide d'un appareil d'IRM avancé peut permettre aux personnes d'être transportées sur de grandes distances à une vitesse proche de la lumière.

Le livre Beyond Humanity: CyberEvolution and Future Minds de Gregory S. Paul & Earl D. Cox, traite de l'évolution éventuelle (et, pour les auteurs, presque inévitable) des ordinateurs en êtres sensibles , mais traite également du transfert de l'esprit humain. Richard Doyle « s Wetwares: Experiments in PostVital Living traite abondamment avec ajout dans la perspective de réalisation distribuée, faisant valoir par exemple que les humains font actuellement partie du « phénotype de vie artificielle ». La vision de Doyle inverse la polarité sur le téléchargement, avec des formes de vie artificielles telles que les téléchargements recherchant activement une incarnation biologique dans le cadre de leur stratégie de reproduction.

Voir également

Les références