Ray Kurzweil est l’un des plus grands inventeurs de notre époque, avec plus de 60 ans d’expérience dans le domaine de l’intelligence artificielle. Des dizaines de ses prédictions à long terme concernant l’essor d’Internet, de l’IA et du génie biologique se sont révélées exactes. Dans ce livre visionnaire et fondamentalement optimiste, Kurzweil explique comment la Singularité se produira, explore ce que cela signifie de vivre libéré des limites de la biologie, et soutient que nous pouvons — et allons — transformer profondément la vie sur Terre pour le meilleur.
Il est actuellement chercheur principal et visionnaire en intelligence artificielle chez Google — une filiale de la société Alphabet — où lui et son équipe de programmeurs étudient les moyens permettant aux ordinateurs de traiter, interpréter, comprendre et utiliser le langage humain dans des applications quotidiennes. Il est le cofondateur de l’université de la Singularité basée en Silicon Valley.
ACKNOWLEDGMENTS
INTRODUCTION
CHAPTER 1 : WHERE ARE WE IN THE SIX STAGES ?
CHAPTER 2 : REINVENTING INTELLIGENCE
CHAPTER 3 : WHO AM I ?
CHAPTER 4 : LIFE IS GETTING EXPONENTIALLY BETTER
CHAPTER 5 : THE FUTURS OF JOBS : GOOD OR BAD ?
CHAPTER 6 : THE NEXT THIRTY YEARS IN HEALTH AND WELL-BEING
CHAPTER 7 : PERIL
CHAPTER ! : DIALOGUE WITH CASSANDRA
APPENDIX
NOTES
INDEX
Nombre de pages
420
Langue
Anglaise
Année de publication
2024
Éditeur
Penguin
ISBN
978-1847-928290
Ray Kurzweil est un ingénieur et futurologue américain considéré comme une figure influente dans le domaine de l’Intelligence Artificielle et de la prospective technologique. Ses travaux et ses ouvrages ont contribué à populariser le concept de singularité technologique, ce moment d’accélération exponentielle du progrès technique permis par l’avènement de l’IA donnant naissance à une superintelligence capable de surpasser l’homme dans tous les domaines.
Si pour de nombreux observateurs – dont je fais parti – le terme d’Intelligence Artificielle choisi délibérément par McCarthy lors de la conférence de Darmouth en 1956 peut-être trompeur en induisant une forme d’équivalence de l’IA à l’intelligence humaine, pour Ray Kurzweil, cette appellation l’en éloigne trop.
Dans cet ouvrage, le futurologue nous partage des prédictions plus ou moins réalistes, optimistes ou imprécises… Alors bien sûr, pour certaines anticipations, on a envie d’y croire. C’est notamment le cas des prévisions quant aux progrès promis dans le secteur de la médecine. Oui, l’IA, le Big Data et le Machine Learning vont permettre d’améliorer la prise en charge médicale. L’imagerie médicale bénéficie déjà de la capacité de l’IA à identifier de manière précoce des zones cancéreuses. L’IA contribue également à la révolution dans la chirurgie assistée par la robotique.
Et l’impact de l’IA nous dit l’auteur ne s’arrête pas à la médecine. Elle permettra également le développement d’une agriculture plus seine capable de nourrir l’humanité toute entière. Mais là ou l’auteur anticipe un développement de la ferme verticale – forte consommatrice de technologies nécessaires à son fonctionnement comme les panneaux solaire, les machines automatisées pour la récole, la captation de l’eau dans l’air – permettant une alimentation presque gratuite, nous pourrions pourtant privilégier une agro-écologie low-tech, respectueuse des climats et des ressources, concept cher à Pierre Rabhi et développé dans sa ferme des Amanins.
Kurzweil est un représentant du mouvement transhumaniste qui se donne comme objectif de défier la mort. « Nous allons commencer à prolonger considérablement la durée de la vie humaine ». « D’ici la fin des années 2020. Nous serons alors en mesure de commencer à traiter directement les facteurs biologiques qui limitent actuellement la durée de vie maximale à environ 120 ans ». Si une meilleure hygiène de vie (eau potable, sanitaires…) et les progrès de la médecine (i.e. découverte de la pénicilline, vaccins…) ont permis à plus de personnes d’arriver à un âge avancé en faisant notamment baisser la mortalité infantile, il n’est pas certain que la technologie à elle seule ait la capacité d’avoir un impact tout aussi considérable. Notre corps biologique, semble encore pour longtemps, soumis aux aléas du temps qui passe. Pour s’extraire de notre triste condition de mortel, la seule alternative long-terme possible pour l’auteur et les techno-solutionnistes est de nous libérer enfin de notre enveloppe charnelle pour prolonger notre vie dans le merveilleux monde dématérialisé du numérique. Et ainsi balayer d’un revers de la main l’idée que la vie éternelle qui nous serait offerte, potentiellement longue et ennuyeuse, pourrait être comblée par des ersatz digitaux. À ce sujet, je vous proposerai prochainement une fiche de lecture de tous les hommes sont mortels de Simon de Beauvoir. Mais revenons à l’ouvrage qui nous intéresse ici La singularité se rapproche.
« Le cerveau sera composé à terme de plus de 99,9% d’éléments non biologiques ». Cet horizon s’y il parait pour le moins ambitieux (mais est-ce pour autant souhaitable?) semble tout à fait irréaliste compte tenu de notre compréhension très partielle de son fonctionnement.
Acheter le livre:
Et soutenir le blog
« Au début des années 2040, des nanorobots seront capables de pénétrer dans le cerveau d’une personne vivante et d’en copier toutes les données constituant les souvenirs et la personnalité de cette personne ». Nous voyons ici un concept fort développé par certains illuminés – qualification utilisée par le journaliste Thibault Prévost – de la Silicon Valley ou à la manière d’un disque dur, le cerveau pourrait être simplement numérisé et recopié à l’infini, et pour l’éternité. Pour de nombreux experts comme la chercheuse en IA Laurence Devillers et philosophes comme Jean-Michel Besnier, nous sommes plus proche du fantasme que de la prophétie. L’immortalité promise par les géants de la tech (Kurzweil travaille chez Google…), qu’elle soit sous forme biologique ou numérique, n’a pas beaucoup de sens, car la conscience à besoin d’un corps pour exister « un cerveau qui serait coupé du corps et qui flotterait dans un liquide amniotique n’aurait pas de sens et serait une glande qui vivoterait ».
Si certaines projections de l’auteur semblent tout à fait réalistes et basées sur les tendances macro-économiques réelles, on pourra regretter son approche techno-centrique simpliste qui mériterait une plus grande prise de recul sur les impacts potentiels de l’IA sur notre cognition et d’une nécessaire réflexion philosophique, qui manque pourtant cruellement dans la Silicon Valley. C’est en cela pour moi que Ray Kurzweil rejoint d’autres prophètes de la Silicon Valley comme Peter Thiel ou encore l’historien transhumniste Yuval Noah Harari.
Rendez-vous donc en 2045 avec la singularité et avant chez votre libraire préféré pour mieux comprendre cet univers des transhumanistes.
En préparant la conférence, McCarthy proposa que ce domaine, qui finirait par automatiser tous les autres, soit appelé « intelligence artificielle ». Ce n’est pas une appellation que j’apprécie, car le mot « artificielle » donne l’impression que cette forme d’intelligence n’est « pas réelle », mais c’est le terme qui a perduré. (p.13)
Il peut être utile de penser aux données comme à une forme de pétrole. Les gisements de pétrole existent sur un continuum de difficulté d’extraction. Certains jaillissent naturellement du sol sous pression, prêts à être raffinés et peu coûteux à produire. D’autres nécessitent des forages profonds coûteux, de la fracturation hydraulique ou des procédés de chauffage spéciaux pour les extraire des roches de schiste. Lorsque les prix du pétrole sont bas, les compagnies énergétiques n’extraient que les sources faciles et bon marché, mais à mesure que les prix augmentent, il devient économiquement viable d’exploiter les gisements plus difficiles d’accès.
De manière similaire, lorsque les avantages du big data étaient relativement limités, les entreprises ne le collectaient que dans les cas où cela était relativement peu coûteux. Mais à mesure que les techniques d’apprentissage automatique progressent et que la puissance de calcul devient moins chère, la valeur économique (et souvent la valeur sociale) de nombreux types de données plus difficiles à obtenir augmente. En effet, grâce aux innovations accélérées dans le domaine du big data et de l’apprentissage automatique, notre capacité à collecter, stocker, classer et analyser des données sur les compétences humaines a considérablement progressé au cours des un ou deux dernières années. Le terme « big data » est devenu un mot à la mode dans la Silicon Valley, mais l’avantage fondamental de cette technologie est bien réel : il est devenu possible d’utiliser des techniques d’apprentissage automatique qui ne fonctionneraient tout simplement pas avec de petites quantités de données [ndlr : Olivier Ertzcheid parle du développement d’un web synthétique]. Cela va se produire au cours des années 2020 pour presque toutes les compétences humaines existantes. (p.59)
Les ordinateurs seront capables de simuler le cerveau humain dans tous les aspects qui nous importent d’ici environ deux décennies. Ce n’est pas quelque chose qui se produira dans un siècle et que nos arrière-petits-enfants devront résoudre. Nous allons commencer à prolonger considérablement la durée de la vie humaine dès les années 2020, donc si vous êtes en bonne santé et avez moins de quatre-vingts ans, il est probable que cela se produise de votre vivant. Pour donner un autre point de repère : les enfants qui naissent aujourd’hui verront probablement le test de Turing être réussi pendant qu’ils sont encore à l’école primaire, et assisteront à des simulations cérébrales encore plus avancées lorsqu’ils seront à l’université. (p.62)
En ce qui concerne le fonctionnement des androïdes, le progrès technologique se heurte à un défi identifié il y a plusieurs décennies par mon ami Hans Moravec, aujourd’hui connu sous le nom de paradoxe de Moravec. En résumé, les tâches mentales qui semblent difficiles pour les humains — comme extraire la racine carrée de grands nombres ou mémoriser de grandes quantités d’informations — sont relativement faciles pour les ordinateurs. À l’inverse, les tâches mentales qui sont naturelles et sans effort pour les humains — comme reconnaître un visage ou garder l’équilibre en marchant — sont beaucoup plus difficiles pour l’intelligence artificielle. La raison probable est que ces fonctions « de base » ont évolué sur des dizaines, voire des centaines de millions d’années et s’exécutent en arrière-plan dans notre cerveau, tandis que les fonctions cognitives « supérieures » sont assurées par le néocortex, le centre de notre conscience, qui n’a atteint sa forme à peu près actuelle qu’il y a quelques centaines de milliers d’années. (p.101)
Acheter le livre:
Et soutenir le blog
Au début des années 2040, des nanorobots seront capables de pénétrer dans le cerveau d’une personne vivante et d’en copier toutes les données constituant les souvenirs et la personnalité de cette personne : ce serait Vous 2. Une telle entité serait capable de réussir un test de Turing personnalisé et de convaincre quelqu’un qui connaissait l’individu qu’il s’agit réellement de cette même personne. Selon toutes les preuves détectables, elle serait aussi réelle que la personne d’origine. Ainsi, si vous pensez que l’identité repose fondamentalement sur des informations telles que les souvenirs et la personnalité, il s’agirait bien de la même personne. Vous pourriez entretenir ou poursuivre une relation avec cette personne, y compris une relation physique, voire sexuelle. Il pourrait y avoir des différences subtiles, mais cela est-il si différent des personnes biologiques vivantes ? Nous changeons nous aussi, généralement de façon progressive, mais parfois brutalement, à la suite de guerres, de traumatismes ou de changements de statut ou de relations. (p.103)
À mesure que l’IA transforme de plus en plus de domaines de la médecine, elle donnera naissance à de nombreuses tendances similaires. Elle commence déjà à avoir un impact clinique, mais nous n’en sommes encore qu’au début de cette courbe exponentielle particulière. Le filet actuel d’applications deviendra un véritable raz-de-marée d’ici la fin des années 2020. Nous serons alors en mesure de commencer à traiter directement les facteurs biologiques qui limitent actuellement la durée de vie maximale à environ 120 ans, notamment les mutations génétiques mitochondriales, la réduction de la longueur des télomères et la division cellulaire incontrôlée à l’origine du cancer.
Dans les années 2030, nous atteindrons le troisième pont de l’extension radicale de la vie : des nanorobots médicaux capables d’intervenir intelligemment au niveau cellulaire pour effectuer la maintenance et la réparation de nos corps. (p.137)
Dans les années à venir, les innovations convergentes dans les domaines de l’électricité photovoltaïque, de la science des matériaux, de la robotique et de l’intelligence artificielle rendront l’agriculture verticale bien moins coûteuse que l’agriculture traditionnelle. De nombreuses installations seront alimentées par des cellules solaires efficaces, produiront leurs propres engrais sur place, capteront l’eau directement dans l’air et récolteront les cultures à l’aide de machines automatisées. Avec très peu de main-d’œuvre nécessaire et une empreinte au sol réduite, les fermes verticales du futur seront éventuellement capables de produire des cultures à un coût si bas que les consommateurs pourraient obtenir des produits alimentaires presque gratuitement. (p.180)
Le quatrième pont vers l’extension radicale de la vie sera la capacité de sauvegarder essentiellement ce que nous sommes, tout comme nous le faisons déjà de manière routinière avec nos informations numériques. À mesure que nous augmenterons notre néocortex biologique avec des modèles réalistes (mais beaucoup plus rapides) du néocortex dans le cloud, notre pensée deviendra un hybride entre la pensée biologique à laquelle nous sommes habitués et son extension numérique. La partie numérique s’étendra de manière exponentielle et finira par dominer. Elle deviendra suffisamment puissante pour comprendre, modéliser et simuler pleinement la partie biologique, nous permettant ainsi de sauvegarder l’ensemble de notre pensée. Ce scénario deviendra réaliste à l’approche de la Singularité, au milieu des années 2040.
L’objectif ultime est de remettre notre destin entre nos propres mains, et non dans les mains métaphoriques du destin — pour vivre aussi longtemps que nous le souhaitons. Mais pourquoi quelqu’un choisirait-il de mourir ? Les recherches montrent que ceux qui mettent fin à leurs jours sont généralement en proie à une douleur insupportable, qu’elle soit physique ou émotionnelle. Bien que les avancées en médecine et en neurosciences ne puissent pas prévenir tous ces cas, elles les rendront probablement beaucoup plus rares. (p.193)
Mais une question essentielle demeure : que se passera-t-il entre aujourd’hui et ce futur ? Lors d’un dialogue personnel que j’ai eu avec Daniel Kahneman, il a confirmé mon point de vue selon lequel les technologies de l’information ont connu — et continueront de connaître — une croissance exponentielle en termes de rapport performance/prix et de capacité, et que cela finira par concerner également les produits physiques tels que les vêtements et la nourriture. Il a aussi reconnu que nous nous dirigeons vers une ère d’abondance capable de répondre à nos besoins matériels, et que la lutte principale concernera alors la satisfaction des niveaux supérieurs de la pyramide de Maslow.
Cependant, il envisageait une période prolongée de conflits — voire de violences — entre maintenant et ce futur. Il a souligné qu’il y aura inévitablement des gagnants et des perdants à mesure que l’automatisation poursuit son avancée. Un chauffeur qui perd son emploi ne sera pas rassuré par la promesse que l’humanité s’élèvera dans la hiérarchie de la vie, car lui, en tant qu’individu, pourrait ne pas être en mesure de faire cette transition. (p.229)
Nous sommes actuellement dans les dernières étapes de la première génération de l’extension de la vie, qui consiste à appliquer les connaissances actuelles en matière pharmaceutique et nutritionnelle pour surmonter les problèmes de santé. Il s’agit d’un processus évolutif qui intègre constamment de nouvelles idées, et c’est sur cette base que j’ai fondé le programme que je suis depuis plusieurs décennies pour ma propre santé.
Dans les années 2020, nous entrons dans la deuxième phase de l’extension de la vie, qui correspond à la fusion de la biotechnologie et de l’intelligence artificielle. Cela impliquera le développement et le test de traitements révolutionnaires au sein de simulateurs numériques de biologie. Les premières étapes de cette approche ont déjà commencé, et grâce à ces techniques, nous pourrons découvrir des thérapies extrêmement puissantes en quelques jours plutôt qu’en plusieurs années.
Les années 2030 inaugureront la troisième phase de l’extension de la vie, qui consistera à utiliser la nanotechnologie pour dépasser complètement les limites de nos organes biologiques. En entrant dans cette phase, nous prolongerons considérablement notre espérance de vie, permettant aux individus de dépasser largement la limite humaine actuelle d’environ 120 ans.
Une seule personne, Jeanne Calment — une Française ayant vécu jusqu’à 122 ans — est documentée comme ayant dépassé cette limite. Alors pourquoi est-ce une barrière si difficile à franchir pour la longévité humaine ? On pourrait penser que les raisons pour lesquelles les gens ne dépassent pas cet âge sont statistiques : les personnes âgées font face chaque année à un certain risque de développer Alzheimer, un AVC, une crise cardiaque ou un cancer, et qu’après un certain nombre d’années d’exposition à ces risques, tout le monde finit par mourir de quelque chose. Mais ce n’est pas ce qui se passe réellement. Les données actuarielles montrent que de 90 à 110 ans, la probabilité qu’une personne meurt l’année suivante augmentent d’environ 2 points de pourcentage par an. Par exemple, un homme américain de 97 ans a environ 30 % de chances de mourir avant d’atteindre 98 ans, et s’il y parvient, il aura 32 % de chances de mourir avant 99 ans. Mais à partir de 110 ans, le risque de décès augmente d’environ 3,5 points de pourcentage par an. (p.255)
Pourtant, le rôle le plus important de la nanotechnologie dans notre corps sera l’augmentation du cerveau — qui deviendra, à terme, composé à plus de 99,9 % d’éléments non biologiques. Deux voies distinctes permettront d’y parvenir. La première est l’introduction progressive de nanorobots directement dans le tissu cérébral. Ceux-ci pourront être utilisés pour réparer les dommages ou remplacer les neurones qui ne fonctionnent plus. La seconde consiste à connecter le cerveau aux ordinateurs, ce qui permettra non seulement de contrôler des machines par la pensée, mais aussi d’intégrer des couches numériques de néocortex dans le cloud. Comme décrit plus en détail dans le chapitre 2, cela ira bien au-delà d’une simple amélioration de la mémoire ou d’une accélération de la pensée. (p.263)
