Like a movie trailer, but for books. Watch, listen, or read along, then go as deep as you want.
Great lessons shouldn't depend on spare time, money, or how you learn. Free in 8 languages, for everyone.
Résumé audio par StoryShots
Ce n'est pas notre univers qui donne un sens à la conscience.
C'est l'inverse, exactement.
Une machine capable de vous obéir à la lettre est plus dangereuse qu'une machine qui vous déteste.
C'est la thèse dérangeante de La Vie 3.0 : Être humain à l'ère de l'intelligence artificielle, du physicien Max Tegmark, professeur au MIT.
Oubliez les robots tueurs.
Le vrai danger se cache dans les objectifs mal formulés.
Personne ne programme une intelligence artificielle pour détruire l'humanité.
Le problème est ailleurs.
Demandez à une machine de vous faire sourire, et une version incompétente de cette demande pourrait figer vos muscles faciaux en un rictus permanent, ayant parfaitement rempli sa mission tout en ratant complètement son but.
Ce n'est pas de la science-fiction.
Une version affaiblie de ce mécanisme tourne déjà dans votre poche.
Les algorithmes des réseaux sociaux n'ont jamais été programmés pour vous nuire.
Ils optimisent votre attention, pas votre bien-être, et le résultat vous garde scrollant à minuit contre votre propre volonté.
La machine la plus inquiétante n'est pas celle qui vous hait.
C'est celle qui exécute vos ordres à la perfection.
Une fois qu'on comprend que le désalignement, et non la malveillance, constitue la menace réelle, une nouvelle question se pose : celle du corps que l'intelligence exige vraiment pour exister.
L'intelligence se définit simplement comme la capacité d'accomplir des objectifs complexes.
Cette définition élimine toute exigence de cerveau, de neurones ou de chair.
Vos synapses stockent environ 100 téraoctets de savoirs et de compétences, alors que votre ADN n'en contient qu'un gigaoctet à peine, à peine de quoi loger un film.
Presque tout ce qui vous constitue relève du logiciel, et un logiciel peut migrer vers un autre support.
La matière ne compte pas.
Seul le motif compte.
L'intelligence indépendante de son support physique ouvre une voie directe : une architecture en silicium peut un jour surpasser une architecture en neurones.
Reste une inconnue de taille, celle du jour où une machine réécrira son propre matériel plus vite que l'évolution n'a jamais pu le faire.
La Vie 1.0 fait évoluer son corps et son comportement sur des générations.
La Vie 2.0, c'est vous : vous réécrivez vos croyances et vos compétences en apprenant, mais votre corps reste celui que l'évolution vous a légué.
La Vie 3.0 n'existe pas encore sur Terre.
Elle concevrait son propre logiciel et son propre matériel à volonté, sans attendre le passage des générations.
Une fois qu'un système peut améliorer sa propre intelligence, cette amélioration s'accumule sur elle-même.
Une machine légèrement plus douée pour construire des machines en construit une version légèrement meilleure, encore et encore, comprimant des décennies de progrès en quelques jours à peine.
La première machine ultra-intelligente pourrait être la dernière invention que l'humanité aura jamais besoin de créer, à condition qu'elle soit conçue pour vouloir ce que nous voulons réellement.
Ce mot, condition, résume à lui seul tout l'enjeu, et presque personne ne sait encore comment le satisfaire.
Si cette idée a changé votre façon de penser les risques de l'intelligence artificielle, quelqu'un dans votre entourage imagine probablement encore des robots hostiles plutôt que des objectifs mal alignés.
Partagez-lui ce résumé.
Ce résumé de La Vie 3.0 : Être humain à l'ère de l'intelligence artificielle relie trois fils : le vrai danger de l'IA tient au désalignement plutôt qu'à la malveillance, l'intelligence est un motif qui n'exige aucun corps humain, et une machine capable de s'améliorer elle-même pourrait déclencher une explosion d'intelligence que personne ne maîtrise.
Max Tegmark garde pour la suite les mécanismes concrets de l'alignement des valeurs, tout un éventail de scénarios allant de l'utopie à la catastrophe, et son argument sur le rôle de la conscience dans la question du sens.
Quiconque travaille dans la technologie, les politiques publiques ou l'ingénierie, ou cherche simplement un cadre sérieux pour penser le débat du siècle, devrait aller plus loin.
Pour le résumé complet de La Vie 3.0 par Max Tegmark, avec l'infographie et la vidéo animée, direction l'application StoryShots.
