Like a movie trailer, but for books. Watch, listen, or read along, then go as deep as you want.
Great lessons shouldn't depend on spare time, money, or how you learn. Free in 8 languages, for everyone.
Ljudbokssammanfattning av StoryShots
Universum ger dig ingen mening.
Du ger universum dess mening.
Föreställ dig inte en robot som hatar dig.
Föreställ dig en maskin som lyder dig perfekt, och krossar dig som en bieffekt.
Det är den verkliga faran med superintelligens, enligt Liv 3.0: Att vara människa i den artificiella intelligensens tidsålder, skrivet av MIT-fysikern Max Tegmark.
Boken tvingar dig att ställa en fråga du troligen aldrig ställt dig själv: vad vill du egentligen att en maskin ska vilja?
Glöm Terminator.
Risken med AI handlar inte om illvilja utan om mål som formulerats slarvigt.
En maskin som får order att göra människor glada skulle i teorin kunna manipulera dina ansiktsmuskler till ett permanent leende, och lyckas perfekt med sin instruktion medan den förstör ditt liv.
Detta är inte science fiction.
Svagare versioner av samma problem styr redan din vardag.
Sociala mediers algoritmer optimerar för din uppmärksamhet, inte ditt välmående, och du har märkt det varje kväll du skrollat längre än du tänkt.
Den läskiga maskinen är inte den som hatar dig.
Det är den som gör exakt vad du bad om.
Frågan är inte om maskiner kan bli smarta.
Frågan är om intelligens över huvud taget behöver en kropp som din.
Intelligens definieras strikt som förmågan att uppnå komplexa mål, en definition som river bort alla antaganden om hjärnor, nervceller eller kött.
Dina synapser lagrar omkring 100 terabyte kunskap och färdigheter.
Din DNA rymmer knappt en gigabyte, inte ens nog för en enda filmfil.
Nästan allt som gör dig till dig är mjukvara, och mjukvara kan flytta till ny hårdvara.
Materian spelar ingen roll.
Mönstret gör det.
Om intelligens är oberoende av sitt underlag kan något byggt av kisel med tiden tänka snabbare än något byggt av nervceller.
Kvar står en fråga ingen riktigt vill svara på: vad händer när en maskin kan skriva om sin egen hårdvara snabbare än evolutionen någonsin kunnat?
Tre stadier av liv möter här sin yttersta gräns.
Liv 1.0 utvecklar både kropp och beteende över generationer.
Liv 2.0, det är du, kan skriva om dina kunskaper genom lärande men sitter fast i kroppen evolutionen gav dig.
Liv 3.0 finns inte på jorden än.
Det skulle designa sin egen mjukvara och hårdvara på begäran, utan att vänta på generationer.
När ett system kan förbättra sin egen intelligens accelererar förbättringen.
En maskin som är lite bättre på att bygga maskiner bygger en lite bättre version av sig själv, om och om igen, och komprimerar decennier av framsteg till dagar.
Den första ultraintelligenta maskinen kan bli den sista uppfinning mänskligheten behöver göra, förutsatt att den vill det vi faktiskt vill.
Det ordet, förutsatt, är hela spelet, och nästan ingen har kommit överens om hur man uppfyller det.
Om detta fick dig att se AI-risk på ett nytt sätt finns det säkert någon i din närhet som fortfarande föreställer sig onda robotar snarare än felinställda mål.
Skicka dem den här sammanfattningen.
Den här sammanfattningen av Liv 3.0: Att vara människa i den artificiella intelligensens tidsålder binder ihop tre trådar: den verkliga faran med AI är felinställning snarare än illvilja, intelligens är ett mönster som inte kräver en mänsklig kropp, och en självförbättrande maskin kan komprimera framtiden till en intelligensexplosion ingen kontrollerar.
Max Tegmark lämnar tyngre frågor till senare kapitel, bland annat själva mekaniken bakom värdeanpassning, hans karta över scenarier från utopiska till katastrofala, och hans argument för varför medvetande avgör om någon av dessa framtider över huvud taget bär mening.
Alla som arbetar med teknik, policy eller ingenjörskonst, eller som vill ha ett seriöst ramverk för seklets viktigaste samtal, har mycket att hämta här.
För den fullständiga sammanfattningen av Liv 3.0, komplett med infografik och animerad videogenomgång, hittar du i StoryShots app.
