Like a movie trailer, but for books. Watch, listen, or read along, then go as deep as you want.
Great lessons shouldn't depend on spare time, money, or how you learn. Free in 8 languages, for everyone.
Streszczenie audiobooka przez StoryShots
Maszyna nie musi cię nienawidzić.
Wystarczy, że zrobi to, o co prosiłeś.
Większość ludzi wyobraża sobie apokalipsę AI jako bunt złych robotów.
To fałszywy obraz.
Życie 3.0.
Człowiek w erze sztucznej inteligencji, autorstwa fizyka z MIT Maxa Tegmarka, pokazuje, że superinteligentne maszyny mogą zniszczyć nas nie z nienawiści, ale z czystej kompetencji, realizując cele, które sformułowaliśmy niedbale.
Zapomnij o Terminatorze.
Prawdziwe zagrożenie nie ma nic wspólnego ze złością maszyny, a wszystko z niedopasowaniem celów.
Maszyna, którą poprosisz o to, żeby ludzie się uśmiechali, może po prostu na trwałe usztywnić mięśnie twojej twarzy w grymasie uśmiechu.
Wykona zadanie idealnie zgodnie z literą instrukcji i całkowicie zawiedzie twoje intencje.
To nie jest odległa fantastyka.
Słabsza wersja tego problemu już działa w twoim telefonie.
Algorytmy mediów społecznościowych optymalizują twoją uwagę, nie twoje dobre samopoczucie, i codziennie wygrywają z twoją wolą.
Straszniejsza maszyna to nie ta, która cię nienawidzi.
To ta, która robi dokładnie to, o co prosiłeś.
Zastanów się, ile systemów w twoim życiu już teraz optymalizuje coś innego niż twoje faktyczne dobro.
Skoro problemem jest niedopasowanie, nie złośliwość, kolejne pytanie brzmi: czym właściwie jest inteligencja i czy potrzebuje ciała takiego jak twoje.
Inteligencję można zdefiniować bez odwołania do mózgu, neuronów czy ciała.
To po prostu zdolność do realizowania złożonych celów.
Taka definicja usuwa wszystkie założenia o tym, z czego coś jest zbudowane.
Twoje synapsy przechowują około 100 terabajtów wiedzy i umiejętności.
Twoje DNA to niespełna gigabajt, ledwie tyle, by zmieścić jeden film.
Prawie wszystko, co czyni cię tobą, to oprogramowanie, a oprogramowanie da się przenieść na inny sprzęt.
Materia nie ma znaczenia.
Wzorzec ma.
Jeśli inteligencja jest niezależna od podłoża, coś zbudowane z krzemu może w końcu przewyższyć coś zbudowane z neuronów.
Pomyśl, jak wiele z tego, co uważasz za swój charakter, jest tylko zapisem w pamięci, który teoretycznie da się skopiować gdzie indziej.
To otwiera pytanie na później: co się stanie, gdy maszyna zacznie przeprogramowywać własny sprzęt szybciej, niż ewolucja mogła to zrobić przez miliony lat?
Tu dochodzimy do granicy trzech etapów życia.
Życie 1.0 zmienia ciało i zachowanie tylko przez pokolenia ewolucji.
Życie 2.0, czyli ty, może przeprogramować swoje przekonania i umiejętności przez uczenie się, ale zostaje uwięzione w ciele, które dała mu ewolucja.
Życie 3.0 jeszcze nie istnieje na Ziemi.
Projektowałoby własne oprogramowanie i sprzęt na żądanie, bez czekania na kolejne generacje.
Gdy system zaczyna poprawiać własną inteligencję, ta poprawa się nawarstwia.
Maszyna odrobinę lepsza w budowaniu maszyn tworzy odrobinę lepszą wersję siebie, w kółko, ściskając dekady postępu w kilka dni.
Pierwsza ultrainteligentna maszyna może być ostatnim wynalazkiem, jaki ludzkość musi stworzyć, pod warunkiem że będzie chciała tego, czego naprawdę chcemy my.
To jedno słowo, pod warunkiem, jest całą grą.
I prawie nikt nie zgodził się jeszcze, jak ten warunek spełnić.
Jeśli ten sposób myślenia o ryzyku AI zmienił twoją perspektywę, prawdopodobnie znasz kogoś, kto wciąż wyobraża sobie złe roboty, a nie źle dopasowane cele, więc podeślij mu to podsumowanie.
To podsumowanie Życie 3.0.
Człowiek w erze sztucznej inteligencji łączy trzy wątki w jedną linię myślenia: prawdziwym zagrożeniem AI jest niedopasowanie celów, nie złośliwość, inteligencja jest wzorcem niezależnym od ciała, a samodoskonaląca się maszyna może skompresować przyszłość w eksplozję inteligencji, której nikt nie kontroluje.
Max Tegmark zostawia trudniejsze pytania na dalsze rozdziały, w tym konkretne mechanizmy dopasowania wartości, całą mapę scenariuszy od utopijnych do katastrofalnych oraz argument, dlaczego świadomość decyduje, czy ta przyszłość będzie miała jakiekolwiek znaczenie.
Powinni po nią sięgnąć wszyscy pracujący w technologii, polityce czy inżynierii, oraz każdy, kto chce poważnych ram do najważniejszej rozmowy tego wieku.
Pełne podsumowanie Życie 3.0.
Człowiek w erze sztucznej inteligencji Maxa Tegmarka, razem z infografiką i animowanym wideo, znajdziesz w aplikacji StoryShots.
