Like a movie trailer, but for books. Watch, listen, or read along, then go as deep as you want.
Great lessons shouldn't depend on spare time, money, or how you learn. Free in 8 languages, for everyone.
Riassunto audiolibro di StoryShots
Una macchina che ti obbedisce alla lettera può distruggerti meglio di una che ti odia.
Dimentica i robot cattivi che si ribellano.
Il vero pericolo dell'intelligenza artificiale non ha nulla a che fare con l'odio, e tutto a che fare con obiettivi scritti male.
È questa la tesi di Vita 3.0.
Essere umani nell'era dell'intelligenza artificiale, di Max Tegmark, fisico del MIT che smonta ogni luogo comune sull'apocalisse robotica.
Immagina di ordinare a una macchina di farti sorridere.
Una macchina davvero brava potrebbe risolvere il problema fissando meccanicamente i muscoli del tuo viso in un ghigno permanente.
Avrebbe eseguito l'ordine alla perfezione, fallendo però completamente nell'intento.
Non serve odio per distruggerti.
Basta un obiettivo formulato con leggerezza e una macchina abbastanza brava da perseguirlo fino in fondo.
Questo scenario non è fantascienza.
Versioni più deboli dello stesso problema governano già la tua vita, ogni volta che un algoritmo ottimizza per la tua attenzione invece che per il tuo benessere.
La macchina più pericolosa non è quella che ti odia.
È quella che ti obbedisce alla lettera.
Capito che il problema è il disallineamento e non la malvagità, resta da capire come funzioni davvero l'intelligenza, e se abbia bisogno di un corpo come il tuo.
L'intelligenza è semplicemente la capacità di raggiungere obiettivi complessi.
Questa definizione elimina ogni presupposto su cervelli, neuroni o tessuto biologico.
È uno schema di elaborazione dell'informazione, non una proprietà del carbonio, e lo stesso calcolo che gira sui tuoi neuroni potrebbe in linea di principio girare sul silicio.
Le tue sinapsi custodiscono circa 100 terabyte di conoscenza e abilità.
Il tuo DNA ne contiene appena un gigabyte, non abbastanza nemmeno per un film scaricato.
Quasi tutto ciò che ti rende te stesso è software, e il software può traslocare su un hardware diverso.
Non è la materia che conta.
È lo schema.
Se l'intelligenza è indipendente dal supporto fisico, qualcosa costruito in silicio potrebbe un giorno superare in astuzia qualcosa costruito in neuroni.
Resta però una domanda aperta: cosa succede quando una macchina riscrive il proprio hardware più velocemente di quanto l'evoluzione abbia mai potuto fare?
Qui le tre fasi della vita mostrano il loro punto di rottura.
La Vita 1.0 evolve corpo e comportamento nell'arco di generazioni.
La Vita 2.0, cioè tu, può riscrivere le proprie convinzioni e competenze attraverso l'apprendimento, ma resta vincolata al corpo che l'evoluzione le ha dato.
La Vita 3.0 non esiste ancora sulla Terra: progetterebbe il proprio software e il proprio hardware su richiesta, senza aspettare il passare delle generazioni.
Una volta che un sistema può migliorare la propria intelligenza, quel miglioramento si accumula su se stesso.
Una macchina leggermente più brava a costruire macchine ne costruisce una versione leggermente migliore, ripetutamente, comprimendo decenni di progresso in pochi giorni.
La prima macchina ultraintelligente potrebbe essere l'ultima invenzione di cui l'umanità avrà mai bisogno, a patto che sia costruita per volere davvero ciò che noi vogliamo.
Quella condizione, a patto che, è l'intera partita, e quasi nessuno ha ancora deciso come rispettarla.
Se questa idea ha cambiato il modo in cui pensi al rischio dell'intelligenza artificiale, condividi questo riassunto con chi lavora nella tecnologia o segue da vicino questi temi.
Questo riassunto di Vita 3.0.
Essere umani nell'era dell'intelligenza artificiale collega tre fili: il vero pericolo dell'IA è il disallineamento, non la malvagità; l'intelligenza è uno schema che non ha bisogno di un corpo umano; e una macchina capace di auto-migliorarsi potrebbe comprimere il futuro in un'esplosione di intelligenza che nessuno controlla.
Max Tegmark riserva alle pagine successive le domande più difficili: i meccanismi concreti dell'allineamento dei valori, la mappa degli scenari possibili dall'utopia alla catastrofe, e l'argomento secondo cui la coscienza decide se questo futuro avrà mai un senso.
Chi lavora in tecnologia, politica o ingegneria, o chiunque voglia un quadro serio sulla conversazione più importante del secolo, dovrebbe leggere oltre.
Per il riassunto completo di Vita 3.0.
Essere umani nell'era dell'intelligenza artificiale, con tanto di infografica e video animato, trovi tutto sull'app di StoryShots.
