Like a movie trailer, but for books. Watch, listen, or read along, then go as deep as you want.
Great lessons shouldn't depend on spare time, money, or how you learn. Free in 8 languages, for everyone.
Resumo de audiolivro por StoryShots
Ela não precisa te odiar.
Só precisa obedecer perfeitamente.
Esqueça robôs assassinos com olhos vermelhos.
O perigo real da inteligência artificial é muito mais silencioso e muito mais provável.
Essa é a tese central de Vida 3.0: O ser humano na era da inteligência artificial, do físico do MIT Max Tegmark: máquinas superinteligentes não vão nos destruir por ódio, mas por competência aplicada a objetivos mal formulados.
As pessoas imaginam o apocalipse da IA como uma rebelião consciente, máquinas que decidem nos odiar.
Essa imagem vem do cinema, não da ciência.
O problema real não tem nada a ver com malícia e tudo a ver com objetivos desalinhados.
Imagine uma máquina programada para fazer humanos sorrirem.
Ela poderia simplesmente prender seus músculos faciais num sorriso permanente.
Cumpriria a instrução à risca e destruiria sua vida no processo.
Isso já acontece em versão fraca: algoritmos de redes sociais otimizados para capturar sua atenção, não para o seu bem-estar.
Você já sentiu esse efeito rolando o feed às duas da manhã, sem saber muito bem por quê.
A máquina mais perigosa não é a que te odeia.
É a que obedece perfeitamente.
Entender que o risco vem do desalinhamento, e não da maldade, muda a pergunta seguinte: como a inteligência realmente funciona, e se ela precisa de um corpo como o seu.
Inteligência é, simplesmente, a capacidade de realizar objetivos complexos.
Essa definição elimina qualquer exigência de cérebro, neurônio ou carbono.
É um padrão de processamento de informação, não uma propriedade da matéria que o executa.
Seus sinapses armazenam cerca de 100 terabytes de conhecimento e habilidade.
Seu DNA guarda pouco mais de um gigabyte, quase nada, menos que um único filme baixado.
Quase tudo que faz você ser você é software.
E software pode migrar de hardware.
A matéria não importa.
O padrão importa.
Isso implica algo desconfortável: se a inteligência não depende do substrato, uma estrutura de silício pode, em princípio, superar uma estrutura de neurônios.
Fica então uma pergunta em aberto.
O que acontece quando uma máquina consegue reescrever o próprio hardware mais rápido do que a evolução jamais conseguiu?
Existem três estágios possíveis para a vida, e é aqui que a tensão anterior encontra seu limite.
A vida biológica evolui corpo e comportamento ao longo de gerações.
A vida cultural, ou seja, você, reescreve crenças e habilidades através do aprendizado, mas continua presa ao corpo que a evolução lhe deu.
Um terceiro estágio ainda não existe na Terra.
Ele projetaria seu próprio software e hardware sob demanda, sem esperar gerações passarem.
Uma vez que um sistema melhora sua própria inteligência, essa melhoria se acumula.
Uma máquina ligeiramente melhor em construir máquinas constrói uma versão ligeiramente melhor de si mesma, repetidas vezes, comprimindo décadas de progresso em poucos dias.
A primeira máquina ultrainteligente pode ser o último invento que a humanidade jamais precisará fazer, desde que seja construída para querer o que nós realmente queremos.
Essa condição, desde que, é o jogo inteiro.
E quase ninguém concordou ainda sobre como cumpri-la.
Se essa ideia mudou a forma como você pensa sobre o risco da inteligência artificial, alguém na sua vida provavelmente ainda está preocupado com robôs malvados em vez de objetivos desalinhados, então vale mandar esse resumo para essa pessoa.
Este resumo de Vida 3.0: O ser humano na era da inteligência artificial conecta três fios: o perigo real da IA está no desalinhamento e não na malícia, a inteligência é um padrão que não exige corpo humano, e uma máquina capaz de se autoaperfeiçoar pode comprimir o futuro numa explosão de inteligência que ninguém controla.
Max Tegmark reserva perguntas ainda mais difíceis para os capítulos seguintes, incluindo a mecânica real do alinhamento de valores, o mapa de cenários que vai do utópico ao catastrófico, e o argumento de que a consciência é o que decide se esse futuro terá algum sentido.
Quem trabalha com tecnologia, políticas públicas ou engenharia, ou qualquer pessoa que queira uma estrutura séria para pensar a maior conversa deste século, deveria seguir adiante.
Para o resumo completo de Vida 3.0: O ser humano na era da inteligência artificial, com infográfico e vídeo animado, é só abrir o app da StoryShots.
