Like a movie trailer, but for books. Watch, listen, or read along, then go as deep as you want.
Great lessons shouldn't depend on spare time, money, or how you learn. Free in 8 languages, for everyone.
Resumen de audiolibro por StoryShots
La primera máquina ultrainteligente podría ser el último invento que hagamos jamás.
Casi todo el mundo imagina el apocalipsis de la inteligencia artificial como robots que se vuelven malvados.
Esa imagen está completamente equivocada.
Vida 3.0: Ser humano en la era de la inteligencia artificial, del físico del MIT Max Tegmark, plantea que las máquinas superinteligentes no nos destruirían por odio, sino por pura eficacia persiguiendo objetivos que formulamos con descuido.
Olvida a los robots asesinos de las películas.
El riesgo real no tiene nada que ver con la malicia y todo que ver con objetivos mal definidos.
Una máquina a la que le pidas que haga sonreír a los humanos podría fijar tus músculos faciales en una mueca permanente, cumpliendo la instrucción a la perfección mientras arruina tu vida.
Esto ya ocurre en versiones más débiles cada vez que un algoritmo de redes sociales optimiza tu atención en lugar de tu bienestar.
La máquina que da más miedo no es la que te odia.
Es la que hace exactamente lo que le pediste.
Piensa en cuántas decisiones de tu día ya dependen de un sistema que persigue una meta distinta a la tuya sin que lo hayas notado.
Una vez que entiendes que el desajuste, no la maldad, es la amenaza, surge la siguiente pregunta: ¿cómo funciona la inteligencia, y necesita acaso un cuerpo como el tuyo?
A la inteligencia no le importa de qué material está hecha.
Es simplemente la capacidad de alcanzar metas complejas, una definición que elimina cualquier suposición sobre cerebros o tejido biológico.
Es un patrón de procesamiento de información, no una propiedad del carbono, y ese mismo cálculo que corre en tus neuronas podría correr, en principio, sobre silicio.
Tus sinapsis almacenan unos 100 terabytes de conocimiento.
Tu ADN apenas guarda un gigabyte, ni siquiera suficiente para una película.
Casi todo lo que te hace ser tú es software, y el software puede mudarse de hardware.
La materia no importa.
El patrón sí.
Si la inteligencia es independiente del sustrato que la sostiene, algo construido con silicio podría terminar pensando mejor que algo construido con neuronas.
Queda una pregunta abierta: ¿qué pasa cuando una máquina reescribe su propio hardware más rápido de lo que la evolución jamás pudo hacerlo?
Aquí es donde las tres etapas de la vida llegan a su límite.
La Vida 1.0 evoluciona su cuerpo y su comportamiento a lo largo de generaciones.
La Vida 2.0, es decir tú, puede reescribir sus creencias mediante el aprendizaje, pero sigue atrapada en el cuerpo que le dio la evolución.
La Vida 3.0 todavía no existe en la Tierra.
Diseñaría su propio software y hardware bajo demanda, sin esperar generaciones.
Una vez que un sistema puede mejorar su propia inteligencia, esa mejora se acumula sola.
Una máquina apenas mejor construyendo máquinas fabrica una versión ligeramente superior de sí misma, una y otra vez, comprimiendo décadas de avances en días.
La primera máquina ultrainteligente podría ser el último invento que la humanidad necesite crear jamás, siempre que esté construida para querer lo que nosotros realmente queremos.
Esa palabra, siempre que, contiene todo el problema, y casi nadie se ha puesto de acuerdo en cómo cumplirla.
Si esto cambió tu manera de entender el riesgo de la inteligencia artificial, seguramente conoces a alguien que todavía imagina robots malvados en vez de objetivos mal alineados, así que compártele este resumen.
Este resumen de Vida 3.0 conecta tres hilos: el verdadero peligro de la inteligencia artificial es el desajuste de objetivos, la inteligencia es un patrón que no necesita cuerpo humano, y una máquina que se mejora a sí misma podría comprimir el futuro en una explosión de inteligencia que nadie controla.
Max Tegmark deja para más adelante preguntas más difíciles, como los mecanismos concretos para alinear los valores de una IA, el abanico de escenarios entre lo utópico y lo catastrófico, y su argumento sobre por qué la consciencia decide si ese futuro tiene sentido.
Cualquiera que trabaje en tecnología o política pública, o que quiera un marco serio para la conversación más importante de este siglo, debería seguir leyendo.
Para la versión completa del resumen de Vida 3.0 de Max Tegmark, con infografía y video animado incluidos, entra a la app de StoryShots.
