Libro: Vida 3.0, Max Tegmark, resumen
Autor: Max Tegmark
El libro: Vida 3.0, de Max Tegmark, intenta contestar la cuestión: Qué es ser humano en la era de la Inteligencia artificial.
1.- Bienvenidos a la conversación más importante de nuestro tiempo
La tecnología confiere a la vida la posibilidad de prosperar como nunca antes… o de autodestruirse – Future of life Institute
La vida puede desarrollarse a través de 3 fases:
- fase biológica (1.0), tanto el software como su hardware son producto de la evolución.
- fase cultural (2.0), en la que puede diseñar su software.
- fase tecnológica (3.0), puede diseñar también su hardware (es dueña de su propio destino).
Los ordenadores cuánticos comparten información con una enorme cantidad de versiones de sí mismos existentes en el multiverso – David Deutsch
La Inteligencia artificial podría permitirnos crear vida 3.0 este siglo, además está teniendo lugar una fascinante conversación en torno al futuro en tres campos: Tecnoescépticos, Utópicos digitales y el movimiento en pro de una IA benéfica.
2.- La materia se vuelve inteligente
Transcurrido un tiempo suficiente, el hidrógeno se transforma en personas – Edward Robert Harrison
La Inteligencia artificial actual suele ser estrecha: cada sistema solo es capaz de lograr objetivos muy específicos, mientras que la inteligencia humana es muy amplia.
Cualquier materia puede ser Computronio, el sustrato para la computación, siempre que contenga determinados elementos universales que puedan combinarse para implementar cualquier función. Las Puertas NAND y las neuronas son dos ejemplos de estos Átomos computacionales universales.
Una Red neuronal es un sustrato potente para el aprendizaje porque, por el hecho de obedecer leyes de la física, puede reorganizarse para mejorar progresivamente su capacidad de implementar determinadas funciones.
Una vez que la tecnología es el doble de potente, a menudo puede utilizarse para construir tecnología que es a su vez el doble de potente, lo que desencadena una duplicación reiterada en la línea de la Ley de Moore.
3.- El futuro próximo. Avances, gazapos, leyes, armas y puestos de trabajo
Si no enderezamos el rumbo pronto, acabaremos allí donde estamos yendo – Irwin Corey
El progreso a corto plazo de la Inteligencia artificial es capaz de mejorar considerablemente nuestras vidas en infinidad de maneras, pero es fundamental hacer que sea más robusta y resolver difíciles problemas técnicos relacionados con la verificación, la validación, la seguridad y el control.
Destacados investigadores en robótica han hecho un llamamiento en favor de un tratado internacional pasa prohibir determinadas clases de armas autónomas y evitar una carrera armamentística descontrolada.
La IA puede hacer que nuestros sistemas legales sean más justos y eficientes si conseguimos que los Robojueces sean transparentes e imparciales y se resuelvan cuestiones legales relacionadas con la privacidad, la responsabilidad y la regulación.
Las máquinas inteligentes es posible que vayan haciendo progresivamente con el mercado laboral. Esto no tiene por qué ser algo malo, siempre que la sociedad redistribuya parte de la riqueza.
Si se planifica con antelación, una sociedad con bajo empleo debería poder prosperar no solo financieramente, sino haciendo posible que las personas encuentren una sensación de propósito en la vida en actividades no laborales.
4.- ¿Explosión de inteligencia?
Si una máquina es capaz de pensar, podría hacerlo más inteligentemente que nosotros, y entonces ¿en qué lugar nos dejaría? Aun cuando pudiésemos mantener a las máquinas en una posición de subordinación […] deberíamos, como especie, experimentar una gran dosis de humildad – Alan Turing
La primera máquina ultra inteligente será el último invento que necesite crear el hombre, siempre que la máquina sea lo suficientemente dócil para decirnos cómo mantenerla bajo control – Irving J. Good
Una IAG de nivel humano ocasionaría una explosión de inteligencia, que nos dejaría muy atrás y un pequeño grupo de humanos podrían dominar el mundo. Pero si los humanos no logramos controlar la explosión de inteligencia, la propia IA podría dominar el mundo aún más rápido.
Una explosión rápida de inteligencia probablemente conduciría a una única potencia mundial, pero si se prolongase durante un tiempo, habría más posibilidades de un escenario multipolar.
Es probable que la Superinteligencia permita la coordinación cósmica a escalas cada vez mayores, pero no está claro si finalmente conducirá a más control totalitario o a un mayor empoderamiento individual.
Los Ciborgs y las Almas digitales son posibilidades verosímiles, pero probablemente ninguna sea la vía más rápida para llegar a la IA avanzada.
El clímax de nuestra carrera actual hacia la IA puede ser lo mejor o lo peor que le haya pasado a la humanidad. Tenemos que empezar a pensar seriamente qué situación preferimos y cómo dirigimos en esa dirección, porque si no sabemos lo que queremos es poco probable que lo consigamos.
5.- Tras la explosión. Los primeros diez mil años
Es fácil imaginar el pensamiento humano liberado de las ataduras de un cuerpo mortal, la creencia de la vida después de la muerte está muy extendida. Pero no es necesario adoptar una postura mística o religiosa para aceptar esta posibilidad: los ordenadores ofrecen un modelo incluso para el más ardiente mecanicista – Hans Moravec, el hombre mecánico
Yo, por mi parte, doy la bienvenida a nuestros nuevos amos computarizados – Ken Jennings (tras perder a Jeopardi! contra el Watson de IBM)
Los humanos serán tan irrelevantes como las cucarachas – Marshall Brain
La Superinteligencia puede coexistir pacíficamente con los humanos, ya porque se ve forzada a ello, o porque es una IA amigable que quiere hacerlo (en una utopía libertaria, dios protector, dictador benévolo y cuidador del zoo).
El desarrollo de la Superinteligencia se puede evitar mediante una IA (escenario del guardián), o por los humanos (escenario de 1984), olvidando deliberadamente la tecnología (escenario de vuelta atrás) o por falta de incentivos para construirla (escenario de utopía igualitaria).
La humanidad puede extinguirse y ser reemplazada por Ia IA (escenarios de dominadores y descendientes) por ninguna otra cosa.
No existe consenso, sin objetivos futuros podemos acabar en una dirección equivocada.
6.- Nuestra herencia cósmica. Los próximos mil millones de años y más allá
Nuestra especulación desemboca en una supercivilización, la síntesis de toda la vida en el sistema solar, que se mejora y se extiende constantemente, difundiéndose a distancias cada vez mayores del sol, transformando la materia inerte en mente – Hans Moravec, el hombre mecánico
En comparación con las escalas de tiempo cósmicas de miles de millones de años, una explosión de inteligencia es un evento repentino donde la tecnología se estabiliza rápidamente en un nivel limitado solo por las leyes de la física.
La energía oscura limita la expansión cósmica de la vida superinteligente y la protege de remotas burbujas letales en expansión o de las civilizaciones hostiles.
El principal producto que se compartirá o con el que se comerciará a través de distancias cósmicas probablemente sea la información.
Exceptuando el caso de los agujeros de gusano, la existencia de un límite de velocidad en la comunicación dado por la velocidad de la luz, plantea serios desafíos para la coordinación y el control en una civilización cósmica.
Es bastante probable que seamos la única forma de vida que consiga que nuestro universo observable cobre vida en el futuro.
Si seguimos mejorando nuestra tecnología con cuidado para evitar los riesgos, la vida tiene el potencial de florecer en la Tiara y mucho más allá durante muchos miles de millones de años, superando incluso los sueños más descabellados de nuestros antepasados.
7.- Objetivos
El secreto de la existencia humana no solo está en vivir, sino también en saber para qué se vive – Fedor Dostoyevski, Los hermanos Karamazov
La vida es un viaje, no un destino – Ralph Waldo Emerson
La inteligencia es la capacidad de lograr objetivos complejos. Conformar los objetivos de estas máquinas con los nuestros plantea tres problemas: hacer que las máquinas los aprendan, los adopten y los conserven.
No tenemos claro cómo dotar a la IA superinteligente de un objetivo último que no conduzca a la destrucción. Es necesaria una investigación sobre estas cuestiones filosóficas.
8.- Conciencia
Soy incapaz de imaginar una teoría del todo que sea consciente e ignore la conciencia – Andrei Linde
Debemos esforzarnos por cultivar la conciencia en sí, para generar luces más grandes y brillantes en este oscuro universo – Giulio Tononi
Saber si las IA son conscientes o no plantea problemas éticos y filosóficos muy espinosos.
Si es posible en la Consciencia artificial, es probable que el espacio de posibles experiencias de IA sea enorme en comparación con las que experimentamos los humanos.
Como no puede haber significados sin consciencia, no es el universo el que da sentido a los seres conscientes, sino los seres conscientes los que dan sentido al universo, esto sugiere que sería conveniente que nos acostumbráramos a identificarnos sobre todo como Homo sentiens, no como Homo sapiens.
El aspecto más triste de la vida actual es que la ciencia gana en conocimiento más rápidamente que la sociedad en sabiduría – Isaac Asimov
