Autor: José Ignacio Latorre

Ética para máquinas, de José Ignacio Latorre, propone una reflexión sobre una ética para las máquinas inteligentes que nos superarán.

Si la unión de un alma con una máquina de imposible, que alguien me lo demuestre. Si es posible, que alguien me diga qué efectos tendrá esa unión – Denis Diderot

El legado de los humanos

Me infundieron voz divina para celebrar el futuro y el pasado y me encargaron alabar con himnos la estirpe de los felices Sempiternos – Hesíodo, Teogonía

1.- Máquinas sin alma

La máquina ha ganado el hombre – Mahatma Gandhi

Hablar de máquinas con alma puede parecer una provocación. Lo es.

No debemos permitir que se crea que todo el progreso científico puede reducirse mecanismos, máquinas, engranajes, aunque esa máquina también tenga su belleza – Marie Curie

Un humano con un instrumento es un humano aumentado. Nuestros instrumentos permiten crear máquinas incansables, veloces y precisas, siguiendo el lema Altius, citius, fortius, pero también crean máquinas asesinas, las armas son las máquinas sin ética por excelencia.

Fuerza bruta ejercida por máquinas sin alma, pero la historia ha tomado un giro inesperado porque han aprendido a calcular.

No creo que haya nada útil y que los hombres puedan saber con exactitud cuyo conocimiento no sea alcanzable si no es a través de la genética y del álgebra – Nicolas Malebranche

Las máquinas que calculan nos dominan. No hay aspecto dentro de nuestras vidas que no esté condicionado por la intervención de los ordenadores.

Las máquinas han alterado nuestra forma de vida, pero no nuestros instintos. En consecuencia, hay un desajuste – Bertrand Russell

Las máquinas nos proporcionan una gran fuerza y cálculo bruto, pero todo avance tiene un coste: nuestro declive intelectual, consumo voraz de energía y la degradación de la naturaleza.

2.- Máquinas que parecen inteligentes

Propongo someter a consideración la siguiente proposición: ¿pueden pensar las máquinas? – Alan Turing

Una inteligencia artificial avanzada se aburriría profundamente soportando nuestros egos.

El secreto en ciencia es no amedrentarse ante lo desconocido, no renunciar a entender y siempre avanzar humildemente, poco a poco. Las redes supervisarán a los algoritmos de aprendizaje y seremos capaces de explorar un universo mayor de opciones y de hallar mejores soluciones.

El cerebro fondo en el fondo no es más que una máquina. Una máquina compleja, producto de larga evolución – Marvin Minsky

En cuanto funciona, dejemos de llamarlo inteligencia artificial – John McCarthy

Una inteligencia artificial avanzada podría hacer a los humanos intelectualmente prescindibles.

Los buenos artistas copian los genios roban – Atribuido a Pablo Picasso

Porque los humanos estamos tan orgullosos de nuestro propio juicio, y sobre confiados en él, mucho de nosotros, sino todos, desacreditamos demasiado rápido a las computadoras, incluso cuando sus respuestas son las mejores – Andrew McAfee

La aplicación de inteligencia artificial podría superarnos como conductores, médicos empresarios, políticos, e incluso jueces. Sin embargo, todo el progreso en tecnología podría venirse abajo por la guerra informática o la falta de ética de unos pocos hackers.

Si existe un dios parece operar como un relojero, como el creador de una gran máquina. Tal vez, el mismo dios es una máquina.

En el caso de las máquinas vidas, el “diseñador” es la selección natural sin consciencia, el relojero ciego – Richard Dawkins

El genio está fuera de la lámpara. Necesitamos avanzar en el desarrollo de la inteligencia artificial, pero también debemos ser conscientes de sus muy verdaderos peligros – Stephen Hawking

La irrupción de máquinas que deciden por nosotros produce reticencia, despreocupación y nuestro debilitamiento físico e intelectual, pero el gran peligro de la inteligencia artificial es el deterioro de los principios y la despreocupación moral.

3.- Ética para máquinas

Aquello que aplasta la individualidad es despotismo, sea cual sea el nombre que se le dé, aunque profese forzar la voluntad de Dios o los mandamientos de los hombres – John Stuart Mill

La ética aborda el problema del ser frente al debe ser, un tránsito imposible según David Hume.

Nos dirigimos hacia el fin de la ética protestante, las luchas sociales, las corporaciones no responsables y el trabajo.

Al ilustrado le resulta fácil decir para qué existe la religión: en primer lugar, para la superación de la angustia vital; en el segundo, para la legitimación de los ordenamientos sociales opresores – Peter Sloterdijk

Ésta es mi sencilla religión. No necesitamos templos. No necesitamos complicada filosofía, en nuestro cerebro, en nuestro corazón, se halla nuestro templo: la filosofía es amabilidad – Dalai Lama

Tratar a los demás como desearíamos ser tratados es un criterio ético insuficiente, toda valoración moral queda supeditada a las consecuencias que acarrea.

El deseo que surge del conocimiento verdadero del bien y el mal puede ser extinguido o reprimido por otros muchos deseos que brotan de los efectos que nos asaltan – Baruch Spinoza

El rostro con un bigote negro miraba hacia abajo desde cada esquina. Había uno justo en la casa de enfrente. El Gran Hermano te está observando, decía, mientras aquellos ojos oscuros miraban profundamente a los de Winston – George Orwell, 1984

La gran red de máquinas conectadas es el gran enemigo de nuestra libertad individual, la gran red espía nuestros registros indelebles. Nuestra privacidad es violada. No tenemos derecho al olvido, o sobre nuestros datos, ni confidencialidad en salud.

El estar construido sobre carbono o sobre silicio no constituye una diferencia fundamental; ambos deberíamos ser tratados con el debido respeto – Arthur C. Clarke

El hombre vive en un mundo de conjeturas, de misterio, de incertidumbres – John Dewey

4.- Máquinas que nos superarán

La última máquina ultrainteligente será la última invención de los hombres podrán hacer, asumiendo que esa máquina sea suficientemente dócil como para permitir que mantengamos su control – Nick Bostrom

Los quehaceres humanos, tal como los conocemos hoy en día, no podrán seguir inalterados – John von Neumann

El continuo y acelerado progreso de la tecnología y los cambios en la forma de vida de los humanos muestran signos de aproximarse a una especie de singularidad esencial en la historia de la especie – John von Neumann, en el 1950

Todo apego es un signo de insuficiencia: si cada uno de nosotros no tuviese ninguna necesidad de los demás, ni siquiera pensaría en unirse a ellos – Jean-Jacques Rousseau

Muchas películas sobre Inteligencia Artificial profetizan que a esta potente inteligencia le faltará una serie de cualidades emocionales humanas y, por lo tanto, resultará muy peligrosa – Ray Kurzweil

Los humanos podemos ser un eslabón más. El humano desaparece, pero la especie pervive. Para la inteligencia artificial el soporte humano fue un estadio pasado, ya irrelevante.

Muerte a la muerte, ya no hay muerte – William Shakespeare, Soneto 146

Los humanos podríamos no materializar ningún propósito ni sentido, ser accidentales, prescindibles y contingentes.

5.- Imitar el alma

Estimo más hallar una verdad, aunque sea sobre algo menor, que discutir largamente sobre cuestiones sin verdad alguna – Galileo Galilei

El alma del hombre puede dividirse en dos partes: una capaz de razonar y otra que no, pero que sí puede obedecer dictados – Aristóteles

Dotar de atributos complejos a la inteligencia artificial es el primer paso para imitar el alma humana.

Dos tercios de él son Dios, un tercio es humano – Gilgamesh, tablilla segunda

El objetivo de una supermáquina podría ser la búsqueda del conocimiento absoluto, pero su determinismo no encajaría con la inconsistencia humana.

Llamo pasiones al deseo, la cólera, el temor, la audacia, la envidia, la alegría, el sentimiento amistoso, el odio, la añoranza, la emulación, la lástima, y en general a todas las afecciones a las que son concomitantes el placer o la pena – Aristóteles, Ética nicomaquea

Podemos programar todo: amor, odio, indiferencia. Tenemos el patrón humano para entrenar a los algoritmos.

La propia integridad de la ciencia exige que no solo las consideraciones utilitarias sino también la reflexión sobre la estatura del hombre queden en suspenso – Hannah Arendt, Entre el pasado y el futuro

La primera máquina ultrainteligente es la última invención que la especie humana necesita hacer – Irving J. Wood, en el año 1964

Ética para máquinas, de José Ignacio Latorre, plantea, finalmente, que comprender será, posiblemente, el último placer profundo al que un humano podrá aspirar.