El español José Ignacio Latorre es un hombre que sabe administrar tan bien el tiempo, que con uno poco de imaginación uno podría pensar que es uno de los replicantes que tanto lo apasionan.
Pero aún no se crean seres artificiales que se rían a carcajadas y puedan improvisar y conversar tan bien como lo hace él. Ni que sean tan multifacéticos.
Latorre, uno de los físicos cuánticos más importantes a nivel internacional, y ampliamente reconocido por sus investigaciones, dirige proyectos, es docente, hace documentales, es escritor y produce vino con un grupo de amigos.
Pertenece a esa casta de científicos que se ha bajado del pedestal para difundir masivamente conceptos complicadísimos, como la teoría de campos y las redes neuronales profundas.
En su primer libro, “Cuántica”, explora las claves para entender una ciencia que está transformando el mundo en que vivimos. En el segundo, “Ética para Máquinas”, hace un llamado urgente a reflexionar sobre cómo programaremos la inteligencia artificial para convivir con ella. Es, aunque muchas veces lo ignoremos, un tema de vida o muerte.
El texto es fascinante no solo por los dilemas éticos que plantea; también incluye temas de filosofía, de historia, y de personajes que han cambiado el mundo sin que hayan tenido suficiente reconocimiento, como Ada Lovelace, la hija de Lord Byron a la que se le atribuye la creación del primer algoritmo, o El Turco, el primer autómata que jugó ajedrez.
Lo que sigue es un resumen de la charla en vivo que Latorre tuvo con BBC Mundo hace un par de meses en el festival Hay de Arequipa, en Perú.
Una de las cosas que sorprende al leer el libro es cómo nos han cambiado máquinas que hoy son tan cotidianas que ya ni las pensamos como tales, como las grúas…
Yo creo que para entender algo tan novedoso y nada trivial como es la irrupción de la inteligencia artificial avanzada y los conceptos más sutiles de mecánica cuántica, hay que entender algo del contexto de nuestra historia.
Podríamos empezar diciendo que los humanos, al desarrollar la inteligencia, se dotaron de instrumentos para cazar, para pescar, para construir casas.
Luego, en la época de la Revolución Industrial, logramos hacer máquinas fuertes que nos superan, y al superarnos nos hacen más débiles físicamente, como las grúas, porque dejamos de necesitar la fuerza para sobrevivir.
Las máquinas nos van cambiando como humanidad.
Los autos nos han hecho caminar menos y llegar más rápido. Los lentes nos han permitido ver mejor. Las máquinas que calculan nos han hecho delegar las operaciones matemáticas, y ¿qué pasa ahora cuando en un restaurante hay que dividir la cuenta?
Que ya nadie sabe dividir. Todo el mundo saca el teléfono para hacerlo.
¿Y en qué etapa estamos ahora? ¿Qué estamos delegando en el siglo XXI?
Estamos empezando a hacer máquinas que deciden.
Por lo tanto, el salto que sigue tiene que ver con el debilitamiento de lo humano.
Porque si nos delegamos en máquinas que deciden, lo que estamos delegando es la ética, que es la decisión de optar entre dilemas, entre lo que consideramos bien y lo que consideramos mal.
En ese sentido, estamos entrando en un mundo nuevo, donde la ética ha pasado a ser parcialmente artificial.
Tú dices en el libro que la física cuántica te ha robado el corazón, pero la ética te ha robado el cerebro. ¿Por qué haces esa distinción?
La mecánica cuántica representa un cambio filosófico grandioso, es una catedral intelectual.
Yo creo que toda persona que penetra en los conceptos de la mecánica cuántica queda marcada de por vida.
No se le pueden olvidar jamás los conceptos de si la realidad objetiva existe, si existen el azar o el determinismo, qué significa conocer, qué significa aprehender la naturaleza. Eso me robó el corazón.
Pero por otra parte, el año 92 empecé a programar redes neuronales y he visto el avance impresionante que han tenido.
Hoy controlan nuestras vidas mucho más de lo que casi todo el mundo se imagina.
El agua potable de Barcelona, por ejemplo, desde este año ya la potabiliza un programa basado en redes neuronales profundas.
Les estamos cediendo espacio sin darnos apenas cuenta.
Y en esa transición, que irrumpe como una marea que lo va invadiendo todo, empiezan a surgir noticias, como una que me impresionó mucho de un colegio en China donde las cámaras escanean las caras de los niños pequeños para saber qué nivel de atención tienen y seleccionarlos para un colegio u otro.
Cuando la leí, de repente sentí el vértigo de que algo no está funcionando bien.
¿Cómo podemos sesgar así la vida de un niño, sencillamente porque pone cara de atención o no cuando tiene pocos años?
A medida que iba aumentando la inteligencia artificial y sus aplicaciones, me iba entrando cada vez más y más miedo hacia dónde vamos y cómo la vamos a utilizar.
Así que cuando el editor de mi primer libro me pidió que escribiera sobre algún otro aspecto de la mecánica cuántica, yo dije, no, ahora mi cuerpo me pide ética, no me pide ni mecánica cuántica, ni teoría de campos, ni agujeros negros.
Por eso me puse a pensar qué es lo que está en juego.
Y llegas a decir que lo que está en juego es nuestra felicidad.
Es que hemos de aprender a convivir en buenos términos con la tecnología.
Cada vez que ésta irrumpe en la humanidad entra como un huracán: cuando el hombre descubrió el fuego seguro que quemó a su enemigo, cuando descubrió la balanza y la catapulta le tiró piedras, cuando entendimos el núcleo atómico hicimos la bomba atómica, cuando entendimos la biología un poquito más avanzada hicimos armas químicas.
Parece que estemos condenados a utilizar para el mal una cosa tan magnífica como es comprender la naturaleza. Solo posteriormente vamos rectificando.
El gran ejemplo es la Revolución Industrial.
Los humanos hacemos una máquina que es capaz de sustituir el trabajo físico. Uno hubiera dicho esto es la panacea, hemos llegado al nirvana.
Pero, ¿qué pasó?
Que el Támesis se contaminó, que en las ciudades no se podía respirar, que las personas trabajaban 80 horas a la semana, que unos pocos humanos se enriquecieron bárbaramente y la gran mayoría se empobreció.
Llevamos siglos corrigiéndolo, haciendo que los parlamentos aprueben leyes que limitan cómo las corporaciones tratan a sus empleados.
Ahora tengo la sensación de que si no pensamos muy seriamente en términos de ética, claro que está en juego nuestra felicidad, porque este nuevo eslabón de conocimiento tecnológico que estamos adquiriendo va a ser usado de forma muy incorrecta.
Hablamos de cientos de dilemas éticos, pero ¿cuáles son para ti los centrales, o los más urgentes?
Convivir con este tipo de máquinas va a ser algo muy complejo. No son decisiones triviales.
Te pongo ejemplos de cosas que ya han sucedido y que muestran lo sofisticados que son estos dilemas.
En ley, el Departamento de Justicia de Estados Unidos encargó un programa de inteligencia artificial para asistir a los jueces de forma muy concreta en dos tareas: la jurisprudencia y cuánto vale la libertad condicional, es decir, cuánto es lo que hay que pagar.
El sistema jurídico estadounidense está basado en jurisprudencia, es decir, lo que han hecho jueces anteriores sienta precedente. Por lo tanto, si hoy nos toca juzgar a una nueva persona, hemos de tener en cuenta lo que se ha hecho antes.
Si una persona se le da o no la libertad condicional, existen millones de casos anteriores.
Pues por qué no dotar a una inteligencia artificial avanzada para que haga un estudio pormenorizado de todo, que vaya mucho más allá de lo que cualquier humano podría hacer, con mucha más potencia, y haga una sugerencia de acuerdo a la jurisprudencia.
Parece muy lógico. Yo diría que tendría muchas ventajas para evitar la corrupción, por ejemplo.
¿Qué problema hubo inmediatamente? Pues que la inteligencia artificial tenía un sesgo contra los afroamericanos, porque fue entrenada con numerosos casos en que los delincuentes eran afroamericanos.
Ahí vemos la disyuntiva: claro que puede ser bueno tener esa inteligencia artificial; pero existe también el peligro de no entrenarla bien.