La obra humana

EL RAYO VIOLETA Se cree que el físico Richard Feynman fue el único testigo ocular que no protegió su vista durante el lanzamiento de la bomba Trinity, la primera prueba nuclear de Estados Unidos que fue retratada -sin CGI, como insiste en recordar la prensa- por Christopher Nolan en su film “Oppenheimer”. Situado tras el parabrisas de un camión, Feynman dedujo que la única luz dañina para la visión que podía provenir de la explosión era la luz ultravioleta.“¡Gafas oscuras!” refunfuñaba Feynman, que se negaba a usarlas. “A treinta kilómetros de distancia, y a través de gafas oscuras... maldita la cosa que íbamos a poder ver” evocaría años después. El cristal del parabrisas sería suficiente.. o quizás no. El primer fogonazo fue tan intenso que Feynman se vio forzado a bajar la vista, refugiándose bajo el volante. Con los ojos aún abiertos, entre el embriague y el freno de la camioneta, vio una figura de intensa luz violeta que no debía estar allí. ¿Una post-imagen? ¿Una alucinación? El estruendo posterior trajo la confirmación: aquello que habían visto era la concreción, era la bomba. 

Tras finalizar el proyecto Manhattan, a Feynman le costó muchísimo su vuelta a la civilización. Sentado en un restaurante de Nueva York, elaboraba mapas mentales para medir el impacto que una bomba como la de Hiroshima pudiera causar sobre la calle 34. Contaba los edificios que caerían, los muertos y las calamidades que sobrevendrían. Cuando veía a los albañiles construyendo sin cesar nuevas edificaciones para la Gran Manzana, Feynman repetía para sus adentros: “Están locos, están locos, están locos”. ¿Para qué poner tanto esfuerzo en construir cosas nuevas si todo puede ser barrido en un mísero instante?

Algunas décadas más tarde, con las armas nucleares en el freezer, Feynman reflexionaría: “me equivoqué sobre la inutilidad de construir puentes, y me alegro de que todas esas personas tuvieran el buen sentido de seguir adelante”. Seguir adelante, a pesar de todo. 

LA VIDA CORRE COMO UN PROGRAMA DE COMPUTADORA El cosmólogo Max Tegmark fue uno de los responsables de que las ecuaciones en el pizarrón de Feynman fueran reeditadas como algoritmos para IA en un paper publicado en 2020. Años antes de orientar su carrera a la IA, Tegmark ideó la hipótesis del universo matemático: una teoría del todo que postula que la materia es reducible a la matemática. Sus elucubraciones sobre este tipo de universo computable hicieron inevitable su deriva al campo de la IA: si todo es computable, las ideas y los sentimientos también lo son. Tegmark es considerado por su trabajo científico y libros de divulgación como uno de los referentes en lo que él decidió llamar “la conversación más interesante de todos los tiempos”. 

Hace pocos días, Tegmark estimó que las chances de que una súperinteligencia o IAG (Inteligencia Artificial General) nos lleve a la extinción como especie son de aproximadamente un 50%. No solamente podemos ser víctimas de una súperinteligencia: también puede ser que, como en una película de los hermanos Coen, una sucesión de eventos improbables lleven a una IA muy estúpida a cometer la más grande de todas las estupideces posibles. Desde su instituto Future Of Life, convoca a la comunidad científica con el solo propósito de bajar ese porcentaje que depende fundamentalmente de una cosa si es que queremos seguir adelante con la IA: el problema de alineación. 

EL GÓLEM Y EL PROBLEMA DE ALINEACIÓN En 1960, Norbert Wiener, uno de los pioneros de la IA, ya se había referido a los problemas de alineación: “Si ya no podemos interferir en los procesos de la máquina una vez que esta está funcionando, más vale estar bastante seguros de que el propósito puesto en la máquina sea el propósito que realmente deseamos”. 

La historia del Gólem, una criatura de barro que cobra vida por la magia del rabino Loew en el antiguo gueto de Praga, funciona como una analogía apropiada a esta reflexión de Wiener. El Gólem fue creado con un propósito específico: proteger a la comunidad judía de los ataques antisemitas. El rabino lo modeló, pronunció los encantamientos respectivos, y el objeto inanimado de barro cobró vida. Así lo contaba Borges en su poema titulado como la criatura: 

El rabí le explicaba el universo

“esto es mi pie; esto el tuyo; esto la soga.”

y logró, al cabo de años, que el perverso

barriera bien o mal la sinagoga.

Se dice que la esposa del rabino lo mandó a sacar agua del río y que el Gólem, ejecutando al pie de la letra las órdenes de la mujer, terminó vaciando por vaciar el río e inundando la ciudad. Si bien el ejemplo es simple y hasta el más novel programador sabría arreglar el algoritmo que conduce al Gólem con una condición de corte ¿qué podemos hacer si el problema de alineación se vuelve tan complejo como complejas se vuelvan las mentes artificiales? ¿y si las máquinas se desarrollan hasta el punto de tener objetivos mucho más trascendentes que nuestra pequeñísima existencia? ¿O acaso nuestra existencia no es tan pequeña? 

LOS MÁXIMOS REPRESENTANTES DEL COSMOS Elon Musk propuso una hipotética -y claro que polémica- solución para el problema de alineación. Al menos, para evitarnos el disgusto de crear a HAL 9000. Musk dice que si la IA es capaz de entender las grandes verdades del universo, entonces también entenderá que nosotros somos una parte muy importante del mismo tal como nosotros reconocemos que los chimpancés lo son. Probablemente, Carl Sagan le daría la razón en ese punto. Según él, somos los máximos representantes del cosmos y de catorce mil millones de años de evolución

DEMASIADO PRONTO PARA EL FUTURO La compañía OpenAI, responsable de ChatGPT, ofrece nuevas posiciones a investigadores que puedan trabajar en lo que ellos llaman “Súper-alineamiento”, es decir, alineación pensando en súperinteligencias que nos superen ampliamente y para las que nuestras razones sean insuficientes. Algunos investigadores como Gary Marcus, especializado en ciencias cognitivas, se toma estas cosas no tan en serio. Para él, ChatGPT y sus sucesores son como castillos de naipes sensibles al más diminuto soplido, es decir, no tienen lo suficiente para sentar las bases de aquella supuesta súperinteligencia que desde OpenAI nos quieren vender. Sin embargo, Marcus tampoco se anima a descartarlo; a veces es mejor no cerrar del todo la puerta. 

EL SUEÑO DEL CREADOR Volviendo a Carl Sagan, él creía que vivimos en un mundo que depende mucho de la ciencia y de la tecnología pero en el que casi nadie sabe de ciencia y tecnología. No sería raro que la cadena de mando falle y las IAs se parezcan más a sus ingenieros que a los directivos de Silicon Valley o a los funcionarios del partido comunista chino. 

¿Qué paraíso imaginan los creadores de aquellos que sueñan con ovejas eléctricas? ¿Soñarán algo parecido a lo que soñamos nosotros? 

EL PARAISO, UN LINDO LUGAR PARA VISITAR “Debo estar en el Cielo. Sí, es eso... ¿verdad?” se pregunta el vil ladrón de guante blanco, Rocky Valentine tras morir y despertar en otro mundo. En esta nueva realidad, un hombre de barba canosa y traje blanco se encarga de guiarlo y proveerlo de un acceso irrestricto a lujos, manjares y mujeres que prometen amarlo; en el casino, no pierde ni una sola mano de blackjack y las máquinas tragamonedas siempre le dan el premio gordo. 

En este episodio de la Dimensión Desconocida, el personaje de Valentine satisface todos sus deseos de forma instantánea. Sin esfuerzo, sin trayectoria, sin condiciones. Luego, llega el hastío. El mundo rápidamente se torna predecible y aburrido para Valentine. Cuando empieza a perder la cordura, se le anuncia que su existencia será así siempre, para toda la eternidad. Valentine ahora lo entiende. Ese lugar no es el paraíso.

LA INUTILIDAD DE CONSTRUIR PUENTES En “El rayo verde” de Eric Rohmer, Delphine es una secretaria parisina que se acaba de separar y no tiene planes para el verano. Ya no se fía de los hombres, los rechaza a todos antes del primer intercambio ¿Para qué intentar si ya conocemos cómo va a terminar?. Mientras recorre ociosa una playa a la que decide viajar en soledad, escucha a unas señoras conversando acerca del fenómeno óptico conocido como rayo verde: durante apenas un instante, la puesta del Sol por el horizonte nos regala un cósmico fulgor verde, usualmente imperceptible. Según cuentan las señoras, para aquellos que logran verlo, el rayo verde tiene el divino poder de revelar nuestros pensamientos, aún los más recónditos. Y si lo ve con otro, juntos se enamorarán para siempre. La eventualidad de una epifanía exalta a Delphine. Ahora tiene un motivo para volver creer en la posibilidad del amor. 

EL RAYO VERDE Dicen que durante la filmación, el rayo verde fue el Moby Dick de Rohmer. Obsesionado, intentó por todos los medios filmarlo, tarde tras tarde en las paradisíacas playas de Biarritz y Saint-Jean-de-Luz. El rodaje se alargaba y alargaba para que Rohmer cumpliera su objetivo. Un plano soñado, un plano para que Delphine se enamorase. Pero el rodaje no podía durar para siempre y Rohmer tuvo que desistir. Con un artilugio técnico pudo generar sin apoyo de la naturaleza un instante de mágica belleza. Un artificial instante de mágica belleza en que el amor emerge perfecto, idealista, como una constante matemática. Una posible idea del paraíso, desplegada por la obra humana. 

LB