personas con las que no están de acuerdo.
A pesar de que las posibilidades que nos ofrece la IA han aumentado exponencialmente en los últimos años, llevamos siglos lidiando con esta cuestión. Las tensiones entre la razón y la emoción, el artificio y la naturaleza, la reflexión y la intuición, han moldeado la manera en que organizamos nuestras vidas y gobernamos nuestras sociedades. A principios del siglo xvii, el filósofo y matemático francés René Descartes abogó por una vida de racionalidad, orden y evidencia. Los parques parisinos diseñados en perfecta simetría son un recuerdo de su influencia.
Un siglo después, Jean-Jacques Rousseau abogó por una postura distinta basada en la confianza en las emociones y la intuición, y en mirar a nuestro interior para encontrar respuestas. “Todo lo malo que he hecho en mi vida ha sido consecuencia de la reflexión –escribió–. Y lo poco de bueno que he hecho ha sido consecuencia del impulso”.17 Defendió un mundo de corazonadas, pasiones y apetitos en el que los estallidos de furia eran perfectamente excusables por ser una expresión de humanidad. Cada vez que los paisajistas británicos y estadounidenses crean parques urbanos imitando la naturaleza exuberante, en realidad están haciendo un guiño inconsciente a la visión de Rousseau.
También se observó la misma dicotomía en el mundo empresarial del siglo xx. La influyente teoría de la organización científica del trabajo de Frederick Taylor aspiraba a cuantificar todos los aspectos de las operaciones de una empresa. Los supervisores, armados con cronómetros y portapapeles, se paseaban por toda la planta de producción para garantizar un buen ritmo de trabajo. Y, sin embargo, a finales de ese mismo siglo se celebró el éxito de General Electric y de su voluble jefe ejecutivo Jack Welch, cuya autobiografía empresarial titularon muy acertadamente en inglés Straight from the Gut, cuya traducción literal sería ‘El instinto directo’, aunque en castellano se publicó bajo el título Hablando claro.18
Cuando en nuestro proceso de toma de decisiones rechazamos la racionalidad linear basada en hechos en favor de la emoción humana, nos embarga cierto sentimiento de autenticidad. No todo puede reducirse a un número o a una fórmula lógica. Pero este ethos no sirve para resolver problemas, solo para glorificarlos: puede destruir, pero no crear. Durante la última mitad del siglo pasado, los psicólogos y los economistas conductuales han ido reuniendo una montaña de pruebas experimentales que demuestran que, en la mayoría de los casos, las decisiones tomadas por instinto son peores. Puede que confiar en nuestro instinto nos dé la sensación de que estamos haciendo lo correcto. Pero en realidad no nos aporta ninguna estrategia viable para poder resolver los desafíos a los que nos enfrentamos.19
Por otro lado, puede que la IA tome mejores decisiones que los humanos y que termine por quitarnos el trabajo, pero ni los ordenadores ni los algoritmos son capaces de enmarcar. A la IA se le da muy bien responder cualquier cosa que se le pregunte, pero los enmarcadores son capaces de formular preguntas que hasta entonces nadie había planteado. Los ordenadores solo pueden trabajar con el mundo existente, pero los humanos podemos vivir en los mundos que imaginamos gracias a nuestra capacidad de enmarcar.
Vamos a examinar las carencias de los ordenadores en el campo en que normalmente reciben más alabanzas por su excelencia: los juegos de mesa. Incluso las personas más familiarizadas con esta historia acostumbran a extraer de ella la lección equivocada.
En 2018 la filial DeepMind de Google presentó un programa llamado AlphaZero que había aprendido a jugar al ajedrez, al go y al shōgi simplemente compitiendo contra sí mismo, sin ningún tipo de intervención humana salvo por la introducción de las normas del juego.20 Después de solamente nueve horas, durante las cuales jugó contra sí mismo unas cuarenta y cuatro millones de partidas, fue capaz de ganar al entonces mejor programa de ajedrez del mundo, Stockfish.21 Cuando los grandes maestros del ajedrez jugaron contra AlphaZero quedaron sorprendidos por sus extrañas estrategias. Durante más de un siglo los expertos del ajedrez habían consensuado estrategias y conceptos básicos como por ejemplo el valor de las piezas o de las posiciones del tablero. Sin embargo, los movimientos de AlphaZero eran radicales, ya que privilegiaba la movilidad por encima de la posición y no mostraba reticencias en hacer sacrificios. Era como si AlphaZero hubiera concebido una estrategia completamente nueva para jugar al ajedrez.22
Pero en realidad esto no fue lo que ocurrió.
Los sistemas de IA son incapaces de concebir nada. Son incapaces de crear modelos mentales. No pueden generalizar ni explicar. AlphaZero es una caja negra tanto para nosotros como para sí mismo. Fueron los humanos, no la IA, los que observaron los movimientos y desarrollaron el concepto de posición de tablero o sacrificio. Fueron los humanos los que enmarcaron las acciones de AlphaZero, consiguiendo así explicarlas y aplicarlas de manera generalizada. Fueron los humanos los que se volvieron más inteligentes porque fueron capaces de abstraer lecciones de los logros de la IA. La IA no puede comprender ni aplicar lecciones por cuenta propia.
Tanto los racionalistas como los emocionalistas han identificado correctamente una singularidad de la cognición humana. Pero ambas visiones nos llevan a un callejón sin salida. Ninguna de las dos es capaz de ofrecer una respuesta adecuada que resuelva los desafíos a los que se enfrenta la civilización. Tampoco podríamos esperar mucho si combinásemos ambas visiones. Si fusionamos dos visiones basadas en fundamentos precarios, como mucho podríamos conseguir mantener esta frágil tensión sin esperanzas de conseguir ningún progreso real.
Pero es fundamental que comprendamos que no estamos limitados a estas dos opciones. No tenemos que decidir entre una singularidad deshumanizadora, un tsunami de terror populista o una combinación ineficiente de ambas visiones. Disponemos de otra estrategia, otra característica humana que hasta ahora ha sido ignorada: la capacidad de enmarcar. Nuestra capacidad de aplicar, perfeccionar y reinventar modelos mentales nos proporciona los medios necesarios para resolver nuestros problemas sin tener que recurrir a las máquinas o unirnos a la turba.
Esto nos lleva de vuelta a Regina Barzilay. Nos encontramos ante una encrucijada. Se avecinan grandes desafíos. Al igual que con los antibióticos, muchas de nuestras vulnerabilidades son de cosecha propia, consecuencia de las decisiones que tomamos, de las alternativas que no supimos identificar y de las acciones que no emprendimos. Nos hemos metido nosotros solos en nuestros problemas actuales. Pero la buena noticia es que podemos resolverlos. Para lograrlo, necesitaremos una nueva mentalidad.
lo que ocurre en el exterior empieza en el interior
Existe un programa llamado Our World in Data dirigido por un equipo de la Universidad de Oxford.23 Este programa evalúa todos los aspectos de la vida humana y, tal y como su nombre indica, lo hace a través del prisma de la información. ¿Estadísticas de mortalidad infantil? Te las proporciona enseguida. ¿El PIB global? No te preocupes, el programa se encarga. Bill Gates es un gran admirador del trabajo de este equipo y, de hecho, a veces retuitea sus gráficos e incluso lo apoya a través de su fundación. Y a juzgar por los gráficos de barras y las líneas gráficas de todos los colores del arcoíris que no dejan de publicar, nunca hemos estado mejor.
Y es cierto que, según todas las estadísticas, el mundo está mejorando inexorablemente. Cada vez hay menos guerras, menos enfermedades, un mayor índice de alfabetización, más agua potable, países más ricos, personas más felices y una mayor esperanza de vida. Puede que el COVID-19 haya hecho mella en algunas de estas tendencias, pero solo de manera temporal; si alzamos la vista hacia el futuro seguro que este bache se suavizará a medida que pase el tiempo y avance el progreso.
La evolución del pensamiento humano ha desempeñado un papel crucial en todas estas mejoras, ya que antes de que se materialice ningún cambio en el mundo tiene que producirse una transformación mental. Todo lo que ocurre en el exterior empieza en el interior. Enmarcamos y reenmarcamos el mundo, y gracias a ello la civilización avanza.
Pero ese feliz optimismo puede interpretarse erróneamente. Sus defensores lo extrapolan al desarrollo del futuro. Sin embargo, su análisis oculta varios problemas. El progreso humano está
