Me encanta cuando mis viejas preguntas obtienen respuesta. Hace veinte años, me desvelaba preguntándome por qué existe la vida. Ahora, después de leer libros como , , y , creo que lo entiendo. La vida es un proceso físico no mágico. La vida es como pequeños diablos de polvo; pequeños torbellinos de materia que se ponen en marcha pero que, por casualidad, tienen una estructura que les permite seguir adelante más tiempo del que tienen derecho. Los diablos de polvo no están vivos, por supuesto, porque no se reproducen, pero son un buen recordatorio del tipo de proceso que es la vida.

La vida existe porque existe. Eso suena a koan zen, pero lo que quiero decir es que una vez que se pone en marcha un proceso por azar que tiene la propiedad de seguir adelante, sigue adelante precisamente porque tiene esa propiedad. Y si ese proceso por casualidad también tiene la propiedad de poder reproducirse, de modo que la propiedad que lo mantuvo en marcha se transmite a sus copias, hay aún más. Estas copias no son perfectas, por supuesto. Hay pequeñas imperfecciones en las copias, y algunas de estas imperfecciones conducen a variaciones que pueden seguir adelante y reproducirse aún mejor. Esto lleva a aún más de esas variaciones y más variaciones derivadas de ellas, y el resultado son bacterias, árboles, humanos, arañas y pollos.

¿Qué tiene esto que ver con la inteligencia? Resulta que algunas variaciones del diablo de polvo tienen la propiedad de moverse hacia las cosas que las mantienen en marcha y evitar las que las extinguen; a eso lo llamamos inteligencia. En algunos casos, una mayor inteligencia permite al demonio de polvo seguir adelante durante más tiempo y en entornos más diversos, por lo que puede hacer más demonios de polvo y variaciones de demonios de polvo.

Nosotros, los demonios de polvo humanos, estamos tratando de construir inteligencia artificialmente. La estamos construyendo desde arriba hacia abajo en un esfuerzo de ingeniería para lograr los objetivos humanos. Por el contrario, la naturaleza construyó la inteligencia de abajo hacia arriba, sin ningún objetivo, a medida que la variación se acumulaba sobre la variación. Esta distinción es probablemente la razón por la que los profesionales de la inteligencia artificial (IA) suelen tener menos miedo de la IA que otras personas. La vemos como ingeniería, como la construcción de mejores tostadoras o lavavajillas. La gente que mira la IA desde fuera no la ve como ingeniería; ven artefactos que actúan como si estuvieran vivos y hacen cosas que hacen los humanos, como conducir coches e identificar gatos en las fotos. La pregunta natural para ellos es: «¿Cómo vamos a controlar esta vida cuando se vuelva más inteligente que nosotros?»

Construimos nuestra IA de arriba abajo porque necesitamos que sea útil ahora y porque no entendemos los fundamentos de la inteligencia natural. El resultado de este enfoque descendente es una personificación superficial. Las inteligencias que construimos no están encarnadas, o incluso cuando lo están, intentamos saltar directamente a la construcción de inteligencias que puedan manejar conceptos relevantes para la cultura humana sin la fontanería subyacente. El resultado es que tenemos programas que califican las redacciones de los estudiantes sin saber leer, y tenemos robots que construyen coches sin saber lo que es una carretera.

Por el contrario, la inteligencia natural comenzó en organismos con una morfología simple, y estas formas corporales simples proporcionaron un espacio de entrada perceptivo limitado y un espacio de acción limitado, lo que llevó a decisiones simples a partir de entradas simples. A través de la evolución, la morfología y la inteligencia de los organismos se desarrollaron conjuntamente, lo que condujo a una inteligencia profundamente incorporada. Por ejemplo, los humanos somos tan eficientes al caminar porque aprovechamos la dinámica de nuestras piernas y las tratamos como péndulos. Y nuestras rutinas sensoriomotoras nos permiten hacer cosas como preparar sándwiches minimizando los requisitos de memoria al permitirnos utilizar las miradas para obtener la información correcta de la parte correcta del entorno en el momento adecuado. Utilizamos nuestra corporeidad profunda tanto para la acción como para la simulación interna. Cuando nos imaginamos pateando un objeto, lo hacemos con la parte de nuestro cerebro que realmente lo hace. Muchas capacidades diferentes trabajan juntas de forma ad hoc, dando lugar a una sociedad mental que gobierna nuestro comportamiento.

Debido a que queremos que nuestra IA sea inmediatamente útil, construimos robots con una morfología compleja que pueden recoger objetos, identificar gatos en imágenes y clasificar críticas de películas en función del sentimiento. Últimamente hemos tenido mucho éxito con el aprendizaje profundo e incluso con los algoritmos genéticos, pero cuando se trata de construir con sentido común, lo que llamamos inteligencia general artificial (AGI), nos hemos topado con un muro. Esta falta de progreso proviene de la dificultad de construir sobre habilidades de nivel inferior.

La inteligencia general humana se construye sobre conceptos de nivel inferior, previos al lenguaje , . Para entender el lenguaje y frases como «Nuestra puesta en marcha nos ha llevado a un largo viaje», las mapeamos con la experiencia física, como por ejemplo, caminar realmente por un largo camino . Para construir una comprensión real, es posible que tengamos que construir conceptos abstractos sobre el código real que realiza el análogo físico subyacente. Tenemos coches autodirigidos que pueden realizar la navegación; tal vez necesitemos construir abstracciones de más alto nivel directamente sobre ese código de navegación para que un robot pueda entender cómo abrir una empresa podría ser un «viaje».

Mientras intentamos deliberadamente construir la IA de arriba a abajo, nuestra economía e infraestructura informática pueden estar permitiendo que la IA surja de abajo a arriba. Nuestros propios programas informáticos experimentan una especie de evolución. Los programas informáticos que funcionan bien se ejecutan mucho, como diablos de polvo que siguen funcionando. Y a medida que se mantienen, acumulan cambios de los tickets de Jira y variaciones de las bifurcaciones en GitHub. El código comienza diseñado de arriba a abajo con hermosas abstracciones, pero con el tiempo, las mutaciones se acumulan y se vuelve menos comprensible pero más apto para su entorno.

También estamos fusionando lentamente nuestros programas para que se acerquen a una sociedad mental. Las tareas que solían ser necesarias para hacer las cosas, como ordenar o ejecutar un clasificador CNN, ahora pueden ser simplemente llamadas, dejando que el programador se centre en problemas de mayor nivel. Poco a poco estamos construyendo sistemas más complejos a través de makefiles, microservicios, APIs, repos de GitHub y Apache Maven. Estas pequeñas sociedades mentales son ahora tan complicadas que el código se suele agrupar una vez en un contenedor Docker para que cada usuario no tenga que luchar contra las incompatibilidades de versión entre las diferentes variaciones de los componentes. Y como estas funcionalidades se construyen sobre otras más sencillas, estamos consiguiendo una especie de encarnación profunda dentro del mundo cibernético. Un bot de Twitter está construido sobre un código que llega hasta el envío de paquetes a través de TCP/IP.

¿Serán alguna vez nuestras máquinas inteligentes entidades vivas como tú y yo, con una rica comprensión del mundo e incluso con conciencia? No tenemos ni idea de cómo hacer consciente a un contenedor Docker, pero nuestra tecnología informática puede estar avanzando por un camino ascendente análogo al que nos llevó a la conciencia. Aún así, hay al menos dos misterios. Sólo hemos visto una variación de los diablos de polvo desarrollar un lenguaje rico y la complejidad de la cultura que permite, y no tenemos ni idea de cómo lo hicimos o incluso cómo funciona todo. El segundo misterio de la conciencia es aún más profundo. No sabemos si es necesaria, o un espejismo, o se basa en principios matemáticos. Una vez que resolvamos esos dos misterios, tendremos una mejor idea de la probabilidad de que haya máquinas superinteligentes, a menos que las resuelvan primero.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.