J’adore quand on répond à mes vieilles questions. Il y a vingt ans, je restais éveillé en me demandant pourquoi la vie existait. Maintenant, après avoir lu des livres comme , , et , je pense que je comprends. La vie est un processus physique non-magique. La vie est comme des petits tourbillons de poussière, de petits tourbillons de matière qui se mettent en route mais qui, par hasard, ont une structure qui leur permet de continuer plus longtemps qu’ils n’en ont le droit. Les tourbillons de poussière ne sont pas vivants, bien sûr, parce qu’ils ne se reproduisent pas, mais ils sont un bon rappel du type de processus qu’est la vie.

La vie existe parce qu’elle existe. Cela ressemble à un koan zen, mais ce que je veux dire, c’est qu’une fois qu’un processus par hasard est lancé qui a la propriété de continuer, il continue précisément parce qu’il a cette propriété. Et si ce processus par hasard a également la propriété de pouvoir se reproduire, de sorte que la propriété qui l’a fait perdurer est transmise à ses copies, il existe encore plus. Ces copies ne sont pas parfaites, bien sûr. Il y a de petites imperfections dans les copies, et certaines de ces imperfections conduisent à des variations qui peuvent continuer et se reproduire encore mieux. Cela conduit à encore plus de ces variations et à plus de variations issues de celles-ci, et le résultat est une bactérie, des arbres, des humains, des araignées et des poulets.

Qu’est-ce que cela a à voir avec l’intelligence ? Il se trouve que certaines variations du diable de poussière ont la propriété de se diriger vers les choses qui les maintiennent en vie et d’éviter celles qui les éteignent ; nous appelons cela l’intelligence. Dans certains cas, plus d’intelligence permet au diable de poussière de continuer plus longtemps et dans des environnements plus diversifiés, de sorte qu’il peut faire plus de diables de poussière et de variations de diables de poussière.

Nous, les diables de poussière humains, essayons maintenant de construire l’intelligence artificiellement. Nous la construisons de haut en bas dans un effort d’ingénierie pour atteindre les objectifs humains. En revanche, la nature a construit l’intelligence de bas en haut, sans but, au fur et à mesure que la variation s’accumulait sur la variation. Cette distinction est probablement la raison pour laquelle les praticiens de l’intelligence artificielle (IA) ont généralement moins peur de l’IA que les autres personnes. Pour nous, il s’agit d’ingénierie, comme la construction de meilleurs grille-pain ou lave-vaisselle. Les personnes qui regardent l’IA de l’extérieur ne la voient pas comme de l’ingénierie ; elles voient des artefacts qui agissent comme s’ils étaient vivants et qui font des choses que les humains font, comme conduire des voitures et identifier des chats sur des photos. La question qui se pose naturellement à eux est la suivante :  » Comment allons-nous contrôler cette vie lorsqu’elle deviendra plus intelligente que nous ? « 

Nous construisons notre IA du haut vers le bas parce que nous avons besoin qu’elle soit utile maintenant et parce que nous ne comprenons pas les principes fondamentaux de l’intelligence naturelle. Le résultat de cette approche descendante est une incarnation superficielle. Les intelligences que nous construisons ne sont pas incarnées, ou même lorsqu’elles le sont, nous essayons de passer directement à la construction d’intelligences capables de gérer des concepts pertinents pour la culture humaine sans la plomberie sous-jacente. Le résultat est que nous obtenons des programmes qui notent les essais des étudiants sans être capables de lire, et nous avons des robots qui construisent des voitures sans savoir ce qu’est une route.

En revanche, l’intelligence naturelle a commencé dans des organismes à la morphologie simple, et ces formes corporelles simples fournissaient un espace d’entrée perceptif limité et un espace d’action limité, conduisant à des décisions simples à partir d’entrées simples. Au cours de l’évolution, la morphologie et l’intelligence des organismes se sont développées ensemble, ce qui a conduit à une intelligence profondément incarnée. Par exemple, si les humains sont si efficaces pour marcher, c’est parce qu’ils tirent parti de la dynamique de leurs jambes et les traitent comme des pendules. Et nos routines sensori-motrices nous permettent de faire des choses comme faire des sandwiches tout en minimisant les besoins de mémoire en nous permettant d’utiliser des regards pour obtenir la bonne information de la bonne partie de l’environnement au bon moment . Nous utilisons notre incarnation profonde à la fois pour l’action et la simulation interne. Lorsque nous imaginons donner un coup de pied à un objet, nous l’imaginons avec la partie de notre cerveau qui donne effectivement le coup de pied. De nombreuses capacités différentes fonctionnent ensemble de manière ad hoc, conduisant à une société de l’esprit qui régit notre comportement .

Parce que nous voulons que notre IA soit immédiatement utile, nous construisons des robots avec une morphologie complexe qui peuvent ramasser des objets, identifier des chats dans des images et classer des critiques de films en fonction du sentiment. Nous avons eu beaucoup de succès récemment avec l’apprentissage profond et même les algorithmes génétiques, mais lorsqu’il s’agit d’intégrer le bon sens, ce que nous appelons l’intelligence générale artificielle (AGI), nous nous heurtons à un mur. Ce manque de progrès découle de la difficulté de construire sur des capacités de plus bas niveau.

L’intelligence générale humaine est construite sur des concepts de plus bas niveau, pré-linguaux , . Pour comprendre le langage et des phrases comme « Notre startup nous a emmenés sur un long voyage », nous les mettons en correspondance avec l’expérience physique, comme marcher réellement sur un long chemin . Pour acquérir une véritable compréhension, il peut être nécessaire de construire des concepts abstraits au-dessus du code réel qui exécute l’analogie physique sous-jacente. Nous avons des voitures à conduite autonome qui peuvent effectuer la navigation ; peut-être devons-nous construire des abstractions de plus haut niveau directement au-dessus de ce code de navigation afin qu’un robot puisse comprendre comment la création d’une entreprise pourrait être un  » voyage « .

Alors que nous essayons délibérément de construire l’IA du haut vers le bas, notre économie et notre infrastructure informatique peuvent permettre à l’IA d’émerger du bas vers le haut. Nos programmes informatiques eux-mêmes subissent une sorte d’évolution. Les programmes informatiques qui fonctionnent bien sont souvent utilisés, comme des tourbillons de poussière qui continuent à tourner. Et à mesure qu’ils restent en place, ils accumulent les changements provenant des tickets Jira et les variations des forks sur GitHub. Le code commence par être conçu de haut en bas avec de belles abstractions, mais avec le temps, les mutations s’accumulent et il devient moins compréhensible mais plus adapté à son environnement.

Nous fusionnons aussi lentement nos programmes entre eux pour qu’ils se rapprochent d’une société de l’esprit. Les tâches qui étaient autrefois nécessaires pour faire avancer les choses, comme le tri ou l’exécution d’un classificateur CNN, peuvent maintenant être simplement appelées, laissant le programmeur se concentrer sur des problèmes de plus haut niveau. Nous construisons lentement des systèmes plus complexes grâce aux makefiles, aux microservices, aux API, aux dépôts GitHub et à Apache Maven. Ces petites sociétés de l’esprit sont maintenant si compliquées que le code est souvent regroupé une fois dans un conteneur Docker afin que chaque utilisateur n’ait pas à se battre contre les incompatibilités de version entre les différentes variations des composants. Et comme ces fonctionnalités sont construites sur des fonctionnalités plus simples, nous obtenons une sorte d’incarnation profonde au sein du cybermonde. Un bot Twitter est construit sur un code qui va jusqu’à l’envoi de paquets sur TCP/IP.

Nos machines intelligentes seront-elles un jour des entités vivantes comme vous et moi, avec une riche compréhension du monde et même une conscience ? Nous n’avons pas la moindre idée de la façon de rendre un conteneur Docker conscient, mais notre technologie informatique pourrait suivre un chemin ascendant analogue à celui qui a conduit à notre conscience. Pourtant, il reste au moins deux mystères. Nous n’avons vu qu’une seule variante des dust devils développer un langage riche et la complexité de la culture qu’il permet, et nous n’avons aucune idée de la façon dont nous avons fait cela, ni même de la façon dont tout cela fonctionne. Le second mystère de la conscience est encore plus profond. Nous ne savons pas si elle est nécessaire, si elle est un mirage ou si elle repose sur des principes mathématiques. Une fois que nous aurons résolu ces deux mystères, nous aurons une meilleure idée de la probabilité de machines superintelligentes, à moins qu’elles ne les résolvent avant.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.