Ich liebe es, wenn meine alten Fragen beantwortet werden. Vor zwanzig Jahren lag ich wach und fragte mich, warum es Leben gibt. Jetzt, nach der Lektüre von Büchern wie , und , denke ich, dass ich es verstehe. Das Leben ist ein nichtmagischer, physikalischer Prozess. Das Leben ist wie kleine Staubteufel; kleine Wirbelstürme aus Materie, die sich in Bewegung setzen, die aber zufällig eine Struktur haben, die es ihnen erlaubt, länger zu laufen, als sie es dürften. Staubteufel sind natürlich nicht lebendig, weil sie sich nicht fortpflanzen, aber sie sind eine gute Erinnerung an die Art von Prozess, die Leben ist.

Leben existiert, weil es existiert. Das klingt wie ein Zen-Koan, aber was ich meine, ist, dass ein zufälliger Prozess, der einmal in Gang gekommen ist und die Eigenschaft hat, sich fortzusetzen, genau deshalb weiterläuft, weil er diese Eigenschaft hat. Und wenn dieser Zufallsprozess auch die Eigenschaft hat, sich selbst zu reproduzieren, so dass die Eigenschaft, die ihn am Laufen hielt, an seine Kopien weitergegeben wird, gibt es sogar noch mehr davon. Diese Kopien sind natürlich nicht perfekt. Es gibt kleine Unvollkommenheiten in den Kopien, und einige dieser Unvollkommenheiten führen zu Variationen, die sich fortsetzen und noch besser reproduzieren können. Das führt zu noch mehr dieser Variationen und zu noch mehr Variationen, die aus diesen hervorgehen, und das Ergebnis sind Bakterien, Bäume, Menschen, Spinnen und Hühner.

Was hat das mit Intelligenz zu tun? Einige Varianten des Staubteufels haben zufällig die Eigenschaft, sich auf Dinge zuzubewegen, die sie am Leben erhalten, und Dinge zu vermeiden, die sie auslöschen; das nennen wir Intelligenz. In einigen Fällen erlaubt mehr Intelligenz dem Staubteufel, länger und in vielfältigeren Umgebungen zu überleben, so dass er mehr Staubteufel und Variationen von Staubteufeln erzeugen kann.

Wir menschlichen Staubteufel versuchen nun, Intelligenz künstlich zu erzeugen. Wir bauen sie von oben nach unten auf, um menschliche Ziele zu erreichen. Im Gegensatz dazu hat die Natur die Intelligenz von unten nach oben aufgebaut, ohne Ziel, als sich Variation auf Variation aufbaute. Diese Unterscheidung ist wahrscheinlich der Grund, warum Fachleute für künstliche Intelligenz (KI) im Allgemeinen weniger Angst vor KI haben als andere Menschen. Wir sehen sie als Technik, so wie man bessere Toaster oder Geschirrspüler baut. Menschen, die KI von außen betrachten, sehen sie nicht als Technik, sondern als Artefakte, die so tun, als seien sie lebendig, und die Dinge tun, die auch Menschen tun, z. B. Auto fahren oder Katzen auf Bildern erkennen. Für sie stellt sich natürlich die Frage: „Wie werden wir dieses Leben kontrollieren, wenn es schlauer wird als wir?“

Wir bauen unsere KI von oben nach unten auf, weil wir sie brauchen, um jetzt nützlich zu sein, und weil wir die Grundlagen der natürlichen Intelligenz nicht verstehen. Das Ergebnis dieses Top-Down-Ansatzes ist eine oberflächliche Verkörperung. Die Intelligenzen, die wir entwickeln, sind nicht verankert, oder selbst wenn sie verankert sind, versuchen wir, direkt Intelligenzen zu entwickeln, die mit Konzepten umgehen können, die für die menschliche Kultur relevant sind, ohne die zugrundeliegenden Leitungen zu kennen. Das Ergebnis sind Programme, die Schüleraufsätze bewerten, ohne lesen zu können, und Roboter, die Autos bauen, ohne zu wissen, was eine Straße ist.

Im Gegensatz dazu begann die natürliche Intelligenz bei Organismen mit einer einfachen Morphologie, und diese einfachen Körperformen boten einen begrenzten Wahrnehmungsraum und einen begrenzten Handlungsraum, was zu einfachen Entscheidungen aufgrund einfacher Eingaben führte. Im Laufe der Evolution entwickelten sich die Morphologie und die Intelligenz der Organismen gemeinsam, was zu einer stark verkörperten Intelligenz führte. Wir Menschen können zum Beispiel so effizient laufen, weil wir die Dynamik unserer Beine nutzen und sie wie ein Pendel behandeln. Und unsere sensomotorischen Routinen ermöglichen es uns, Dinge zu tun, wie z. B. Sandwiches zu schmieren, und gleichzeitig die Anforderungen an unser Gedächtnis zu minimieren, indem wir Blicke nutzen, um die richtigen Informationen aus dem richtigen Teil der Umgebung zur richtigen Zeit zu erhalten. Wir nutzen unsere tiefe Verkörperung sowohl für Handlungen als auch für interne Simulationen. Wenn wir uns vorstellen, ein Objekt zu treten, tun wir dies mit dem Teil unseres Gehirns, der das Treten tatsächlich ausführt. Viele verschiedene Fähigkeiten arbeiten ad hoc zusammen, was zu einer Gesellschaft des Geistes führt, die unser Verhalten steuert.

Weil wir wollen, dass unsere KI sofort nützlich ist, bauen wir Roboter mit komplexer Morphologie, die Gegenstände aufheben, Katzen auf Bildern erkennen und Filmkritiken anhand der Stimmung klassifizieren können. In letzter Zeit hatten wir viel Erfolg mit Deep Learning und sogar genetischen Algorithmen, aber wenn es darum geht, gesunden Menschenverstand einzubauen, was wir als künstliche allgemeine Intelligenz (KI) bezeichnen, stoßen wir auf eine Mauer. Dieser Mangel an Fortschritt rührt von der Schwierigkeit her, auf Fähigkeiten auf niedrigerem Niveau aufzubauen.

Die allgemeine menschliche Intelligenz basiert auf Konzepten auf niedrigerem Niveau, die vor der Sprache liegen. Um Sprache und Sätze wie „Unser Startup hat uns auf eine lange Reise mitgenommen“ zu verstehen, ordnen wir sie physischen Erfahrungen zu, wie z.B. dem Gehen eines langen Weges. Um ein wirkliches Verständnis zu entwickeln, müssen wir möglicherweise abstrakte Konzepte auf dem tatsächlichen Code aufbauen, der das zugrunde liegende physikalische Analogon ausführt. Wir haben selbstfahrende Autos, die navigieren können; vielleicht müssen wir Abstraktionen auf höherer Ebene direkt auf diesem Navigationscode aufbauen, damit ein Roboter verstehen kann, wie die Gründung eines Unternehmens eine „Reise“ sein kann.

Während wir absichtlich versuchen, KI von oben nach unten zu entwickeln, können unsere Wirtschaft und unsere Computerinfrastruktur die Entstehung von KI von unten nach oben ermöglichen. Unsere Computerprogramme selbst machen eine Art Evolution durch. Computerprogramme, die gut funktionieren, werden häufig ausgeführt, wie Staubteufel, die immer weiterlaufen. Und während sie weiterlaufen, sammeln sie Änderungen aus Jira-Tickets und Variationen aus Forks auf GitHub. Der Code wird zunächst von oben nach unten mit schönen Abstraktionen entworfen, aber im Laufe der Zeit häufen sich die Mutationen, und er wird weniger verständlich, aber besser an seine Umgebung angepasst.

Wir fügen auch langsam unsere Programme zusammen, so dass sie sich einer Gesellschaft des Geistes annähern. Aufgaben, die früher notwendig waren, um Dinge zu erledigen, wie das Sortieren oder das Ausführen eines CNN-Klassifizierers, können jetzt einfach aufgerufen werden, so dass sich der Programmierer auf übergeordnete Probleme konzentrieren kann. Durch Makefiles, Microservices, APIs, GitHub-Repos und Apache Maven bauen wir langsam immer komplexere Systeme auf. Diese kleinen Gesellschaften sind inzwischen so kompliziert, dass der Code oft einmal in einem Docker-Container gebündelt wird, damit sich nicht jeder Benutzer durch die Versionsinkompatibilitäten zwischen den verschiedenen Varianten der Komponenten kämpfen muss. Und da diese Funktionalitäten auf einfacheren Funktionalitäten aufbauen, entsteht eine Art tiefe Verankerung in der Cyberwelt. Ein Twitter-Bot ist auf einem Code aufgebaut, der bis zum Senden von Paketen über TCP/IP reicht.

Werden unsere intelligenten Maschinen jemals lebende Wesen wie du und ich sein, mit einem umfassenden Verständnis der Welt und sogar Bewusstsein? Wir haben keine Ahnung, wie man einem Docker-Container ein Bewusstsein verleiht, aber unsere Computertechnologie könnte sich auf einem ähnlichen Weg nach oben bewegen, wie der, der zu unserem Bewusstsein geführt hat. Dennoch gibt es mindestens zwei Rätsel. Wir haben bisher nur eine Variante von Staubteufeln gesehen, die eine reichhaltige Sprache und die Komplexität der Kultur, die sie ermöglicht, entwickelt hat, und wir haben keine Ahnung, wie wir das gemacht haben oder wie das Ganze überhaupt funktioniert. Das zweite Rätsel des Bewusstseins ist noch tiefer. Wir wissen nicht, ob es notwendig ist, ob es eine Fata Morgana ist oder ob es auf mathematischen Prinzipien beruht. Sobald wir diese beiden Rätsel gelöst haben, werden wir eine bessere Vorstellung von der Wahrscheinlichkeit superintelligenter Maschinen haben, es sei denn, sie lösen sie zuerst.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.