Ik vind het heerlijk als mijn oude vragen beantwoord worden. Twintig jaar geleden lag ik wakker en vroeg ik me af waarom het leven bestaat. Nu, na het lezen van boeken als , , en , denk ik dat ik het begrijp. Het leven is een niet-magisch, fysisch proces. Het leven is als kleine stofduiveltjes; kleine wervelwindjes van materie die op gang komen, maar die toevallig een structuur hebben waardoor ze langer doorgaan dan waar ze recht op hebben. Stofduiveltjes leven natuurlijk niet, want ze planten zich niet voort, maar ze zijn een goede herinnering aan het soort proces dat leven is.

Het leven bestaat omdat het bestaat. Dat klinkt als een Zen koan, maar wat ik bedoel is dat als er eenmaal bij toeval een proces op gang komt dat de eigenschap heeft dat het blijft bestaan, het blijft bestaan juist omdat het die eigenschap heeft. En als dat toevalsproces ook nog de eigenschap heeft dat het zichzelf kan reproduceren, zodat de eigenschap die het in stand hield wordt doorgegeven aan zijn kopieën, dan is er nog meer van dat proces. Deze kopieën zijn natuurlijk niet perfect. Er zijn kleine onvolkomenheden in de kopieën, en sommige van die onvolkomenheden leiden tot variaties die zichzelf in stand kunnen houden en zich nog beter kunnen reproduceren. Dit leidt tot nog meer van die variaties en nog meer variaties die daaruit voortkomen, en het resultaat zijn bacteriën, bomen, mensen, spinnen, en kippen.

Wat heeft dit met intelligentie te maken? Sommige variaties van de stofduivel hebben toevallig de eigenschap dat zij zich bewegen in de richting van dingen die hen gaande houden en dingen vermijden die hen uitroeien; dat noemen we intelligentie. In sommige gevallen stelt meer intelligentie de stofduivel in staat om het langer vol te houden en in meer verschillende omgevingen, zodat hij meer stofduivels en variaties van stofduivels kan maken.

Wij menselijke stofduivels proberen nu kunstmatig intelligentie op te bouwen. Wij bouwen het van boven naar beneden in een technische poging om menselijke doelen te bereiken. De natuur daarentegen heeft intelligentie van onderaf opgebouwd, zonder doel, door variatie op variatie te laten volgen. Dit onderscheid is waarschijnlijk de reden waarom beoefenaars van kunstmatige intelligentie (AI) over het algemeen minder bang zijn voor AI dan andere mensen. Wij zien het als techniek, zoals het bouwen van betere broodroosters of vaatwassers. Mensen die van buitenaf naar AI kijken, zien het niet als engineering; zij zien artefacten die doen alsof ze leven en dingen doen die mensen ook doen, zoals autorijden en katten herkennen op foto’s. De natuurlijke vraag aan hen is: “Hoe gaan we dit leven controleren als het slimmer wordt dan wij?”

We bouwen onze AI van boven naar beneden omdat we het nu nuttig moeten maken en omdat we de fundamenten van natuurlijke intelligentie niet begrijpen. Het resultaat van deze top-down benadering is een oppervlakkige belichaming. De intelligenties die we bouwen zijn niet belichaamd, of zelfs als ze belichaamd zijn, proberen we direct over te springen op het bouwen van intelligenties die concepten kunnen hanteren die relevant zijn voor de menselijke cultuur, zonder het onderliggende loodgieterwerk. Het resultaat is dat we programma’s krijgen die essays van studenten beoordelen zonder te kunnen lezen, en we hebben robots die auto’s bouwen zonder te weten wat een weg is.

In tegenstelling daarmee begon natuurlijke intelligentie bij organismen met een eenvoudige morfologie, en deze eenvoudige lichaamsvormen boden een beperkte perceptuele invoerruimte en een beperkte actieruimte, wat leidde tot eenvoudige beslissingen op basis van eenvoudige invoer. Door de evolutie ontwikkelden de morfologie en de intelligentie van organismen zich samen, wat leidde tot een diep belichaamde intelligentie. Wij mensen zijn bijvoorbeeld zo efficiënt in het lopen omdat we gebruik maken van de dynamiek in onze benen en ze als pendels behandelen. En onze sensomotorische routines stellen ons in staat om dingen te doen als broodjes smeren, terwijl we zo min mogelijk geheugen nodig hebben doordat we blikken kunnen gebruiken om de juiste informatie uit het juiste deel van de omgeving op het juiste moment te krijgen. We gebruiken onze diepe belichaming voor zowel actie als interne simulatie. Wanneer we ons voorstellen dat we een voorwerp schoppen, doen we dat met het deel van onze hersenen dat het schoppen ook werkelijk doet. Veel verschillende vermogens werken samen op een ad-hoc manier, wat leidt tot een samenleving van de geest die ons gedrag regelt .

Omdat we willen dat onze AI onmiddellijk nuttig is, bouwen we robots met complexe morfologie die objecten kunnen oppakken, katten in afbeeldingen kunnen identificeren en filmrecensies kunnen classificeren op basis van sentiment. We hebben de laatste tijd veel succes gehad met deep learning en zelfs genetische algoritmen, maar als het gaat om het inbouwen van gezond verstand, wat we kunstmatige algemene intelligentie (AGI) noemen, hebben we een muur geraakt. Dit gebrek aan vooruitgang komt voort uit de moeilijkheid om te bouwen bovenop vaardigheden van een lager niveau.

Menselijke algemene intelligentie is gebouwd op concepten van een lager niveau, pre-linguïstisch , . Om taal en zinnen als “Onze startup heeft ons meegenomen op een lange reis” te begrijpen, brengen we ze in kaart met fysieke ervaring, zoals het daadwerkelijk lopen over een lang pad . Om echt begrip op te bouwen, moeten we misschien abstracte concepten bouwen bovenop feitelijke code die de onderliggende fysieke analogie uitvoert. We hebben zelfrijdende auto’s die navigatie kunnen uitvoeren; misschien moeten we abstracties van een hoger niveau direct bovenop die navigatiecode bouwen, zodat een robot kan begrijpen hoe het starten van een bedrijf een “reis” zou kunnen zijn.”

Terwijl we doelbewust proberen AI van bovenaf op te bouwen, laten onze economie en computerinfrastructuur AI misschien van onderaf opkomen. Onze computerprogramma’s zelf ondergaan een soort evolutie. Computerprogramma’s die goed werken worden veel gedraaid, als stofduivels die maar blijven doorgaan. En terwijl ze in de buurt blijven, accumuleren ze veranderingen van Jira tickets en variaties van forks op GitHub. De code begint top-down ontworpen met mooie abstracties, maar na verloop van tijd stapelen de mutaties zich op en wordt hij minder begrijpelijk maar meer geschikt voor zijn omgeving.

We zijn ook langzaam onze programma’s aan het samenvoegen, zodat ze een samenleving van geest benaderen. Taken die vroeger nodig waren om dingen gedaan te krijgen, zoals sorteren of het uitvoeren van een CNN classifier, kunnen nu eenvoudig worden aangeroepen, waardoor de programmeur zich kan richten op problemen op een hoger niveau. We bouwen langzaam complexere systemen via makefiles, microservices, API’s, GitHub repos, en Apache Maven. Deze kleine samenlevingen van geest zijn nu zo ingewikkeld dat code vaak eenmalig wordt gebundeld in een Docker container, zodat elke gebruiker niet hoeft te vechten door de versie incompatibiliteiten tussen de verschillende variaties van de componenten. En omdat deze functionaliteiten bovenop eenvoudigere functionaliteiten worden gebouwd, krijgen we een soort diepe belichaming binnen de cyberwereld. Een Twitter bot is gebouwd op code die helemaal gaat tot het verzenden van pakketjes over TCP/IP.

Zullen onze intelligente machines ooit levende entiteiten worden zoals jij en ik, met een rijk begrip van de wereld en zelfs bewustzijn? We hebben geen idee hoe we een Docker-container bewust kunnen maken, maar onze computertechnologie beweegt zich wellicht langs een bottom-up pad dat analoog is aan het pad dat tot ons bewustzijn heeft geleid. Toch zijn er nog minstens twee mysteries. We hebben slechts één variant van stofduivels een rijke taal zien ontwikkelen en de complexiteit van de cultuur die dat mogelijk maakt, en we hebben geen idee hoe we dat gedaan hebben of zelfs hoe het allemaal werkt. Het tweede mysterie van het bewustzijn is nog dieper. We weten niet of het noodzakelijk is, of een luchtspiegeling, of gebaseerd op wiskundige principes. Zodra we die twee mysteries hebben opgelost, zullen we een beter idee hebben van de waarschijnlijkheid van superintelligente machines, tenzij ze die eerst oplossen.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.