Jag älskar när mina gamla frågor får svar. För tjugo år sedan låg jag vaken och undrade varför livet existerar. Nu, efter att ha läst böcker som , , och , tror jag att jag förstår. Livet är en icke-magisk, fysisk process. Livet är som små dammvindar; små virvelvindar av materia som kommer igång men som av en slump har en struktur som gör att de kan fortsätta längre än vad de har rätt till. Dammvindar är naturligtvis inte levande, eftersom de inte reproducerar sig, men de är en bra påminnelse om den typ av process som livet är.

Livet existerar för att det existerar. Det låter som en Zen-koan, men vad jag menar är att när en process av en slump väl startar som har egenskapen att den fortsätter, fortsätter den just för att den har den egenskapen. Och om den processen av en slump också har egenskapen att den kan reproducera sig själv, så att egenskapen som höll den igång förs vidare till dess kopior, finns det ännu mer av den. Dessa kopior är naturligtvis inte perfekta. Det finns små ofullkomligheter i kopiorna, och vissa av dessa ofullkomligheter leder till variationer som kan fortsätta och reproducera sig ännu bättre. Detta leder till ännu fler av dessa variationer och fler variationer som härrör från dessa, och resultatet är bakterier, träd, människor, spindlar och höns.

Vad har detta med intelligens att göra? Vissa variationer av dammduon råkar ha egenskapen att de rör sig mot saker som håller dem igång och undviker saker som släcker dem; vi kallar det intelligens. I vissa fall gör mer intelligens att dammsugaren kan hålla igång längre och i mer varierande miljöer, så att den kan skapa fler dammsugare och variationer av dammsugare.

Vi mänskliga dammsugare försöker nu bygga upp intelligens på konstgjord väg. Vi bygger den uppifrån och ner i ett ingenjörsmässigt försök att uppnå mänskliga mål. Däremot byggde naturen upp intelligensen nerifrån och upp, utan mål, när variation ackumulerades på variation. Denna distinktion är förmodligen anledningen till att de som arbetar med artificiell intelligens (AI) i allmänhet är mindre rädda för AI än andra människor. Vi ser det som ingenjörskonst, som att bygga bättre brödrostar eller diskmaskiner. De ser artefakter som beter sig som om de är levande och gör saker som människor gör, som att köra bil och identifiera katter på bilder. Den naturliga frågan för dem är: ”Hur ska vi kontrollera detta liv när det blir smartare än oss?”

Vi bygger vår AI uppifrån och ner eftersom vi behöver den för att den ska vara användbar nu och eftersom vi inte förstår grunderna för naturlig intelligens. Resultatet av denna strategi uppifrån och ner är ett ytligt förkroppsligande. De intelligenser vi bygger är inte förkroppsligade, eller till och med när de är förkroppsligade försöker vi hoppa direkt till att bygga intelligenser som kan hantera begrepp som är relevanta för den mänskliga kulturen utan den underliggande rörmokeriet. Resultatet är att vi får program som betygsätter studentuppsatser utan att kunna läsa, och vi har robotar som bygger bilar utan att veta vad en väg är.

Däremot började den naturliga intelligensen i organismer med enkel morfologi, och dessa enkla kroppsformer gav ett begränsat perceptuellt inmatningsutrymme och ett begränsat handlingsutrymme, vilket ledde till enkla beslut utifrån enkla inmatningar. Genom evolutionen utvecklades organismernas morfologi och intelligens tillsammans, vilket ledde till en djupt förkroppsligad intelligens. Vi människor är till exempel så effektiva på att gå eftersom vi drar nytta av dynamiken i våra ben och behandlar dem som pendlar . Och våra sensorisk-motoriska rutiner gör det möjligt för oss att göra saker som att göra smörgåsar samtidigt som vi minimerar minneskraven genom att vi kan använda blickar för att få rätt information från rätt del av miljön vid rätt tidpunkt . Vi använder vårt djupa förkroppsligande för både handling och intern simulering. När vi föreställer oss att vi sparkar på ett föremål gör vi det med den del av hjärnan som faktiskt sparkar. Många olika förmågor arbetar tillsammans på ett ad hoc sätt, vilket leder till ett sinnessamhälle som styr vårt beteende .

För att vi vill att vår AI ska vara omedelbart användbar bygger vi robotar med komplex morfologi som kan plocka upp föremål, identifiera katter i bilder och klassificera filmrecensioner baserat på sentiment. Vi har haft stora framgångar på senare tid med djupinlärning och till och med genetiska algoritmer, men när det gäller att bygga in sunt förnuft, det som vi kallar artificiell allmän intelligens (AGI), har vi stött på en vägg. Denna brist på framsteg beror på svårigheten att bygga på förmågor på lägre nivå.

Människans allmänna intelligens bygger på begrepp på lägre nivå, före språkliga begrepp , . För att förstå språk och meningar som ”Vårt nystartade företag har tagit oss på en lång resa” kartlägger vi dem med fysiska erfarenheter, som att faktiskt gå längs en lång väg . För att skapa verklig förståelse kan vi behöva bygga abstrakta begrepp ovanpå faktisk kod som utför den underliggande fysiska analogin. Vi har självkörande bilar som kan navigera; kanske måste vi bygga abstraktioner på högre nivå direkt ovanpå navigationskoden så att en robot kan förstå hur det kan vara en ”resa” att starta ett företag.

Medans vi målmedvetet försöker bygga artificiell intelligens uppifrån och ner, kan vår ekonomi och datainfrastruktur göra det möjligt för artificiell intelligens att växa fram underifrån och upp. Våra datorprogram genomgår själva ett slags utveckling. Datorprogram som fungerar bra körs mycket, likt dammsugare som fortsätter att gå. Och när de stannar kvar samlar de på sig ändringar från Jira-biljetter och variationer från gafflar på GitHub. Koden börjar utformas uppifrån och ner med vackra abstraktioner, men med tiden byggs mutationerna upp och den blir mindre begriplig men mer anpassad till sin omgivning.

Vi smälter också långsamt samman våra program så att de närmar sig ett sinnessamhälle. Uppgifter som tidigare var nödvändiga för att få saker gjorda, t.ex. sortering eller körning av en CNN-klassificator, kan nu helt enkelt anropas, vilket gör att programmeraren kan fokusera på problem på högre nivå. Vi bygger långsamt upp mer komplexa system genom makefiles, mikrotjänster, API:er, GitHub repos och Apache Maven. Dessa små sinnessammansättningar är nu så komplicerade att koden ofta paketeras en gång i en Docker-container så att varje användare inte behöver kämpa sig igenom versionsinkompatibiliteterna mellan de olika varianterna av komponenterna. Och eftersom dessa funktionaliteter byggs ovanpå enklare funktionaliteter får vi ett slags djup förkroppsligande inom cybervärlden. En Twitterbot är byggd på kod som går ända ner till att skicka paket över TCP/IP.

Kommer våra intelligenta maskiner någonsin att bli levande varelser som du och jag, med en rik förståelse av världen och till och med medvetande? Vi har inte en aning om hur man gör en Docker-container medveten, men vår datorteknik kan röra sig längs en väg nedifrån och upp som är analog med den som ledde till vårt medvetande. Det finns fortfarande minst två mysterier. Vi har bara sett en variant av dammsugare utveckla ett rikt språk och den komplexa kultur som det möjliggör, och vi har ingen aning om hur vi gjorde det eller ens hur det hela fungerar. Det andra mysteriet med medvetandet är ännu djupare. Vi vet inte om det är nödvändigt, om det är en hägring eller om det bygger på matematiska principer. När vi löser dessa två mysterier kommer vi att ha en bättre uppfattning om sannolikheten för superintelligenta maskiner, om de inte löser dem först.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.