Imádom, amikor a régi kérdéseimre választ kapok. Húsz évvel ezelőtt ébren feküdtem, és azon tűnődtem, miért létezik az élet. Most, miután elolvastam az olyan könyveket, mint , , és , azt hiszem, megértettem. Az élet egy nem mágikus, fizikai folyamat. Az élet olyan, mint a kis porördögök; kis anyagörvények, amelyek elindulnak, de véletlenül olyan szerkezettel rendelkeznek, amely lehetővé teszi számukra, hogy tovább tartsanak, mint ameddig joguk van hozzá. A porördögök persze nem élnek, mert nem szaporodnak, de jól emlékeztetnek arra, hogy az élet milyen folyamat.

Az élet azért létezik, mert létezik. Ez úgy hangzik, mint egy zen koan, de úgy értem, hogy ha egyszer véletlenül elindul egy folyamat, aminek megvan az a tulajdonsága, hogy folytatódik, akkor pontosan azért folytatódik, mert megvan ez a tulajdonsága. És ha ez a véletlen folyamat rendelkezik azzal a tulajdonsággal is, hogy képes reprodukálni magát, így az a tulajdonság, ami fenntartotta, továbbadódik a másolatainak, akkor még több van belőle. Ezek a másolatok természetesen nem tökéletesek. A másolatokban vannak apró tökéletlenségek, és e tökéletlenségek némelyike olyan változatokhoz vezet, amelyek képesek tovább folytatódni és még jobban reprodukálódni. Ez még több ilyen variációhoz és még több variációhoz vezet, amelyek ezekből származnak, és az eredmény baktériumok, fák, emberek, pókok és csirkék.

Mi köze van ennek az intelligenciához? A porördög egyes variációi történetesen rendelkeznek azzal a tulajdonsággal, hogy olyan dolgok felé mozognak, amelyek életben tartják őket, és elkerülik azokat, amelyek kioltják őket; ezt nevezzük intelligenciának. Bizonyos esetekben a több intelligencia lehetővé teszi a porördög számára, hogy hosszabb ideig és változatosabb környezetben is fennmaradjon, így több porördögöt és porördögváltozatot tud létrehozni.

Mi, emberi porördögök most megpróbálunk mesterségesen intelligenciát létrehozni. Felülről lefelé építjük azt egy mérnöki erőfeszítésben, hogy emberi célokat érjünk el. Ezzel szemben a természet alulról felfelé építette az intelligenciát, cél nélkül, ahogy a variáció variációra halmozódott. Valószínűleg ez a különbségtétel az oka annak, hogy a mesterséges intelligenciával (AI) foglalkozó szakemberek általában kevésbé félnek az AI-tól, mint más emberek. Mi mérnöki munkának tekintjük, mint például a jobb kenyérpirítók vagy mosogatógépek építését. Az emberek, akik kívülről nézik a mesterséges intelligenciát, nem mérnöki tevékenységnek látják; ők olyan műalkotásokat látnak, amelyek úgy viselkednek, mintha élnének, és olyan dolgokat csinálnak, mint az emberek, például autót vezetnek és macskákat azonosítanak a képeken. A természetes kérdés számukra az, hogy “Hogyan fogjuk irányítani ezt az életet, amikor okosabb lesz nálunk?”

A mesterséges intelligenciát felülről lefelé építjük, mert szükségünk van rá, hogy most hasznos legyen, és mert nem értjük a természetes intelligencia alapjait. Ennek a felülről lefelé irányuló megközelítésnek az eredménye egy felszínes megtestesülés. Az általunk épített intelligenciák nem testesülnek meg, vagy ha meg is testesülnek, megpróbálunk közvetlenül olyan intelligenciák építésére ugrani, amelyek az emberi kultúra szempontjából releváns fogalmak kezelésére képesek a mögöttes vízvezetékek nélkül. Az eredmény az, hogy olyan programokat kapunk, amelyek úgy osztályozzák a diákok esszéit, hogy nem tudnak olvasni, és olyan robotjaink vannak, amelyek úgy építenek autókat, hogy nem tudják, mi az az út.

Ezzel szemben a természetes intelligencia egyszerű morfológiájú organizmusokban kezdődött, és ezek az egyszerű testformák korlátozott érzékelési és cselekvési teret biztosítottak, ami egyszerű inputokból egyszerű döntésekhez vezetett. Az evolúció során az élőlények morfológiája és intelligenciája együtt fejlődött, ami egy mélyen megtestesült intelligenciához vezetett. Mi, emberek például azért vagyunk olyan hatékonyak a járásban, mert kihasználjuk a lábaink dinamikáját, és ingaként kezeljük őket. És az érzékszervi-motoros rutinjaink lehetővé teszik számunkra, hogy olyan dolgokat tegyünk, mint a szendvicskészítés, miközben minimalizáljuk a memóriaigényt, mivel lehetővé teszik számunkra, hogy pillantások segítségével a megfelelő információt a környezet megfelelő részéből a megfelelő időben szerezzük meg. A mély megtestesülésünket cselekvésre és belső szimulációra egyaránt használjuk. Amikor elképzeljük, hogy megrúgunk egy tárgyat, ezt a képzeletet az agyunknak azzal a részével végezzük, amelyik ténylegesen elvégzi a rúgást. Sok különböző képesség működik együtt ad-hoc módon, ami a viselkedésünket irányító elmetársadalomhoz vezet .

Mert azt akarjuk, hogy a mesterséges intelligenciánk azonnal hasznos legyen, olyan összetett morfológiájú robotokat építünk, amelyek képesek tárgyakat felvenni, macskákat azonosítani a képeken, és filmkritikákat osztályozni a hangulat alapján. Az utóbbi időben sok sikert értünk el a mélytanulással és még a genetikai algoritmusokkal is, de amikor a józan ész beépítéséről van szó, amit mesterséges általános intelligenciának (AGI) nevezünk, falba ütköztünk. A fejlődés hiánya abból fakad, hogy nehéz az alacsonyabb szintű képességekre építeni.

Az emberi általános intelligencia alacsonyabb szintű, nyelv előtti fogalmakra épül , . Ahhoz, hogy megértsük a nyelvet és az olyan mondatokat, mint “Az indulásunk hosszú útra vitt minket”, fizikai tapasztalatokhoz képezzük le őket, mint például a tényleges gyaloglás egy hosszú úton . A valódi megértéshez absztrakt fogalmakat kell építenünk a tényleges kódra, amely végrehajtja a mögöttes fizikai analógiát. Vannak önvezető autóink, amelyek képesek navigációt végezni; lehet, hogy közvetlenül a navigációs kódra kell magasabb szintű absztrakciókat építenünk, hogy egy robot megértse, hogyan lehet egy vállalat alapítása egy “utazás”.”

Míg mi célzottan felülről lefelé próbálunk AI-t építeni, a gazdaságunk és a számítógépes infrastruktúránk talán lehetővé teszi, hogy az AI alulról felfelé alakuljon ki. Maguk a számítógépes programjaink is egyfajta evolúción mennek keresztül. A jól működő számítógépes programokat sokat futtatják, mint a porördögöket, amelyek folyamatosan mennek. És ahogy maradnak, úgy halmozzák fel a Jira-jegyekből származó változásokat és a GitHubon található elágazásokból származó variációkat. A kód felülről lefelé tervezve, gyönyörű absztrakciókkal indul, de idővel a mutációk felhalmozódnak, és egyre kevésbé lesz érthető, de egyre jobban illeszkedik a környezetéhez.

A programjainkat is lassan összeolvasztjuk, hogy azok közelítsenek egy elmetársadalomhoz. A korábban a dolgok elvégzéséhez szükséges feladatokat, mint például a szortírozás vagy egy CNN-osztályozó futtatása, ma már egyszerűen meg lehet hívni, így a programozó magasabb szintű problémákra koncentrálhat. Lassan egyre összetettebb rendszereket építünk a makefile-ok, mikroszolgáltatások, API-k, GitHub-reposzok és az Apache Maven segítségével. Ezek a kis társadalmak ma már annyira bonyolultak, hogy a kódot gyakran egyszer egy Docker-konténerbe csomagoljuk, hogy az egyes felhasználóknak ne kelljen megküzdeniük a komponensek különböző változatai közötti verzió-összeférhetetlenségekkel. És mivel ezek a funkcionalitások egyszerűbb funkcionalitásokra épülnek, egyfajta mély megtestesülést kapunk a kibervilágon belül. Egy Twitter-robot olyan kódra épül, amely egészen a TCP/IP-n keresztüli csomagküldésig terjed.

Az intelligens gépeink valaha is olyan élő entitások lesznek, mint te és én, a világ gazdag megértésével, sőt tudatossággal? Fogalmunk sincs arról, hogyan lehetne egy Docker-konténert tudatossá tenni, de a számítástechnikánk talán egy olyan alulról felfelé haladó úton halad, amely analóg azzal, amely a tudatosságunkhoz vezetett. Még mindig van legalább két rejtély. A porördögöknek eddig csak egy variációját láttuk gazdag nyelvet és az általa lehetővé tett komplex kultúrát kifejleszteni, és fogalmunk sincs, hogyan csináltuk, vagy egyáltalán, hogyan működik mindez. A tudat második rejtélye még mélyebb. Nem tudjuk, hogy szükséges-e, vagy délibáb, vagy matematikai alapokon nyugszik. Amint megoldjuk ezt a két rejtélyt, jobb képünk lesz a szuperintelligens gépek valószínűségéről, hacsak nem oldják meg őket előbb.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. Az elme alapjai.

Minsky, M. Az elme társadalma.

Schrödinger, E. Mi az élet?

Tegmark, M. Élet 3.0.