Mám rád, když mi někdo odpovídá na mé staré otázky. Před dvaceti lety jsem ležel vzhůru a přemýšlel, proč existuje život. Teď, po přečtení knih jako , , a , si myslím, že to chápu. Život je nemagický, fyzikální proces. Život je jako malí prachoví ďáblíci; malé víry hmoty, které se dají do pohybu, ale shodou okolností mají strukturu, která jim umožňuje pokračovat v pohybu déle, než mají právo. Prachoví čerti samozřejmě nejsou živí, protože se nerozmnožují, ale jsou dobrou připomínkou toho, jakým procesem život je.

Život existuje, protože existuje. To zní jako zenový kóan, ale chci tím říct, že jakmile se náhodou spustí proces, který má tu vlastnost, že pokračuje, pokračuje právě proto, že tuto vlastnost má. A pokud má tento proces náhodou také tu vlastnost, že se může reprodukovat, takže vlastnost, která ho udržovala v chodu, přechází na jeho kopie, je ho ještě víc. Tyto kopie samozřejmě nejsou dokonalé. V kopiích se vyskytují drobné nedokonalosti a některé z těchto nedokonalostí vedou k variantám, které mohou pokračovat a reprodukovat se ještě lépe. To vede k ještě většímu počtu těchto variací a k dalším variacím z nich vycházejícím, a výsledkem jsou bakterie, stromy, lidé, pavouci a kuřata.

Co to má společného s inteligencí? Některé variace prachového čerta mají náhodou tu vlastnost, že se pohybují směrem k věcem, které je udržují v chodu, a vyhýbají se věcem, které je uhasí; tomu říkáme inteligence. V některých případech větší inteligence umožňuje prachovému ďáblu udržet se v chodu déle a v rozmanitějších prostředích, takže může vytvářet více prachových ďáblů a jejich variací.

My, lidští prachoví ďáblové, se nyní snažíme inteligenci vytvářet uměle. Budujeme ji shora dolů v rámci inženýrského úsilí o dosažení lidských cílů. Naproti tomu příroda budovala inteligenci zdola nahoru, bez cíle, jako variace hromadící se na variaci. Tento rozdíl je pravděpodobně důvodem, proč se odborníci na umělou inteligenci (AI) obecně bojí AI méně než ostatní lidé. Vnímáme ji jako inženýrství, podobně jako stavbu lepších toustovačů nebo myček nádobí. Lidé, kteří se na umělou inteligenci dívají zvenčí, ji jako inženýrství nevidí; vidí artefakty, které se chovají jako živé a dělají věci, které dělají lidé, například řídí auta a identifikují kočky na obrázcích. Přirozená otázka pro ně zní: „Jak budeme tento život ovládat, až bude chytřejší než my?“

Naší UI budujeme shora dolů, protože ji potřebujeme, aby byla užitečná hned, a protože nerozumíme základům přirozené inteligence. Výsledkem tohoto přístupu shora dolů je povrchní ztělesnění. Inteligence, které budujeme, nejsou ztělesněné, nebo i když ztělesněné jsou, snažíme se rovnou přejít k budování inteligencí, které dokážou zacházet s pojmy relevantními pro lidskou kulturu, aniž bychom měli k dispozici základní instalaci. Výsledkem je, že dostáváme programy, které hodnotí studentské eseje, aniž by uměly číst, a máme roboty, kteří staví auta, aniž by věděli, co je to silnice.

Přirozená inteligence naopak začínala u organismů s jednoduchou morfologií a tyto jednoduché tvary těla poskytovaly omezený vstupní prostor pro vnímání a omezený akční prostor, což vedlo k jednoduchým rozhodnutím z jednoduchých vstupů. V průběhu evoluce se morfologie a inteligence organismů vyvíjely společně, což vedlo k hluboce ztělesněné inteligenci. Například my lidé jsme tak efektivní v chůzi, protože využíváme dynamiku našich nohou a zacházíme s nimi jako s kyvadly . A naše smyslově-motorické postupy nám umožňují dělat takové věci, jako je výroba sendvičů, a zároveň minimalizují nároky na paměť, protože nám umožňují používat pohledy k získání správných informací ze správné části prostředí ve správný čas . Naše hluboké ztělesnění používáme jak k akci, tak k vnitřní simulaci . Když si představujeme, že kopeme do nějakého předmětu, děláme tuto představu pomocí té části našeho mozku, která kopání skutečně provádí . Mnoho různých schopností spolupracuje ad-hoc způsobem, což vede ke společnosti mysli, která řídí naše chování .

Protože chceme, aby naše umělá inteligence byla okamžitě užitečná, stavíme roboty se složitou morfologií, kteří dokáží zvedat předměty, identifikovat kočky na obrázcích a klasifikovat filmové recenze na základě sentimentu. V poslední době jsme dosáhli mnoha úspěchů s hlubokým učením a dokonce i s genetickými algoritmy, ale když přijde na budování zdravého rozumu, kterému říkáme umělá obecná inteligence (AGI), narazili jsme na zeď. Tento nedostatečný pokrok pramení z obtížnosti budování na základě schopností nižší úrovně.

Lidská obecná inteligence je postavena na pojmech nižší úrovně, předjazykových , . Abychom porozuměli jazyku a větám typu „Náš startup nás vzal na dlouhou cestu“, mapujeme je na fyzickou zkušenost, například skutečnou chůzi po dlouhé cestě . Abychom vybudovali skutečné porozumění, možná budeme muset vybudovat abstraktní koncepty nad skutečným kódem, který provádí základní fyzickou analogii. Máme samořiditelná auta, která umí provádět navigaci; možná potřebujeme vybudovat abstrakce vyšší úrovně přímo nad tímto navigačním kódem, aby robot mohl pochopit, jak může být založení firmy „cestou“.

Zatímco se cíleně snažíme budovat umělou inteligenci shora dolů, naše ekonomika a počítačová infrastruktura možná umožňuje, aby umělá inteligence vznikala zdola nahoru. Naše počítačové programy samy procházejí určitým druhem evoluce. Počítačové programy, které dobře fungují, se spouštějí hodně, jako prachoví čerti, kteří pokračují dál. A jak tu zůstávají, hromadí změny z tiketů Jira a varianty z forků na GitHubu. Kód začíná navržený shora dolů s krásnými abstrakcemi, ale postupem času se v něm hromadí mutace a stává se méně srozumitelným, ale více vhodným pro své prostředí.

Své programy také pomalu spojujeme dohromady, takže se blíží společnosti mysli. Úlohy, které byly dříve nezbytné k tomu, aby se něco udělalo, například třídění nebo spuštění klasifikátoru CNN, lze nyní jednoduše zavolat, což programátorovi umožní soustředit se na problémy vyšší úrovně. Pomalu vytváříme složitější systémy prostřednictvím makefile, mikroslužeb, API, repozitářů GitHub a Apache Maven. Tyto malé společnosti mysli jsou nyní tak složité, že kód je často jednou svázán do kontejneru Docker, aby každý uživatel nemusel bojovat s nekompatibilitou verzí mezi různými variantami komponent. A protože jsou tyto funkcionality postaveny na jednodušších funkcionalitách, dostáváme v rámci kybernetického světa jakési hluboké ztělesnění. Bot Twitteru je postaven na kódu, který sahá až k odesílání paketů přes TCP/IP.

Budou naše inteligentní stroje někdy živými bytostmi jako vy a já, s bohatým chápáním světa a dokonce s vědomím? Nemáme tušení, jak vytvořit vědomý kontejner Docker, ale naše počítačová technologie se možná pohybuje po cestě zdola nahoru, která je analogická té, jež vedla k našemu vědomí. Přesto jsou tu přinejmenším dvě záhady. Viděli jsme pouze jednu variantu prachových ďáblů, jak se vyvinul bohatý jazyk a složitost kultury, kterou umožňuje, a nemáme ani tušení, jak se to podařilo, a dokonce ani to, jak to celé funguje. Druhá záhada vědomí je ještě hlubší. Nevíme, zda je nutné, nebo přeludem, nebo zda je založeno na matematických principech. Jakmile vyřešíme tyto dvě záhady, budeme mít lepší představu o pravděpodobnosti superinteligentních strojů, pokud je nevyřeší dříve.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. Od molekuly k metafoře.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. Základy mysli.

Minsky, M. Společnost mysli.

Schrödinger, E. Co je to život?“

Tegmark, M. Život 3.0.