Uwielbiam, gdy moje stare pytania doczekują się odpowiedzi. Dwadzieścia lat temu leżałem bezsennie, zastanawiając się, dlaczego istnieje życie. Teraz, po przeczytaniu książek takich jak , i , myślę, że rozumiem. Życie jest nie-magicznym, fizycznym procesem. Życie jest jak małe diabełki pyłowe; małe wiry materii, które się poruszają, ale które przez przypadek mają strukturę, która pozwala im działać dłużej niż mają do tego prawo. Diabły pyłowe nie są żywe, oczywiście, ponieważ nie rozmnażają się, ale są dobrym przypomnieniem rodzaju procesu, jakim jest życie.

Życie istnieje, ponieważ istnieje. To brzmi jak Zen koan, ale co mam na myśli jest, że raz proces przez przypadek zaczyna się, który ma własność, że utrzymuje się, utrzymuje się właśnie dlatego, że ma tę własność. I jeżeli ten proces przez przypadek także ma właściwość, że może się reprodukować, tak, że właściwość, która utrzymywała go w ruchu jest przekazywana jego kopiom, jest go jeszcze więcej. Te kopie nie są doskonałe, oczywiście. Istnieją małe niedoskonałości w kopiach, a niektóre z tych niedoskonałości prowadzą do wariacji, które mogą kontynuować i rozmnażać się jeszcze lepiej. To prowadzi do jeszcze większej ilości tych wariacji i większej ilości wariacji wywodzących się z nich, a rezultatem są bakterie, drzewa, ludzie, pająki i kurczaki.

Co to ma wspólnego z inteligencją? Niektóre odmiany diabła pyłowego mają tę właściwość, że podążają w kierunku rzeczy, które utrzymują je w ruchu i unikają rzeczy, które je gaszą; nazywamy to inteligencją. W niektórych przypadkach, więcej inteligencji pozwala diabłu pyłowemu działać dłużej i w bardziej zróżnicowanych środowiskach, więc może on stworzyć więcej diabłów pyłowych i odmian diabłów pyłowych.

My, ludzkie diabły pyłowe, próbujemy teraz sztucznie zbudować inteligencję. Budujemy ją od góry do dołu w inżynieryjnym wysiłku, aby osiągnąć ludzkie cele. Dla kontrastu, natura zbudowała inteligencję od dołu do góry, bez żadnego celu, jako że wariacja gromadziła się na wariacji. To rozróżnienie jest prawdopodobnie powodem, dla którego osoby zajmujące się sztuczną inteligencją (AI) na ogół mniej obawiają się AI niż inni ludzie. Postrzegamy ją jako inżynierię, jak budowanie lepszych tosterów czy zmywarek do naczyń. Ludzie patrzący na AI z zewnątrz nie postrzegają jej jako inżynierii; widzą artefakty zachowujące się jak żywe i robiące rzeczy, które robią ludzie, takie jak prowadzenie samochodów czy rozpoznawanie kotów na zdjęciach. Naturalne pytanie, jakie im się nasuwa, brzmi: „Jak będziemy kontrolować to życie, kiedy stanie się od nas mądrzejsze?”

Budujemy naszą SI od góry do dołu, ponieważ potrzebujemy jej, aby była użyteczna teraz i ponieważ nie rozumiemy podstaw naturalnej inteligencji. Rezultatem tego odgórnego podejścia jest powierzchowne ucieleśnienie. Inteligencje, które budujemy, nie są ucieleśnione, a nawet jeśli są ucieleśnione, to próbujemy od razu przejść do budowania inteligencji, które potrafią posługiwać się pojęciami istotnymi dla ludzkiej kultury, nie znając ich podstaw. W rezultacie otrzymujemy programy, które oceniają eseje studentów, nie umiejąc czytać, i mamy roboty, które budują samochody, nie wiedząc, co to jest droga.

Dla kontrastu, naturalna inteligencja zaczęła się w organizmach o prostej morfologii, a te proste kształty ciała zapewniły ograniczoną percepcyjną przestrzeń wejściową i ograniczoną przestrzeń działania, prowadząc do prostych decyzji z prostych danych wejściowych. W toku ewolucji morfologia i inteligencja organizmów rozwijały się razem, co doprowadziło do powstania głęboko ucieleśnionej inteligencji. Na przykład my, ludzie, jesteśmy tak sprawni w chodzeniu, ponieważ wykorzystujemy dynamikę naszych nóg i traktujemy je jak wahadła. A nasze rutyny sensoryczno-motoryczne pozwalają nam robić takie rzeczy jak robienie kanapek, minimalizując jednocześnie wymagania pamięciowe, pozwalając nam wykorzystywać spojrzenia, aby uzyskać odpowiednie informacje z odpowiedniej części środowiska w odpowiednim czasie. Używamy naszego głębokiego ucieleśnienia zarówno do działania, jak i wewnętrznej symulacji. Kiedy wyobrażamy sobie, że kopiemy jakiś przedmiot, robimy to wyobrażenie za pomocą tej części naszego mózgu, która faktycznie to robi. Wiele różnych zdolności współpracuje ze sobą w sposób doraźny, prowadząc do społeczeństwa umysłu, które rządzi naszym zachowaniem .

Ponieważ chcemy, aby nasza AI była natychmiast użyteczna, budujemy roboty o złożonej morfologii, które mogą podnosić obiekty, identyfikować koty na zdjęciach i klasyfikować recenzje filmów na podstawie sentymentu. Ostatnio odnieśliśmy wiele sukcesów z głębokim uczeniem, a nawet algorytmami genetycznymi, ale jeśli chodzi o wbudowanie zdrowego rozsądku, co nazywamy sztuczną inteligencją ogólną (AGI), natrafiliśmy na mur. Ten brak postępu wynika z trudności budowania na szczycie zdolności niższego poziomu.

Ludzka inteligencja ogólna jest zbudowana na niższych poziomach, przedjęzykowych koncepcjach , . Aby zrozumieć język i zdania takie jak „Nasz startup zabrał nas w długą podróż”, mapujemy je na fizyczne doświadczenie, takie jak rzeczywiste chodzenie długą ścieżką. Aby zbudować prawdziwe zrozumienie, być może będziemy musieli zbudować abstrakcyjne koncepcje na wierzchu rzeczywistego kodu, który wykonuje leżący u podstaw fizyczny analog. Mamy samokierujące się samochody, które potrafią nawigować; być może musimy zbudować abstrakcje wyższego poziomu bezpośrednio na kodzie nawigacyjnym, aby robot mógł zrozumieć, jak założenie firmy może być „podróżą”.

Choć celowo staramy się budować AI z góry na dół, nasza gospodarka i infrastruktura komputerowa mogą pozwalać AI wyłaniać się z dołu do góry. Nasze programy komputerowe same przechodzą swoistą ewolucję. Programy komputerowe, które działają dobrze, są często uruchamiane, jak diabły pyłowe, które nie przestają działać. A ponieważ pozostają w pobliżu, gromadzą zmiany z biletów Jira i wariacje z forków na GitHubie. Kod zaczyna się od projektowania odgórnego z pięknymi abstrakcjami, ale z czasem mutacje narastają i staje się on mniej zrozumiały, ale bardziej dopasowany do swojego środowiska.

Powoli łączymy też nasze programy razem, tak że zbliżają się do społeczeństwa umysłu. Zadania, które kiedyś były konieczne do wykonania, takie jak sortowanie lub uruchamianie klasyfikatora CNN, mogą być teraz po prostu wywoływane, pozwalając programiście skupić się na problemach wyższego rzędu. Powoli budujemy bardziej złożone systemy dzięki plikom makefile, mikroserwisom, API, repozytoriom na GitHubie i Apache Maven. Te małe towarzystwa umysłu są teraz tak skomplikowane, że kod jest często wiązany raz w kontenerze Docker, aby każdy użytkownik nie musiał walczyć przez niezgodności wersji pomiędzy różnymi wariantami komponentów. A ponieważ te funkcjonalności są zbudowane na wierzchu prostszych funkcjonalności, otrzymujemy rodzaj głębokiego ucieleśnienia w cyberświecie. Bot na Twitterze jest zbudowany na kodzie, który sięga aż do wysyłania pakietów przez TCP/IP.

Czy nasze inteligentne maszyny będą kiedyś żywymi istotami jak ty i ja, z bogatym rozumieniem świata, a nawet świadomością? Nie mamy pojęcia, jak uczynić kontener Docker świadomym, ale nasza technologia komputerowa może poruszać się po ścieżce oddolnej, analogicznej do tej, która doprowadziła do naszej świadomości. Wciąż jednak pozostają co najmniej dwie tajemnice. Widzieliśmy tylko jedną odmianę diabłów pyłowych, która rozwinęła bogaty język i złożoność kultury, którą on umożliwia, i nie mamy pojęcia, jak to zrobiliśmy, a nawet jak to wszystko działa. Druga tajemnica świadomości jest jeszcze głębsza. Nie wiemy, czy jest ona konieczna, czy jest mirażem, czy też opiera się na zasadach matematycznych. Gdy rozwiążemy te dwie tajemnice, będziemy mieli lepsze pojęcie o prawdopodobieństwie istnienia superinteligentnych maszyn, chyba że one rozwiążą je pierwsze.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.

.