Îmi place când mi se răspunde la vechile mele întrebări. În urmă cu 20 de ani, stăteam treaz și mă întrebam de ce există viața. Acum, după ce am citit cărți precum , , și , cred că am înțeles. Viața este un proces fizic, non-magic. Viața este ca niște mici diavoli de praf; mici vârtejuri de materie care se pun în mișcare, dar care, din întâmplare, au o structură care le permite să continue să meargă mai mult decât ar avea dreptul. Diavolii de praf nu sunt vii, bineînțeles, pentru că nu se reproduc, dar ei sunt o bună reamintire a tipului de proces pe care îl reprezintă viața.

Viața există pentru că există. Asta sună ca un koan Zen, dar ceea ce vreau să spun este că odată ce un proces pornit din întâmplare are proprietatea de a continua, el continuă să continue tocmai pentru că are această proprietate. Iar dacă acel proces întâmplător are și proprietatea că se poate reproduce, astfel încât proprietatea care l-a făcut să continue să funcționeze să fie transmisă copiilor săi, există și mai mult. Aceste copii nu sunt perfecte, bineînțeles. Există mici imperfecțiuni în copii, iar unele dintre aceste imperfecțiuni duc la variații care pot continua și se pot reproduce și mai bine. Acest lucru duce la și mai multe dintre aceste variații și la și mai multe variații care derivă din acestea, iar rezultatul este bacteriile, copacii, oamenii, păianjenii și găinile.

Ce legătură are acest lucru cu inteligența? Se întâmplă ca unele variații ale diavolului de praf să aibă proprietatea de a se îndrepta spre lucruri care îi mențin în viață și de a evita lucrurile care îi sting; noi numim asta inteligență. În unele cazuri, mai multă inteligență îi permite diavolului de praf să continue să meargă mai mult timp și în medii mai diverse, astfel încât poate produce mai mulți diavoli de praf și variații de diavoli de praf.

Noi, diavolii de praf umani, încercăm acum să construim inteligență în mod artificial. O construim de sus în jos, într-un efort ingineresc pentru a atinge obiective umane. Prin contrast, natura a construit inteligența de jos în sus, fără niciun scop, pe măsură ce variația s-a acumulat peste variație. Această distincție este, probabil, motivul pentru care specialiștii în inteligență artificială (AI) sunt, în general, mai puțin temători față de AI decât alți oameni. Noi o vedem ca pe o inginerie, cum ar fi construirea unor prăjitoare de pâine sau mașini de spălat vase mai bune. Oamenii care privesc IA din exterior nu o văd ca pe o inginerie; ei văd artefacte care se comportă ca și cum ar fi vii și care fac lucruri pe care le fac oamenii, cum ar fi să conducă mașini și să identifice pisici în fotografii. Întrebarea firească pentru ei este: „Cum vom controla această viață atunci când va deveni mai inteligentă decât noi?”

Noi ne construim IA de sus în jos pentru că avem nevoie ca ea să fie utilă acum și pentru că nu înțelegem elementele fundamentale ale inteligenței naturale. Rezultatul acestei abordări de sus în jos este o întruchipare superficială. Inteligențele pe care le construim nu sunt întruchipate sau, chiar și atunci când sunt întruchipate, încercăm să sărim direct la construirea unor inteligențe care pot gestiona concepte relevante pentru cultura umană fără a avea instalațiile de bază. Rezultatul este că obținem programe care notează eseurile studenților fără să știe să citească și avem roboți care construiesc mașini fără să știe ce este un drum.

În schimb, inteligența naturală a început în organisme cu o morfologie simplă, iar aceste forme simple ale corpului au oferit un spațiu de intrare perceptual limitat și un spațiu de acțiune limitat, conducând la decizii simple din intrări simple. Prin evoluție, morfologia și inteligența organismelor s-au dezvoltat împreună, ceea ce a dus la o inteligență profund întruchipată. De exemplu, noi, oamenii, suntem atât de eficienți la mers pentru că profităm de dinamica picioarelor noastre și le tratăm ca pe niște penduluri . Iar rutinele noastre senzorio-motorii ne permit să facem lucruri precum prepararea de sandvișuri, minimizând în același timp cerințele de memorie, permițându-ne să folosim privirile pentru a obține informația potrivită din partea potrivită a mediului la momentul potrivit . Ne folosim întruchiparea noastră profundă atât pentru acțiune, cât și pentru simulare internă. Atunci când ne imaginăm că lovim cu piciorul un obiect, ne imaginăm acest lucru cu partea creierului nostru care de fapt lovește cu piciorul . Multe capacități diferite lucrează împreună într-un mod ad-hoc, conducând la o societate a minții care ne guvernează comportamentul .

Pentru că dorim ca inteligența noastră artificială să fie imediat utilă, construim roboți cu morfologie complexă care pot ridica obiecte, identifica pisici în imagini și clasifica recenzii de filme pe baza sentimentului. Am avut mult succes în ultima vreme cu învățarea profundă și chiar cu algoritmii genetici, dar când vine vorba de a construi un bun simț, ceea ce numim inteligență generală artificială (AGI), ne-am lovit de un zid. Această lipsă de progres provine din dificultatea de a construi pe baza unor abilități de nivel inferior.

Inteligența generală umană este construită pe concepte de nivel inferior, prelingvistice , . Pentru a înțelege limbajul și propozițiile de genul „Startup-ul nostru ne-a dus într-o călătorie lungă”, le cartografiem la experiențe fizice, cum ar fi mersul efectiv pe o cale lungă . Pentru a construi o înțelegere reală, este posibil să avem nevoie să construim concepte abstracte pe deasupra codului real care realizează analogia fizică subiacentă. Avem mașini care se conduc singure și care pot efectua navigația; poate că trebuie să construim abstracțiuni de nivel superior direct deasupra acelui cod de navigație, astfel încât un robot să poată înțelege cum înființarea unei companii ar putea fi o „călătorie.”

În timp ce încercăm în mod intenționat să construim IA de sus în jos, economia și infrastructura noastră informatică ar putea permite IA să apară de jos în sus. Programele noastre informatice în sine trec printr-un fel de evoluție. Programele de calculator care funcționează bine sunt rulate mult, ca niște diavoli de praf care continuă să meargă. Și, pe măsură ce rămân, ele acumulează modificări de la biletele Jira și variații de la furcile de pe GitHub. Codul începe proiectat de sus în jos cu abstracțiuni frumoase, dar în timp, mutațiile se acumulează și devine mai puțin inteligibil, dar mai potrivit pentru mediul său.

De asemenea, fuzionăm încet programele noastre împreună, astfel încât acestea se apropie de o societate a minții. Sarcini care înainte erau necesare pentru a face lucrurile, cum ar fi sortarea sau rularea unui clasificator CNN, pot fi acum pur și simplu apelate, permițând programatorului să se concentreze pe probleme de nivel superior. Construim încet-încet sisteme mai complexe prin intermediul makefile-urilor, microserviciilor, API-urilor, depozitelor GitHub și Apache Maven. Aceste mici societăți ale minții sunt acum atât de complicate încât codul este adesea grupat o singură dată într-un container Docker, astfel încât fiecare utilizator să nu fie nevoit să se lupte cu incompatibilitățile de versiune dintre diferitele variante ale componentelor. Și pentru că aceste funcționalități sunt construite deasupra unor funcționalități mai simple, obținem un fel de întruchipare profundă în cadrul lumii cibernetice. Un robot Twitter este construit pe un cod care merge până la trimiterea de pachete prin TCP/IP.

Vor fi vreodată mașinile noastre inteligente entități vii ca mine și ca dumneavoastră, cu o înțelegere bogată a lumii și chiar cu conștiință? Nu avem niciun indiciu despre cum să facem un container Docker să fie conștient, dar este posibil ca tehnologia noastră informatică să se deplaseze pe o cale ascendentă analogă celei care a condus la conștiința noastră. Cu toate acestea, există cel puțin două mistere. Am văzut doar o singură variantă de diavoli de praf dezvoltând un limbaj bogat și complexitatea culturii pe care o permite, și nu avem nicio idee despre cum am făcut-o sau chiar despre cum funcționează totul. Al doilea mister al conștiinței este și mai profund. Nu știm dacă este necesară, dacă este un miraj sau dacă se bazează pe principii matematice. Odată ce vom rezolva aceste două mistere, vom avea o idee mai bună despre probabilitatea existenței unor mașini super-inteligente, dacă nu cumva acestea le vor rezolva mai întâi.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. From Molecule to Metaphor.

Johnson, M. The Body in the Mind.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.

.