Adoro quando le mie vecchie domande trovano risposta. Vent’anni fa, giacevo sveglio chiedendomi perché la vita esiste. Ora, dopo aver letto libri come , , e , penso di aver capito. La vita è un processo fisico non magico. La vita è come piccoli diavoli di polvere; piccoli vortici di materia che si mettono in moto ma che per caso hanno una struttura che permette loro di andare avanti più a lungo di quanto abbiano diritto. I diavoletti di polvere non sono vivi, naturalmente, perché non si riproducono, ma sono un buon promemoria del tipo di processo che è la vita.

La vita esiste perché esiste. Sembra un koan zen, ma quello che voglio dire è che una volta che si avvia per caso un processo che ha la proprietà di continuare ad andare avanti, continua ad andare proprio perché ha quella proprietà. E se quel processo per caso ha anche la proprietà di potersi riprodurre, in modo che la proprietà che lo fa andare avanti venga passata alle sue copie, ce n’è ancora di più. Queste copie non sono perfette, ovviamente. Ci sono piccole imperfezioni nelle copie, e alcune di queste imperfezioni portano a variazioni che possono andare avanti e riprodursi ancora meglio. Questo porta ad ancora più di quelle variazioni e ad altre variazioni che derivano da quelle, e il risultato sono i batteri, gli alberi, gli esseri umani, i ragni e i polli.

Cosa ha a che fare questo con l’intelligenza? Si dà il caso che alcune varianti del diavolo della polvere abbiano la proprietà di muoversi verso cose che le fanno andare avanti e di evitare cose che le estinguono; noi la chiamiamo intelligenza. In alcuni casi, più intelligenza permette al diavolo di polvere di andare avanti più a lungo e in ambienti più diversi, in modo da poter fare più diavoli di polvere e variazioni di diavoli di polvere.

Noi diavoli di polvere umani stiamo cercando di costruire intelligenza artificialmente. La stiamo costruendo dall’alto verso il basso in uno sforzo di ingegneria per raggiungere obiettivi umani. Al contrario, la natura ha costruito l’intelligenza dal basso verso l’alto, senza obiettivi, mentre la variazione si accumulava sulla variazione. Questa distinzione è probabilmente il motivo per cui i professionisti dell’intelligenza artificiale (AI) sono generalmente meno timorosi di AI rispetto ad altre persone. La vediamo come ingegneria, come costruire tostapane o lavastoviglie migliori. Le persone che guardano l’IA dall’esterno non la vedono come ingegneria; vedono artefatti che si comportano come se fossero vivi e fanno cose che gli umani fanno, come guidare le auto e identificare i gatti nelle foto. La domanda naturale per loro è: “Come controlleremo questa vita quando diventerà più intelligente di noi?”

Costruiamo la nostra IA dall’alto verso il basso perché abbiamo bisogno che sia utile ora e perché non comprendiamo i fondamenti dell’intelligenza naturale. Il risultato di questo approccio dall’alto verso il basso è un’incarnazione superficiale. Le intelligenze che costruiamo non sono incarnate, o anche quando sono incarnate, stiamo cercando di saltare direttamente alla costruzione di intelligenze che possono gestire concetti rilevanti per la cultura umana senza l’impianto idraulico sottostante. Il risultato è che abbiamo programmi che valutano i saggi degli studenti senza essere in grado di leggere, e abbiamo robot che costruiscono automobili senza sapere cosa sia una strada.

Al contrario, l’intelligenza naturale è iniziata in organismi con una morfologia semplice, e queste forme corporee semplici hanno fornito uno spazio di input percettivo limitato e uno spazio di azione limitato, portando a decisioni semplici da input semplici. Attraverso l’evoluzione, la morfologia e l’intelligenza degli organismi si sono sviluppate insieme, il che ha portato a un’intelligenza profondamente incarnata. Per esempio, noi umani siamo così efficienti nel camminare perché sfruttiamo la dinamica delle nostre gambe e le trattiamo come pendoli. E le nostre routine senso-motorie ci permettono di fare cose come fare panini minimizzando i requisiti di memoria, permettendoci di usare gli sguardi per ottenere le informazioni giuste dalla parte giusta dell’ambiente al momento giusto. Usiamo la nostra incarnazione profonda sia per l’azione che per la simulazione interna. Quando immaginiamo di calciare un oggetto, lo facciamo immaginando con la parte del nostro cervello che effettivamente fa il calcio. Molte capacità diverse lavorano insieme in un modo ad-hoc, portando a una società della mente che governa il nostro comportamento.

Perché vogliamo che la nostra IA sia immediatamente utile, costruiamo robot con una morfologia complessa che possono raccogliere oggetti, identificare gatti nelle immagini e classificare le recensioni dei film in base al sentimento. Abbiamo avuto molto successo ultimamente con l’apprendimento profondo e persino con gli algoritmi genetici, ma quando si tratta di costruire il senso comune, quello che chiamiamo intelligenza artificiale generale (AGI), abbiamo colpito un muro. Questa mancanza di progresso deriva dalla difficoltà di costruire sopra le abilità di livello inferiore.

L’intelligenza generale umana è costruita su concetti di livello inferiore, pre-linguistici, . Per comprendere il linguaggio e frasi come “La nostra startup ci ha portato in un lungo viaggio” le mappiamo all’esperienza fisica, come camminare effettivamente lungo un lungo sentiero. Per costruire una comprensione reale, potremmo aver bisogno di costruire concetti astratti sopra il codice reale che esegue l’analogo fisico sottostante. Abbiamo auto a guida autonoma che possono eseguire la navigazione; forse abbiamo bisogno di costruire astrazioni di livello superiore direttamente sopra quel codice di navigazione in modo che un robot possa capire come l’avvio di un’azienda possa essere un “viaggio”.

Mentre stiamo intenzionalmente cercando di costruire l’IA dall’alto verso il basso, la nostra economia e l’infrastruttura informatica possono permettere all’IA di emergere dal basso verso l’alto. I nostri stessi programmi informatici subiscono una sorta di evoluzione. I programmi per computer che funzionano bene vengono eseguiti spesso, come diavoli di polvere che continuano ad andare avanti. E mentre rimangono in giro, accumulano modifiche dai ticket Jira e variazioni dai fork su GitHub. Il codice inizia progettato dall’alto verso il basso con belle astrazioni, ma col tempo, le mutazioni si accumulano e diventa meno comprensibile ma più adatto al suo ambiente.

Stiamo anche lentamente fondendo insieme i nostri programmi in modo che si avvicinino a una società della mente. Compiti che prima erano necessari per ottenere le cose, come l’ordinamento o l’esecuzione di un classificatore CNN, ora possono essere semplicemente chiamati, lasciando che il programmatore si concentri su problemi di livello superiore. Stiamo lentamente costruendo sistemi più complessi attraverso makefile, microservizi, API, repo GitHub e Apache Maven. Queste piccole società mentali sono ora così complicate che il codice è spesso raggruppato una volta in un contenitore Docker in modo che ogni utente non debba combattere attraverso le incompatibilità di versione tra le diverse varianti dei componenti. E poiché queste funzionalità sono costruite sopra funzionalità più semplici, stiamo ottenendo una sorta di incarnazione profonda nel mondo cibernetico. Un bot di Twitter è costruito su un codice che va fino all’invio di pacchetti su TCP/IP.

Le nostre macchine intelligenti saranno mai entità viventi come voi e me, con una ricca comprensione del mondo e persino la coscienza? Non abbiamo un indizio su come rendere cosciente un contenitore Docker, ma la nostra tecnologia informatica potrebbe muoversi lungo un percorso bottom-up analogo a quello che ha portato alla nostra coscienza. Tuttavia, ci sono almeno due misteri. Abbiamo visto solo una variante dei diavoli della polvere sviluppare un linguaggio ricco e la complessità della cultura che esso consente, e non abbiamo idea di come abbiamo fatto o anche di come funziona il tutto. Il secondo mistero della coscienza è ancora più profondo. Non sappiamo se sia necessaria, o un miraggio, o basata su principi matematici. Una volta risolti questi due misteri, avremo un’idea migliore della probabilità di macchine superintelligenti, a meno che non li risolvano prima.

Ballard, D. Brain Computation as Hierarchical Abstraction.

Bergen, B. K. Louder than Words.

Carroll, S. The Big Picture.

Clark, A. Supersizing the Mind.

Feldman, J. Dalla molecola alla metafora.

Johnson, M. Il corpo nella mente.

Lakoff, G. & Johnson, M. Metaphors We Live By.

Mandler, J. The Foundations of Mind.

Minsky, M. The Society of Mind.

Schrödinger, E. What is Life?

Tegmark, M. Life 3.0.