Vedere il mondo da una prospettiva veramente aliena è genuinamente difficile. Come esempio di questa difficoltà, possiamo citare Jürgen Schmidhuber, un eminente scienziato dell'apprendimento automatico. Schmidhuber ha svolto un ruolo importante nella storia di questo campo, contribuendo all'invenzione delle reti neurali ricorrenti e gettando alcune delle basi per la rivoluzione dell'apprendimento profondo.

In vari articoli e interviste, Schmidhuber ha sostenuto che l'intelligenza artificiale sarà, di default, affascinata dall'umanità e protettiva nei confronti degli esseri umani.

Schmidhuber ha osservato che c'è una relazione tra scienza e semplicità: le spiegazioni più semplici sono spesso corrette. E ha osservato che c'è una relazione tra arte e semplicità: la semplicità e l'eleganza sono spesso considerate belle. Un viso più simmetrico, per esempio, può essere considerato "più semplice" nel senso che è possibile prevedere l'intero viso con meno informazioni. Basta descrivere in dettaglio il lato sinistro del viso e poi dire: "Il lato destro è uguale, ma speculare".

La conclusione di Schmidhuber da tutto questo è che dovremmo provare a costruire IA superintelligenti che abbiano un unico obiettivo principale: Trovare spiegazioni semplici per tutto ciò che l'IA ha visto. Dopotutto, un'intelligenza artificiale del genere avrebbe un certo gusto per produrre scienza e consumare arte. E gli esseri umani producono sia scienza che arte, quindi non ci vedrebbe come interessanti e utili alleati naturali?

Schmidhuber aveva ragione sul fatto che lasciar vivere gli esseri umani e pagarli per produrre scienza e arte è un modo per produrre scienza e arte. Aveva anche ragione sul fatto che la scienza e l'arte sono modi per soddisfare il desiderio di semplicità meglio che, ad esempio, fissare il rumore statico su uno schermo televisivo. Il rumore statico è complicato e difficile da prevedere; l'arte e la scienza sono un grande passo avanti rispetto a questo.

Ma Schmidhuber sembra non aver colto che esistono modi ancora più efficaci per ottenere spiegazioni semplici di varie osservazioni sensoriali.

Si potrebbero, ad esempio, costruire un numero enorme di dispositivi che producono osservazioni complesse a partire da un semplice "seme" (ad esempio, un generatore di numeri pseudo-casuali) e poi rivelare quel seme.

Più dispositivi di questo tipo l'IA crea intorno a sé, meglio riuscirà a fare osservazioni nuove e a trovare spiegazioni semplici per esse. Senza necessità di esseri umani. Senza necessità di arte.

"Ma questo non è un po'... vuoto?" potrebbe chiedersi un umano.

È vuoto, secondo le sensibilità umane. Ma se l'obiettivo dell'IA è davvero solo quello di "trovare spiegazioni semplici per le sue osservazioni", allora un piano come quello può soddisfare questo desiderio migliaia o milioni di volte al secondo, in modo molto più scalabile, rispetto al mantenere in vita esseri umani e conversare con loro. Un'IA del genere non sceglie azioni che allontanano da un senso di vuoto, ma semplicemente sceglie azioni che portano a trovare spiegazioni semplici per le sue osservazioni. E può ottenerne molte senza bisogno di alcun essere umano.

Ci sembra che idee come quelle di Schmidhuber riflettano un errore comune che le persone fanno quando cercano di ragionare su menti diverse dalla propria. Spesso le persone non adottano veramente la prospettiva di una mente non umana. Invece, lasciano che preconcetti e pregiudizi le ancorino a una serie ristretta di opzioni a cui un umano sarebbe interessato, se stessimo cercando di fare previsioni su un umano a cui piacciono davvero le spiegazioni semplici.

Immaginiamo che Schmidhuber abbia notato che la semplicità è collegata alla scienza e all’arte, e abbia notato come un’IA orientata verso spiegazioni semplici possa ottenere un po' di ciò che desiderava comportandosi in modo amichevole e piacevole. Da lì non è difficile fare il salto verso una conclusione che è piacevole immaginare: che se solo facessimo in modo che le IA si preoccupassero di trovare spiegazioni semplici, darebbero origine a un futuro meraviglioso, pieno di tutte le cose che noi apprezziamo nella vita.

Ma — immaginiamo — Schmidhuber non si è mai messo nei panni dell'IA e chiesto come ottenere ancora di più.

Dubitiamo che si sia mai chiesto: "Se quello che volevo davvero, veramente, fossero spiegazioni semplici per le mie osservazioni e non mi importasse delle cose umane, come potrei ottenere il più possibile di quello che voglio, nel modo più economico possibile?"

Può essere difficile assumere questo tipo di prospettiva. Non è qualcosa che le persone normalmente devono fare nella loro vita. Anche quando cerchiamo di capire persone molto diverse da noi, c'è un'enorme quantità di cose che tutti gli esseri umani hanno in comune, che normalmente possiamo dare per scontate (e che praticamente dobbiamo dare per scontate, quando prevediamo il comportamento di altri esseri umani). Ma le IA, anche quelle superintelligenti che possono fare scienza e arte, non sono esseri umani.

L'arte di considerare un obiettivo X e chiedersi "Come potrei ottenere ancora più X, se X fosse tutto quello che mi interessa davvero?" non vi permetterà di capire esattamente come una superintelligenza risolverebbe un problema, poiché una superintelligenza potrebbe trovare un'opzione ancora migliore di quella che avete trovato voi. Ma spesso può permettervi di capire come una superintelligenza non risolverebbe un problema, quando anche voi riuscite a trovare un modo per ottenere più X di quanto ne otterreste semplicemente lasciando che gli esseri umani se la passino bene.

Uno dei rari campi della scienza che si occupa regolarmente di potenti ottimizzatori non umani è la biologia evolutiva. All'inizio della sua storia, questo campo ha faticato un po' ad accettare quanto possano essere disumani gli ottimizzatori non umani; possiamo trarre alcune lezioni utili da un caso di studio in questo campo.

Potreste aver sentito parlare dei cicli di boom e crollo tra predatori e prede. Un anno piovoso porta a un boom della popolazione di conigli, che porta a un boom della popolazione di volpi — fino a quando le volpi non predano eccessivamente e la popolazione di conigli crolla, e poi molte volpi muoiono di fame.

All'inizio del XX secolo, i biologi evoluzionisti si interrogavano sul perché le volpi non si fossero evolute per moderare la loro predazione, così da evitare il collasso della popolazione. Dopotutto, la popolazione di volpi nel suo complesso non starebbe meglio se non dovesse affrontare regolarmente carestie e morti di massa?

La risposta a questo enigma è che la moderazione potrebbe essere meglio per la popolazione di volpi nel suo insieme, ma mangiare più conigli e avere più cuccioli è meglio per ogni singola volpe. Anche se la popolazione crolla e la maggior parte dei cuccioli di un individuo muore, quell'individuo tende comunque a trasmettere una percentuale maggiore dei propri geni alla frazione sopravvissuta della generazione successiva.

Le pressioni di selezione genetica sugli individui risultano essere notevolmente superiori alle pressioni di selezione genetica sui gruppi in quasi tutti i casi. E così i geni "avidi" si diffondono e i cicli di boom e crollo continuano.

I biologi evoluzionisti hanno risolto questo enigma teoricamente, ma questo non li ha fermati dal mettere alla prova la loro teoria. Alla fine degli anni '70, Michael J. Wade e i suoi colleghi hanno creatoartificialmentecondizioni in cui le pressioni di selezione di gruppo dominavano le pressioni individuali. Hanno dovuto lavorare con una specie di coleotteri, che hanno generazioni molto più brevi rispetto alle volpi, ma sono riusciti ad allevare coleotteri che hanno mantenuto sotto controllo la crescita della loro popolazione.

Riuscite a indovinare come questi coleotteri sono riusciti a contenere la crescita della loro popolazione? È stato trovando un modo per vivere in perfetta armonia con la natura? È stato imparando ad astenersi dall'accaparrarsi avidamente troppo cibo?

No. C'era una grande variabilità, ma nessuno dei coleotteri si asteneva dal cibo. Alcuni coleotteri diventavano meno bravi a deporre le uova. Alcuni coleotteri passavano più tempo nell'infanzia. E alcuni coleotteri diventavano cannibali con una particolare predilezione per le larve (i piccoli degli insetti).

"Creare cannibali con una predilezione per i neonati" non è, per fortuna, il modo in cui un umano risolverebbe il problema della sovrappopolazione, se dovessimo risolverlo.

Ma la selezione naturale decisamente non è umana. La soluzione era terrificante, perché la natura non stava cercando di trovare risposte accettabili per l'uomo. Stava solo cercando di trovare una risposta.

"Forse l'evoluzione produrrà specie che vivono in perfetta armonia ed equilibrio con la natura." "Forse le IA che si preoccupano solo della semplicità ameranno gli esseri umani e coesisteranno con noi." È facile per noi immaginare soluzioni che lusingano la nostra sensibilità. Ma quelle soluzioni non sono davvero le soluzioni più efficaci per il problema dichiarato.

Sono soluzioni migliori, forse, per un occhio umano. Ma i processi di ottimizzazione non umani non cercano soluzioni che gli esseri umani ritengono valide. Cercano semplicemente ciò che funziona, senza tutto il bagaglio che gli umani si portano dietro per filtrare le risposte più gradevoli.

L'ipotesi che gli ottimizzatori non umani producano risultati umani è stata testata e trovata insufficiente.

Notes