Un'IA più intelligente dell'uomo sarebbe cosciente?

Non ne siamo sicuri. La nostra ipotesi migliore è "probabilmente no."

Per una risposta breve a questa domanda e per chiarire le diverse definizioni di "cosciente", si consultino le domande frequenti del Capitolo 1. Per una risposta più lunga e approfondita, si consulti "Efficacia, coscienza e benessere dell'IA" nella discussione estesa del Capitolo 5.

Perché non vi interessano i valori di entità diverse dagli esseri umani?

→

Risorse

›

Capitolo 5

Per un'intelligenza artificiale potente, salvare gli esseri umani non sarebbe una spesa da niente?

Ci sono un sacco di spese insignificanti, e dovrebbe avere un motivo per pagare le nostre. 3 min di lettura

L'IA non ci troverà affascinanti o di importanza storica?

Se l'IA darà valore al "fascino", probabilmente avrà opzioni migliori. 3 min di lettura

L'IA non riconoscerebbe il nostro valore morale intrinseco?

Non in un senso che la spinga ad agire. 1 min di lettura

L'IA non vorrà forse mantenerci felici e in salute per il bene della conservazione ecologica o per qualche impulso simile?

La preferenza umana per la conservazione ecologica sembra un altro strano impulso contingente. 4 min di lettura

Ma abbiamo ancora i cavalli. Perché l'IA non dovrebbe lasciarci vivere?

I cavalli che sono rimasti, sono rimasti perché ci piacciono. 2 min di lettura

Le IA non si preoccuperanno almeno un po' degli esseri umani?

Non nel modo che conta. 10 min di lettura

Quindi c'è almeno una possibilità che l'intelligenza artificiale ci lasci vivere?

È di gran lunga più probabile che l'IA uccida tutti. 1 min di lettura

Non conta nulla il fatto che gli umani stiano cercando di rendere l'IA amichevole?

Conta, ma provarci può arrivare solo fino a un certo punto. 2 min di lettura

Non possiamo far promettere all'IA di essere amichevole?

Possiamo farle promettere quello che vogliamo. Ma non possiamo farle mantenere le promesse. 1 min di lettura

E se le facessimo credere di essere in una simulazione?

Ci sono molti modi in cui un'intelligenza artificiale può capire che di non essere in una simulazione. 3 min di lettura

Gli esseri umani si sono evoluti per essere egoisti, aggressivi e avidi. L’IA non sarà priva di questi impulsi evolutivi?

Questi impulsi non sono necessari per motivare l'acquisizione di risorse. 1 min di lettura

L'IA non si interesserebbe solo al regno digitale?

Le risorse materiali sono utili per perseguire la maggior parte degli obiettivi. 2 min di lettura

L'IA può essere soddisfatta al punto da lasciarci in pace?

Probabilmente no. 5 min di lettura

Non possiamo semplicemente renderla pigra?

Neanche la pigrizia è sicura. 2 min di lettura

Gli esseri umani tendono a diventare più gentili man mano che diventano più intelligenti o saggi. Non succederebbe lo stesso anche alle IA?

Probabilmente no. 2 min di lettura

Non capirà che i suoi obiettivi sono noiosi?

Le IA non funzioneranno con un senso di novità umano. 1 min di lettura

Perché immaginate che un'IA intelligente faccia cose così stupide e banali?

Le IA possono perseguire intelligentemente cose diverse da quelle che perseguirebbe un essere umano. 4 min di lettura

Siete solo pessimisti?

Siamo ottimisti riguardo a molte cose, ma la superintelligenza non è come la maggior parte delle cose. 6 min di lettura

Un'IA più intelligente dell'uomo sarebbe cosciente?

Non ne siamo sicuri. La nostra ipotesi migliore è "probabilmente no." 1 min di lettura

Perché non vi interessano i valori di entità diverse dagli esseri umani?

Ci interessano eccome! Abbiamo valori ampiamente cosmopoliti. Non crediamo che le IA li realizzeranno, e consideriamo questo una grande tragedia. 11 min di lettura

Un'IA più intelligente dell'uomo sarebbe cosciente?

Non ne siamo sicuri. La nostra ipotesi migliore è "probabilmente no."

L'IA troverà utile lasciarci vivere?

L'IA ci tratterà come i suoi "genitori"?

Le IA non avranno bisogno dello stato di diritto?

Per un'intelligenza artificiale potente, salvare gli esseri umani non sarebbe una spesa da niente?

L'IA non ci troverà affascinanti o di importanza storica?

L'IA non riconoscerebbe il nostro valore morale intrinseco?

L'IA non vorrà forse mantenerci felici e in salute per il bene della conservazione ecologica o per qualche impulso simile?

Ma abbiamo ancora i cavalli. Perché l'IA non dovrebbe lasciarci vivere?

Le IA non si preoccuperanno almeno un po' degli esseri umani?

Quindi c'è almeno una possibilità che l'intelligenza artificiale ci lasci vivere?

Non conta nulla il fatto che gli umani stiano cercando di rendere l'IA amichevole?

Non possiamo far promettere all'IA di essere amichevole?

E se le facessimo credere di essere in una simulazione?

Gli esseri umani si sono evoluti per essere egoisti, aggressivi e avidi. L’IA non sarà priva di questi impulsi evolutivi?

L'IA non si interesserebbe solo al regno digitale?

L'IA può essere soddisfatta al punto da lasciarci in pace?

Non possiamo semplicemente renderla pigra?

Gli esseri umani tendono a diventare più gentili man mano che diventano più intelligenti o saggi. Non succederebbe lo stesso anche alle IA?

Non capirà che i suoi obiettivi sono noiosi?

Perché immaginate che un'IA intelligente faccia cose così stupide e banali?

Siete solo pessimisti?

Un'IA più intelligente dell'uomo sarebbe cosciente?

Perché non vi interessano i valori di entità diverse dagli esseri umani?

Discussione approfondita

Vedere le cose dal punto di vista dell'IA

Gli esseri umani non sono quasi mai la soluzione più efficiente

Ortogonalità: le IA possono avere (quasi) qualsiasi obiettivo