E per quanto riguarda gli altri vari piani per l'allineamento dell'IA? | Prima che sia troppo tardi: perché la superintelligenza artificiale è una minaccia per l’uminità | If Anyone Builds It, Everyone Dies

E per quanto riguarda gli altri vari piani per l'allineamento dell'IA?

Nel libro trattiamo ulteriori proposte di allineamento.

Si vedano anche le discussioni approfondite sull'AI alla ricerca della verità, sull'IA sottomessa e sull'uso delle IA per risolvere l'allineamento dell'IA, che approfondiscono un po' di più queste proposte.

Non ci saranno segnali precoci che i ricercatori potranno usare per individuare i problemi?

›

Non finiremo per cavarcela come al solito?

Il mondo di solito va avanti con tentativi ed errori. In questo caso, gli errori iniziali non lascerebbero sopravvissuti. 1 min di lettura

Vedete l'allineamento come tutto o niente?

No. Ma un è probabile che un "allineamento parziale" sia comunque catastrofico. 5 min di lettura

La situazione non migliorerà una volta che i governi saranno più coinvolti?

Dipende da come (e quanto presto) saranno coinvolti. 2 min di lettura

Le aziende più spericolate non saranno naturalmente le più incompetenti, e quindi innocue?

Le aziende più caute di oggi sono comunque avventate. 3 min di lettura

Non è importante affrettarsi ad andare avanti a causa dell'"eccesso di hardware"?

Sarebbe un suicidio, perché siamo troppo lontani da una soluzione di allineamento. 3 min di lettura

Non è importante affrettarsi ad andare avanti per poter fare ricerca sull'allineamento?

Sconsigliamo vivamente tutto questo paradigma dell'IA. 3 min di lettura

E se le aziende di IA distribuissero le loro IA solo per azioni non pericolose?

Azioni che sembrano benigne possono comunque richiedere capacità pericolose. 9 min di lettura

Perché non leggere semplicemente i pensieri dell'IA?

I suoi pensieri sono difficili da leggere. 5 min di lettura

E se facessimo in modo che le IA discutano tra loro, competano o si controllino a vicenda?

Se le IA diventano abbastanza intelligenti da essere importanti, probabilmente colludono. 3 min di lettura

E per quanto riguarda gli altri vari piani per l'allineamento dell'IA?

Nel libro trattiamo ulteriori proposte di allineamento. 1 min di lettura

Non ci saranno segnali precoci che i ricercatori potranno usare per individuare i problemi?

I segnali di avvertimento non servono a niente se non si sa cosa farci. 8 min di lettura

La tua domanda non ha trovato risposta qui?Invia una domanda.

Discussione approfondita

Ulteriori considerazioni su alcuni dei piani che abbiamo criticato nel libro

Sappiamo riconoscere quando un problema viene trattato con rispetto, e non è questo il caso

Pulsanti di spegnimento e correggibilità