Costruire IA che possono fare cose sufficientemente notevoli tenderà a far sì che le IA desiderino delle cose.

Quando diciamo che un'IA "desidera" qualcosa, non intendiamo che avrà necessariamente desideri o sentimenti simili a quelli umani. Forse li avrà, o forse no. Quello che intendiamo, invece, è che l'IA si comporterà come se desiderasse delle cose. Dirigerà in modo affidabile il mondo verso certi tipi di risultati, prevedendo ostacoli, adattandosi a circostanze mutevoli e rimanendo concentrata, mirata e motivata.

Nel Capitolo 3 di Prima che sia troppo tardi, trattiamo argomenti quali:

• Come potrebbe una macchina acquisire la capacità di "desiderare" le cose, nel senso rilevante?
• Ci sono prove che le IA possano desiderare qualcosa?
• Le IA più avanzate devono necessariamente desiderare qualcosa?

Le domande frequenti qui sotto spiegano perché sembra difficile costruire IA molto potenti e generali che non abbiano obiettivi propri. Nella discussione approfondita, forniamo più dettagli sull'idea che spingere con estrema forza verso un obiettivo sia molto più facile e naturale da specificare rispetto a qualità come la deferenza o la pigrizia.