Molte persone, compresi i membri della Camera dei Rappresentanti e del Senato degli Stati Uniti, ci hanno chiesto quali proposte legislative concrete e specifiche potrebbero effettivamente aiutare a risolvere questo problema.

Non siamo esperti di politiche pubbliche e vediamo molte possibili risposte a questa domanda, a seconda che si cerchi una legislazione più facile da approvare oggi ma meno direttamente utile (che funga più da trampolino di lancio per una legislazione più ambiziosa) o proposte che sembrano più difficili da approvare ma che affronterebbero in modo sostanziale le questioni fondamentali.

Abbiamo molto più da dire sulle seconde che sulle prime. A tal fine, il team di governance tecnica del MIRI ha elaborato una bozza preliminare di una di queste proposte.

Questa bozza di trattato è pensata per un mondo in cui i leader mondiali abbiano preso coscienza della realtà di un'IA più intelligente dell'uomo. Non è il genere di cosa che prevediamo possa essere approvata domani (nel momento in cui scriviamo), ma potrebbe non essere così difficile far ratificare un trattato simile una volta che il mondo sarà più consapevole del pericolo — un processo che è già iniziato e che speriamo possa continuare.

La bozza del trattato è disponibile qui, con molte annotazioni. Il processo di stesura ha attinto ampiamente dai precedenti storici di altri trattati, riportati a margine della bozza. Sottolineiamo ancora una volta che questo è un punto di partenza, non un punto di arrivo. Non siamo esperti di politiche pubbliche e potremmo aver commesso alcuni errori ingenui. Tuttavia, speriamo che questa bozza possa servire da ispirazione e da esempio di come un trattato di questo tipo sarebbe possibile e in linea con analoghe iniziative legislative del passato.