Preámbulo | Si alguien la crea, todos moriremos | If Anyone Builds It, Everyone Dies

Preámbulo

Los Estados que celebran el presente Tratado, en lo sucesivo denominados «las Partes en el Tratado»,

Alarmados por la perspectiva de que el desarrollo de la superinteligencia artificial conduzca a la extinción humana y al fin de toda empresa humana,

Afirmando la necesidad de una acción internacional urgente, coordinada y sostenida para impedir la creación y el despliegue de la superinteligencia artificial bajo las condiciones actuales,

Convencidos de que las medidas para prevenir el avance de las capacidades de la inteligencia artificial reducirán la probabilidad de extinción humana,

Reconociendo que la estabilidad de este Tratado se basa en la capacidad de verificar el cumplimiento de todas las Partes,

Recordando el precedente de los acuerdos previos de control de armamentos y no proliferación para hacer frente a las amenazas a la seguridad mundial,

Comprometiéndose a cooperar para facilitar la verificación de las actividades de inteligencia artificial a nivel mundial cuando estas se mantengan bien alejadas de la superinteligencia artificial, y buscando preservar el acceso a los beneficios de los sistemas de inteligencia artificial, al tiempo que se evitan los peligros,

Han convenido en lo siguiente:


Precedentes

El preámbulo de este tratado se basa en el del TNP,* que comienza así:

Considerando las devastaciones que una guerra nuclear infligiría a la humanidad entera y la consiguiente necesidad de hacer todo lo posible por evitar el peligro de semejante guerra y de adoptar medidas para salvaguardar la seguridad de los pueblos…

Y añade poco después:

Afirmando el principio de que los beneficios de las aplicaciones pacíficas de la tecnología nuclear, incluidos cualesquiera subproductos tecnológicos que los Estados poseedores de armas nucleares puedan obtener del desarrollo de dispositivos nucleares explosivos, deberán ser asequibles para fines pacíficos a todas las Partes en el Tratado, sean estas Partes Estados poseedores o no poseedores de armas nucleares…

Así, el preámbulo invita al mundo a unirse a las Partes responsables para salvaguardar a la humanidad de la amenaza catastrófica de una tecnología poderosa y a participar de los beneficios que puedan obtenerse de forma segura. Nuestro preámbulo intenta seguir este ejemplo.


* El Tratado de No Proliferación Nuclear (comúnmente conocido como «Tratado de No Proliferación») entró en vigor en 1970 y se prorrogó indefinidamente en 1995. Conocido por su adhesión casi universal (191 partes), su preámbulo subraya el peligro mundial de la proliferación de armas, al tiempo que afirma que los beneficios de las aplicaciones nucleares pacíficas deberían estar a disposición de todas las partes.