1. Por el presente Tratado, las Partes establecen la Agencia Internacional de Superinteligencia (AISI), para aplicar sus disposiciones, incluidas las relativas a la verificación internacional de su cumplimiento, y para que sirva de foro de consulta y cooperación entre ellas.
2. Por el presente Tratado, se establecen los siguientes órganos de la AISI: la Conferencia de las Partes, el Consejo Ejecutivo y la Secretaría Técnica.
3. Conferencia de las Partes
   1. La Conferencia de las Partes se compone de todas las Partes en el Tratado.
   2. La Conferencia de las Partes determinará la política general; aprobará y supervisará el presupuesto; elegirá a los miembros del Consejo Ejecutivo; examinará las cuestiones de cumplimiento comunicadas por el Consejo Ejecutivo; y aprobará y revisará los anexos por recomendación del Consejo Ejecutivo.
   3. Se reunirá en sesión ordinaria al menos una vez al año, o con mayor frecuencia si así lo decide la Conferencia, además de las sesiones extraordinarias que se requieran. Cada Parte dispondrá de un voto. El quórum se constituirá con la mayoría de las Partes.
4. Consejo Ejecutivo
   1. El Consejo Ejecutivo estará compuesto por 15 miembros: (i) cinco puestos designados para los miembros permanentes del Consejo de Seguridad de las Naciones Unidas y (ii) diez puestos elegidos distribuidos mediante representación geográfica equitativa. En el anexo A se desarrollan los detalles.
   2. El mandato de los miembros elegidos será de dos años. Cada año se renovará la mitad de los puestos.
   3. El Consejo Ejecutivo deberá: aprobar las inspecciones por denuncia, recomendar el presupuesto y las políticas a la Conferencia, nombrar al Director General y supervisar la Secretaría Técnica mediante el derecho de veto.
   4. Los procesos para tomar decisiones son los siguientes:
      1. El Consejo Ejecutivo elige al presidente y al vicepresidente.
      2. El presidente o el vicepresidente pueden presidir la sesión.
      3. La votación se efectúa según el principio de «un miembro, un voto».
      4. Las votaciones para aprobar una inspección por denuncia en virtud del artículo X requieren una mayoría de votos.
      5. Las votaciones para vetar los cambios de la Secretaría Técnica a las definiciones o a los protocolos de salvaguardia requieren una mayoría de dos tercios.
      6. Las votaciones para destituir o nombrar a un Director General requieren una mayoría de dos tercios.
      7. Todas las demás decisiones requieren una mayoría de dos tercios.
      8. Para el quórum se requieren dos tercios del Consejo Ejecutivo.
5. Secretaría Técnica y Director General
   1. El Director General de la Secretaría Técnica será su titular y director administrativo.
   2. El Director General será nombrado por el Consejo Ejecutivo por un período de cuatro años, renovable una vez. El Consejo Ejecutivo podrá destituir al Director General.
   3. La Secretaría Técnica contará en su inicio con divisiones técnicas de Seguimiento y Salvaguardias de Fabricación de Chips, Salvaguardias de Verificación del Uso de Chips, Controles de la Investigación, Consolidación de la Información, Revisiones Técnicas, Administración y Finanzas, y Asuntos Jurídicos y de Cumplimiento. El Director General podrá crear y disolver divisiones técnicas.
   4. La Secretaría Técnica, por conducto del Director General, podrá proponer cambios a las definiciones técnicas y los protocolos de salvaguardia, según sea necesario para aplicar los artículos IV, V, VI, VII, VIII, IX y X del presente Tratado.
      1. Los cambios urgentes en los umbrales de FLOP (artículo IV), el tamaño de los clústeres de chips contemplados (artículo V) y los límites de la investigación restringida (artículo VIII) podrán ser aplicados inmediatamente por el Director General en caso de que la inacción suponga un riesgo para la seguridad. Dichos cambios permanecerán en vigor durante treinta días. Transcurrido ese plazo, los cambios deberán ser aprobados por el Consejo Ejecutivo para seguir en vigor.
      2. El Consejo Ejecutivo tomará las decisiones sobre cuestiones de fondo, en la medida de lo posible, por consenso; el Director General se esforzará por que se alcance tal consenso. Si no es posible llegar a un consenso en un plazo de 24 horas, se procederá a una votación, y el Consejo Ejecutivo aceptará los cambios si los aprueba la mayoría de los miembros presentes y votantes; de lo contrario, los rechazará.
6. El presupuesto ordinario de la AISI se financia con las aportaciones asignadas a las Partes, utilizando una escala derivada de la escala de cuotas de las Naciones Unidas, sujeta a un mínimo y un máximo establecidos por el Consejo Ejecutivo. Los Estados miembros también tienen la opción de realizar aportaciones voluntarias para la investigación sobre seguridad de la IA en materia de alineación, interpretabilidad y actividades de creación de capacidad de los Estados miembros, incluyendo los usos beneficiosos de una IA segura, el desarrollo de bancos de pruebas, buenas prácticas, el intercambio de información y la facilitación de la cooperación y las actividades conjuntas, siguiendo libremente el modelo de la Red Internacional de Centros de Capacitación y Apoyo en materia de Seguridad Física Nuclear del OIEA.

Notas

Al igual que en otros organismos internacionales, la AISI estaría integrada por diplomáticos y expertos técnicos de los países signatarios. El punto principal del texto anterior es que se otorga a la AISI la autoridad para aplicar la mayor parte de lo que exige el tratado y actualizar algunos aspectos del mismo a lo largo del tiempo. Este enfoque da prioridad a la prevención de la creación de superinteligencia y al mantenimiento de la vigencia del tratado hasta que el mundo esté preparado para seguir adelante. Como tal, este borrador otorgaría a esta organización multinacional la autoridad para llevar a cabo gran parte de lo que se requiere. La AISI centraliza la aplicación de varias funciones clave del tratado, incluyendo el mantenimiento de los límites precisos de la investigación, el desarrollo y el despliegue permitidos de la IA, al ser el verificador principal del cumplimiento del tratado, y la consolidación de la información confidencial de inteligencia de los signatarios. Es fundamental que el funcionamiento cooperativo de la AISI genere la confianza necesaria entre las partes signatarias a lo largo del tiempo.

Dicho esto, este tipo de enfoque conlleva ciertas disyuntivas. La primera es que una mayor centralización requiere más confianza por parte de las naciones signatarias. Los posibles signatarios del tratado podrían no considerar políticamente viable asignar este nivel de autoridad a una organización internacional, o podrían no confiar en que la organización vaya a funcionar con suficiente independencia de la influencia de sus miembros más poderosos.

Un acuerdo alternativo podría centralizar solo aquellas pocas funciones que deban ser centralizadas (como mantener y aclarar los límites a la investigación, el desarrollo y el despliegue de la IA), permitiendo a la vez que cada signatario verifique individualmente el cumplimiento a su entera satisfacción.

Otra disyuntiva surge en cuanto a qué tan inclusivo deba ser dicho tratado. Nuestro texto de ejemplo crearía una organización multilateral en la que se invitaría a todos los Estados a firmar el tratado y a participar en su ejecución. Una alternativa a esto sería un tratado centrado, por ejemplo, solo en China y Estados Unidos. La idea detrás de esto sería construir un régimen de verificación bilateral limitado que satisfaga las necesidades de cada parte, sacrificando la menor cantidad posible de autonomía y transparencia. A cada parte se le asignaría entonces el objetivo separado y posterior de incorporar a otros Estados.

Dado que el objetivo de este tratado es demostrar cómo podrían ser los controles internacionales si los líderes mundiales se dieran cuenta de los graves peligros, ilustramos una estructura multilateral en la que todas las partes tendrían algo que ganar al adherirse al tratado.

Como tal, la estructura propuesta del Consejo Ejecutivo de la AISI incluye a todos los miembros permanentes del Consejo de Seguridad de las Naciones Unidas y toma como modelo la composición del OIEA.

Dada la posición de TSMC como fabricante líder de chips de IA, cualquier tratado sobre IA debe tener en cuenta cómo abordar la cuestión de Taiwán. Hemos optado por utilizar el precedente del TNP con respecto a dicho país. Lo ideal sería que Taiwán implementara acuerdos y/o declaraciones formales que establecieran que se considera vinculado por los principios de este tratado, lo cual significaría su adhesión de facto al mismo. Más importante aún, Taiwán aceptaría un acuerdo que permitiera inspecciones rutinarias y/o por denuncia in situ para garantizar que cumple los principios del tratado.

Todavía no está del todo claro cómo deberían tomar las decisiones el Consejo Ejecutivo y la AISI, ni qué potestades se delegan a los diferentes órganos. En este artículo se presenta una propuesta de estructura que otorga un poder considerable a la Secretaría Técnica, al tiempo que asigna al Consejo Ejecutivo la facultad de supervisión.

Una de las ventajas de este diseño es que permite al órgano técnico tomar decisiones con rapidez y le otorga un amplio mandato para cumplir su misión, aunque cualquier cambio requiere la aprobación de una mayoría simple de los miembros del Consejo Ejecutivo en un plazo de 30 días para que siga vigente. Si bien los líderes mundiales pueden mostrarse reacios a delegar tanto poder en expertos técnicos, es probable que estos tampoco confíen en que los actores geopolíticos resuelvan las espinosas cuestiones técnicas que surgirán al aplicar este tratado y se adapten suficientemente para responder a un panorama técnico cambiante. Este artículo presenta solo una propuesta sobre cómo equilibrar el poder de decisión entre estos grupos, pero hay muchos otros enfoques posibles.

Otro enfoque de este tipo sería desglosar aún más las responsabilidades, las definiciones y los tipos de salvaguardias aplicadas por la AISI (por ejemplo, los umbrales de FLOP de entrenamiento, la definición de CCC, la definición de chip de IA, si una instalación concreta debe considerarse una instalación de producción de chips, los protocolos de verificación del uso de chips, la definición de investigación restringida, etc.) y establecer diferentes procedimientos de votación para estos cambios, en función de su impacto.

Precedentes

La estructura de gobierno tripartita de la Agencia Internacional de Superinteligencia (AISI) propuesta en nuestro proyecto de tratado sigue el modelo de la Organización para la Prohibición de las Armas Químicas (OPAQ),^* el organismo encargado de aplicar la Convención sobre las Armas Químicas (CAQ). Los nombres de estos órganos también se toman de la OPAQ (es posible que un tratado real prefiera otras estructuras y nombres que cumplan las mismas funciones; más adelante ofrecemos precedentes de algunas disposiciones menos centralizadas).

El Consejo Ejecutivo, establecido en virtud de los apartados (a) y (d) de nuestro párrafo 4, emula a la Junta de Gobernadores del TNP. La designación de cinco de los quince puestos del Consejo para los miembros permanentes del Consejo de Seguridad de las Naciones Unidas refleja que los cinco Estados poseedores de armas nucleares originales del TNP coincidían con los cinco miembros permanentes del Consejo de Seguridad de la ONU; sin su participación como socios centrales, es probable que el TNP hubiera fracasado desde el principio.

Nuestra disposición de «diez puestos elegidos distribuidos mediante representación geográfica equitativa» también se hace eco del TNP, que estipula que entre sus gobernadores salientes se incluya «al miembro más avanzado en la tecnología de la energía atómica, incluida la producción de materiales básicos, en cada una de» las ocho regiones especificadas.

Taiwán complica nuestro concepto de tratado, dada su delicada situación geopolítica y su condición de productor de la mayoría de los chips de IA del mundo. Afortunadamente, los precedentes nos sirven de guía: aunque Taiwán no es parte del TNP, ha declarado en múltiples ocasiones que se considera vinculado por los principios del TNP. Taiwán permite al OIEA realizar inspecciones y aplicar salvaguardias a sus instalaciones nucleares mediante un acuerdo trilateral con Estados Unidos y el OIEA. Se podría llegar a un acuerdo similar con respecto a nuestro proyecto de tratado.

Los procesos de toma de decisiones del Consejo Ejecutivo de nuestro proyecto de tratado se han modelado a partir del Reglamento y Procedimientos de la Junta de Gobernadores que utiliza el Organismo Internacional de Energía Atómica (OIEA), la principal organización para la gobernanza internacional de la tecnología nuclear.^† Asimismo, los procedimientos de votación siguen el Estatuto del OIEA.

En otros tratados sobre armas nucleares pueden encontrarse precedentes de mecanismos de aplicación menos centralizados (aunque potencialmente eficaces). El Tratado sobre Fuerzas Nucleares de Rango Intermedio (INF) y los Tratados de Reducción de Armas Estratégicas (START I, START II y Nuevo START) responsabilizan a las partes individuales de la aplicación y verificación; cada una se compromete a seguir procedimientos que permitan a la otra obtener garantías razonables de cumplimiento.

Las «inspecciones por denuncia» del párrafo 4(c) se basan en el mecanismo de la Parte X de la CAQ; desarrollaremos este precedente con más detalle en el artículo X.