1. Cada una de las Partes deberá crear o facultar a un organismo nacional con las siguientes responsabilidades:
   1. Mantenerse al corriente y en contacto con los investigadores y las organizaciones nacionales que trabajan en áreas adyacentes a la Investigación Restringida, con el fin de comunicarles las categorías de Investigación Restringida establecidas en el artículo VIII.
   2. Imponer sanciones para disuadir a los investigadores y organizaciones nacionales de llevar a cabo Investigaciones Restringidas. Estas sanciones serán proporcionales a la gravedad de la infracción y deberán diseñarse para que constituyan un disuasivo suficiente. Cada una de las Partes promulgará o modificará las disposiciones legales necesarias para permitir la imposición de dichas sanciones.
   3. Establecer una infraestructura segura para la notificación y contención de descubrimientos accidentales que cumplan las condiciones de la Investigación Restringida. Estos informes se compartirán con la división de Controles de la Investigación.
2. Para contribuir a la verificación internacional de las prohibiciones de investigación, la división de Controles de la Investigación desarrollará e implementará mecanismos de verificación.
   1. Estos mecanismos podrán incluir, de manera enunciativa mas no limitativa:
      1. Entrevistas realizadas por la AISI a investigadores que hayan trabajado previamente en temas de Investigación Restringida o que trabajen actualmente en áreas adyacentes.
      2. Seguimiento de la situación laboral y el paradero de los investigadores que hayan trabajado anteriormente en temas de Investigación Restringida o que actualmente trabajen en áreas adyacentes.
      3. Mantener auditores integrados de la AISI en determinadas organizaciones de alto riesgo (por ejemplo, proyectos difíciles de distinguir de la Investigación Restringida, antiguas organizaciones de investigación en IA).
   2. Las Partes contribuirán a la implementación de estos mecanismos de verificación.
   3. La información obtenida a través de estos mecanismos de verificación se recopilará en informes para el Consejo Ejecutivo, manteniendo la confidencialidad de la información sensible en la mayor medida posible para proteger la privacidad y los secretos de las personas físicas y de las Partes.

Notas

Además de la restricción establecida en el artículo VIII, los países verificarán que no se estén llevando a cabo investigaciones prohibidas en materia de IA. Un aspecto clave de este enfoque es establecer «áreas adyacentes a la Investigación Restringida» y, a continuación, establecer relaciones con los investigadores que trabajan en estas áreas adyacentes. Hay tan pocos investigadores de primer nivel en IA en el mundo que podría ser factible dar seguimiento a las actividades de una parte significativa de ellos. Si solo se cuenta al personal técnico de las principales empresas de inteligencia artificial, se obtendría un total de 5000 investigadores, y si se cuenta el número de asistentes a las principales conferencias sobre IA, se obtendría un total de 70 000. Se cree comúnmente que un grupo mucho más reducido es fundamental para el desarrollo de la IA de vanguardia, probablemente de unos cientos de personas.^* Los Estados también podrían entrevistar a los investigadores sobre sus actividades y ofrecer asilo e incentivos económicos a los denunciantes (véase el artículo X).

Aunque ya hay muchos conocimientos técnicos de dominio público sobre las prácticas actuales de desarrollo de IA que un actor malintencionado podría aprovechar, creemos que las restricciones legales y la verificación tendrían efectos drásticos en el progreso general de este campo.

Si la vigilancia se ampliara a los investigadores e ingenieros que participan en el diseño y la fabricación de semiconductores, el alcance de la vigilancia necesaria aumentaría considerablemente. Si esto no fuera viable, tal vez los Estados podrían vigilar a las empresas en lugar de a las personas, aprovechando la complejidad y el alcance de la fabricación de semiconductores avanzados.

El párrafo 2 de este artículo establece un régimen de mayor transparencia que ayuda a verificar la prohibición de la investigación. Estas medidas de cooperación tienen por objeto proporcionar a las partes la seguridad que necesitan. Prevemos que las partes trabajarán para encontrar un nivel de transparencia, mediante el desarrollo de mecanismos específicos, que genere confianza en la prohibición de la investigación y, al mismo tiempo, minimice los costos para los intereses estatales y la privacidad personal. Verificar el cumplimiento de esta prohibición es una tarea compleja y delicada que requerirá un esfuerzo y una adaptación continuos. A las partes podría preocuparles la posibilidad de que otras partes promulguen prohibiciones de investigación a nivel nacional para luego incumplirlas con iniciativas gubernamentales secretas ocultas a los servicios de inteligencia extranjeros. Las investigaciones que infringirían las prohibiciones son de diversa envergadura, y es probable que las iniciativas a gran escala —en las que participan muchos investigadores y chips relacionados con la IA— sean fácilmente detectables por actores estatales decididos. Sin embargo, las iniciativas más modestas, como el desarrollo de paradigmas alternativos de inteligencia artificial, podrían implicar solo a unos pocos investigadores y hardware de uso común. Será difícil garantizar a las demás partes que dichas iniciativas no se están ocultando. La combinación de la recopilación de información (artículo X) y los mecanismos de verificación de la AISI podría ser suficiente. También señalamos la importancia de proteger a los denunciantes (artículo X).

Precedentes

Entre las agencias existentes facultadas para «mantenerse al corriente y en contacto con los investigadores y las organizaciones nacionales» que podrían llegar a desarrollar información restringida, como se establece en nuestro artículo IX (1.a.), se encuentran el Departamento de Estado y la NNSA, que se analizan en los precedentes del artículo VIII.

Un precedente del «seguimiento de la situación laboral y el paradero de los investigadores» en campos de alto riesgo, como sugerimos en el párrafo 2.(a).(ii), se encuentra en el Centro Internacional de Ciencia y Tecnología (ISTC).^† Establecido en 1994, el ISTC se creó específicamente para reducir los riesgos de proliferación nuclear, manteniendo a los investigadores nucleares soviéticos con un empleo remunerado en actividades pacíficas y conectados con la comunidad científica internacional. El ISTC también muestra el potencial de los incentivos como complemento de las sanciones para evitar que los expertos técnicos (que pueden quedar desempleados como consecuencia de este tratado) se dediquen a la investigación restringida.

En la medida en que las sanciones deban ser severas para proporcionar la disuasión indicada en nuestro artículo IX.1.(b), se puede encontrar un modelo en el capítulo sobre aplicación (18) de la Ley de Energía Atómica de 1946, en virtud del cual el intercambio no autorizado de datos restringidos puede castigarse con pena de muerte o prisión si las revelaciones se realizan con intención de traición.^‡

A la hora de desarrollar para la AISI una infraestructura segura para la «notificación y contención de descubrimientos accidentales que cumplan las condiciones de la Investigación Restringida», se pueden encontrar precedentes y modelos que podrían utilizarse en los extensos procedimientos del Departamento de Estado para el manejo de diferentes categorías de datos sensibles. El Sistema de notificación y procesamiento de incidentes del Departamento de Estado, así como las instrucciones del Comité de Sistemas de Seguridad Nacional para la filtración de información clasificada^§, también pueden ser de utilidad.

La división de Controles de la Investigación de nuestro tratado podría tener en cuenta las prácticas existentes del OIEA al elaborar protocolos de inspección. En el marco del Protocolo Adicional Modelo aprobado en 1997 por la Junta de Gobernadores del OIEA, los Estados que han suscrito acuerdos de salvaguardias amplias^¶ permiten inspecciones de acceso complementario para buscar material nuclear no declarado. Como parte de esas visitas, los inspectores pueden entrevistar a los operadores, de forma análoga a nuestra propuesta del párrafo IX.2.a.i.

También proponemos «mantener auditores integrados de la AISI en determinadas organizaciones de alto riesgo», de forma muy similar a como las oficinas locales del Departamento de Estado y la NNSA se encuentran hoy físicamente en laboratorios nucleares nacionales y plantas de producción gestionados por contratistas.

Para «proteger la privacidad y los secretos de las personas físicas y de las Partes» al realizar verificaciones, como exige el párrafo 2(c) de este artículo, la división de Controles de la Investigación de la AISI podría adaptar las prácticas de compartimentación de las agencias de inteligencia de las partes y los acuerdos multilaterales de intercambio de inteligencia. Por ejemplo, en virtud de la «regla de terceros» o el «principio de control del originador», práctica que se considera habitual en tales acuerdos, se prohíbe revelar información compartida a terceros (potencialmente incluso a organismos de supervisión) sin el permiso de la agencia de origen.