1. Con el fin de impedir investigaciones específicas que amplíen la frontera de las capacidades de la IA o socaven la capacidad de las Partes para aplicar las medidas del presente Tratado, este Tratado designa como Investigación Restringida aquella que cumpla cualquiera de las condiciones siguientes:
   1. Mejoras en los métodos utilizados para crear modelos de vanguardia, según se definen en el artículo II, que mejorarían las capacidades de los modelos o la eficiencia del desarrollo, la implementación o el uso de la IA.
   2. Métodos de entrenamiento distribuidos o descentralizados, o métodos de entrenamiento optimizados para su uso en hardware de consumo o de uso común.
   3. Investigación sobre paradigmas de inteligencia artificial de la computación más allá del aprendizaje automático.
   4. Avances en la fabricación de chips o sus componentes relevantes para la IA.
   5. Diseño de chips de IA con mayor rendimiento o más eficientes.
2. La división de Controles de la Investigación de la AISI clasificará todas las actividades de Investigación Restringida como Controladas o Prohibidas.
   1. Cada una de las Partes deberá supervisar toda actividad de Investigación Controlada dentro de su jurisdicción, y tomará medidas para garantizar que dicha investigación sea supervisada y puesta a disposición de la división de Controles de la Investigación con fines de revisión y supervisión.
   2. Cada una de las Partes se abstendrá de realizar Investigaciones Prohibidas y prohibirá e impedirá que cualquier entidad dentro de su jurisdicción realice dichas investigaciones.
3. Ninguna de las Partes asistirá, fomentará ni compartirá Investigaciones Prohibidas. Esta prohibición incluye el financiamiento, la adquisición, el alojamiento, la supervisión, la enseñanza, la publicación, el suministro de herramientas o chips controlados y la facilitación de la colaboración.
4. Cada una de las Partes designará a un representante ante la división de Controles de la Investigación de la AISI, dependiente de la Secretaría Técnica (establecida en el artículo III). A esta división le corresponderán las siguientes responsabilidades:
   1. Interpretar y aclarar las categorías de Investigación Restringida, así como responder a preguntas sobre sus límites, en respuesta a nueva información y a solicitudes de investigadores, organizaciones o miembros de las Partes.
   2. Interpretar y aclarar los límites entre la Investigación Controlada y la Investigación Prohibida, y responder a preguntas sobre estos límites, en respuesta a nueva información y a solicitudes de investigadores, organizaciones o miembros de las Partes.
   3. Modificar la definición de Investigación Restringida y sus categorías, en respuesta a condiciones cambiantes o a solicitudes de investigadores, organizaciones o miembros de las Partes.
   4. Modificar los límites entre la Investigación Controlada y la Investigación Prohibida en respuesta a cambios en las condiciones o a solicitudes de investigadores, organizaciones o miembros de las Partes.
   5. El Consejo Ejecutivo podrá vetar cualquier cambio a la Investigación Restringida o a sus categorías y clasificaciones por mayoría de dos tercios, tal y como se describe en el artículo III.

Notas

Prohibir diversas categorías amplias de investigación, cuando los conocimientos técnicos pertinentes ya se distribuyen en el sector privado, va a ser difícil. En nuestra propuesta, la investigación se restringe si desarrolla las capacidades o el rendimiento de la IA, o si pone en peligro el sistema de verificación establecido en los artículos anteriores.

Algunas investigaciones deben prohibirse para evitar que avancen las capacidades de la IA, incluso cuando se mantenga constante la cantidad de FLOP de entrenamiento utilizada. Esta prohibición debería abarcar toda investigación que pueda hacer más eficiente el entrenamiento de las IA o que pueda aumentar sus capacidades. Esto se conoce como «progreso algorítmico». En los paradigmas actuales, incluye los avances en los algoritmos utilizados en el preentrenamiento, el posentrenamiento y durante la inferencia. A medida que cambian los paradigmas, estas distinciones pueden volverse menos claras y pueden surgir nuevas categorías. Por esta razón, el tratado hace referencia al «desarrollo, despliegue o uso».

Las mejoras algorítmicas anteriores, como el transformador, demuestran el potencial de avances extraordinarios y rápidos en la vanguardia de las capacidades de la IA: los nuevos algoritmos pueden transformar el modo en que funciona la IA. Además, nuevos paradigmas podrían reducir drásticamente la cantidad de recursos computacionales necesarios para un nivel determinado de capacidad de IA. Por ejemplo, las IA modernas son mucho menos eficientes en el uso de datos que los seres humanos, lo que sugiere que existen algoritmos mucho más eficientes en el uso de datos esperando a ser descubiertos.

Deben prohibirse otras investigaciones para evitar que se reduzcan los requisitos computacionales para entrenar IA peligrosas hasta el punto de que puedan entrenarse con un pequeño número de chips de IA (o muchos chips distribuidos en pequeños clústeres en numerosas ubicaciones), lo que dificultaría las labores de supervisión.

Además, esta prohibición de la investigación debe impedir que se investiguen nuevas formas de fabricar chips de IA no rastreables, ya que el régimen de supervisión es viable en gran parte debido a la complejidad y centralización actuales de la fabricación de semiconductores avanzados relevantes para la IA.

Este artículo también prohíbe la investigación sobre el diseño de chips de IA de mayor rendimiento o más eficientes, que de otro modo se volverían sustancialmente más eficientes año tras año. Un centro de datos que utilice chips de IA más eficientes sería más fácil de ocultar, ya que estos chips consumirían menos electricidad para un rendimiento igual o superior.

Los tipos específicos de investigación que están restringidos deberán actualizarse con el tiempo. Un ejemplo de una actividad que la AISI podría querer restringir más adelante es la investigación sobre hardware de poder de cómputo mejorado que no sea de IA, si tal avance supusiera un riesgo para la verificación.

Los esfuerzos nacionales para restringir la investigación podrían comenzar centrándose en la publicación y el financiamiento de la investigación. Es probable que un cambio en las leyes y las normas sociales contribuya en gran medida a que la mayoría de los investigadores dejen de realizar investigaciones peligrosas. La diversidad de acciones restringidas en el párrafo 3 aborda la necesidad de garantizar que, si las actividades de investigación se dividen entre múltiples jurisdicciones, el tratado siga responsabilizando de forma inequívoca a cada Estado de prohibir y prevenir las actividades individuales. Esto se aplica, por ejemplo, en el caso de que una empresa de una jurisdicción contrate a un empleado en una segunda que opere de forma remota chips alojados en una tercera.

Precedentes

Las restricciones preventivas a la difusión de información relacionada con tecnologías peligrosas tienen su precedente en la Ley de Energía Atómica de 1946 de EE. UU., aún vigente, la cual establecía que la información sobre determinados temas se consideraba, por defecto, Datos Restringidos (la doctrina del «secreto innato»); las exclusiones quedaban a discreción de la nueva Comisión de Energía Atómica, creada en virtud de dicha legislación:^*

El término «datos restringidos», en el sentido en que se utiliza en esta sección, se refiere a todos los datos concernientes a la fabricación o utilización de armas atómicas, la producción de material fisionable, o el uso de dicho material para la producción de energía, pero no incluirá los datos que la Comisión determine, cuando lo estime oportuno, que pueden publicarse sin que ello afecte negativamente a la defensa y la seguridad comunes.

A diferencia de otros tipos de clasificación gubernamental, los Datos Restringidos pueden ser creados (deliberada o accidentalmente) por el sector privado, una cuestión de constitucionalidad sin resolver^† que subraya la necesidad de un brazo regulador autorizado y capaz de tomar decisiones cotidianas sobre los límites exactos de los Datos Restringidos. La Administración Nacional de Seguridad Nuclear de EE. UU. (NNSA) hace esto con los secretos nucleares en dicho país. En virtud de nuestro artículo VIII, párrafo 5, la división de Controles de la Investigación de la nueva AISI asumiría esta función para la investigación de IA restringida. También desempeñaría otras funciones análogas a las de la NNSA, descritas en nuestro artículo IX, al: (1) mantener relaciones con investigadores y organizaciones que trabajan en proyectos que se acercan al umbral de clasificación, y (2) establecer una infraestructura segura para la notificación y contención de descubrimientos accidentales.

También hay precedentes de contención y control de la investigación en campos peligrosos. En los últimos meses de la Segunda Guerra Mundial, el Reino Unido y Estados Unidos colaboraron en la Misión Alsos para capturar a científicos nucleares alemanes, recopilar información sobre los avances de Alemania hacia la bomba atómica e impedir que la URSS obtuviera estos recursos para su propio programa nuclear. El Proyecto Overcast (también llamado Operación Paperclip) fue un programa secreto estadounidense para emplear a ingenieros de cohetes alemanes después de la guerra.

La contención de la investigación restringida en materia de IA dentro de los Estados parte podría canalizarse a través de los marcos normativos existentes. En Estados Unidos, estos incluyen:

• El concepto de «[exportaciones consideradas] (https://www.bis.gov/learn-support/deemed-exports/what-deemed-export)» en la legislación sobre control de las exportaciones, que obliga a las entidades estadounidenses a obtener una licencia de exportación de la Oficina de Industria y Seguridad^‡ antes de compartir tecnologías controladas con personas extranjeras, pues dicho intercambio se considera una exportación.
• El Reglamento sobre el Tráfico Internacional de Armas (ITAR), un conjunto de normativas del Departamento de Estado de EE. UU. que controlan la exportación de tecnologías militares y algunas de doble uso. El ITAR se utilizó para impedir un mayor desarrollo y uso de técnicas criptográficas por parte del sector privado hasta 1996, ya que estaban clasificadas como «artículo de defensa» en la Lista de Municiones de Estados Unidos.
• La Ley de Secreto de Invenciones de 1951, que faculta a las agencias gubernamentales de EE. UU. a imponer «órdenes de secreto» a las nuevas solicitudes de patentes con implicaciones para la seguridad nacional. A los inventores no solo se les pueden denegar las patentes, sino que se les puede prohibir legalmente divulgar, publicar o incluso utilizar sus invenciones.^§

El Proyecto Overcast también sienta un precedente para controlar a los investigadores simplemente pagándoles bien para que actúen en interés del Estado. En el artículo IX se analizan precedentes adicionales para este tipo de incentivos.