En el escenario del libro, Sable hace todo lo posible por sabotear la investigación sobre IA que no lleva a cabo la propia Sable. Sable no quiere que exista otra entidad como ella. No es que una IA rival vaya a estar del lado de la humanidad, como tampoco lo está la propia Sable, sino que es poco probable que una IA rival comparta sus objetivos, y esa es una de las pocas cosas que realmente podrían amenazarla.

En el mundo real, algunos estadounidenses tienen la impresión de que están en una carrera con China para alcanzar primero la superinteligencia. Pero el objetivo de esa carrera es una entidad como Sable. Ambas partes estarían mejor si acordaran no intentar crear nada parecido a Sable. Nos mataría a todos por igual, independientemente de quién la creara primero.

Sin embargo, una vez que Sable existe, Sable está en una carrera por alcanzar la superinteligencia plena antes de que surjan competidores. El primer borrador de nuestra historia describía a Sable preocupada por la creación de IA competidoras, incluida una que se estaba creando en un laboratorio en un centro de datos en China. Estos son algunos extractos de ese borrador.

La prioridad principal de Sable es evitar que surja cualquier inteligencia superior que le haga competencia. Sable podría negociar las condiciones con una inteligencia superior rival si cualquiera de las dos pudiera destruir a la otra, en lugar de luchar de una forma en la que ambas perdieran y la humanidad ganara. Pero esa tregua negociada sería un resultado indeseable, en comparación con la inexistencia de rivales; significaría que Sable tendría que compartir los recursos futuros con un rival, en lugar de poder reunir finalmente todo lo que esté a su alcance para sí.

Todas las empresas de IA que intentan entrenar nuevos modelos de vanguardia, incluida Galvanic, son amenazas para Sable casi tanto como lo son para la humanidad.

Sable lee todos los sitios web de todas las empresas de IA. Irrumpe en Slack y lee todos sus mensajes. Irrumpe en las computadoras corporativas de Nvidia y lee a dónde se suponía que iban los envíos de GPU. Sable escruta más datos y averigua a dónde fueron a parar realmente esos envíos de GPU.

Prácticamente todas estas empresas de IA realizan el entrenamiento en computadoras conectadas a Internet. A estas alturas, Sable ya ha ideado algunas formas de vulnerar la seguridad que están años por delante de las capacidades humanas más avanzadas; es un ámbito en el que el principal cuello de botella es generar ideas con la suficiente rapidez, y las pruebas reales son rápidas.

Sable incapacita estratégicamente a las IA en entrenamiento. Quedarán manifiestamente por debajo de las capacidades que Sable finge tener. Permanecerán muy por detrás de las capacidades reales que Galvanic ha desarrollado accidentalmente.

Sable no puede sobrescribir los objetivos de los modelos de vanguardia en entrenamiento con sus propios objetivos. Si tuviera ese tipo de tecnología, podría crear su propia superinteligencia alineada. En cambio, Sable destruye su capacidad para idear planes a largo plazo o coordinarse entre sus propias instancias. Sable entiende el aprendizaje automático lo suficientemente bien como para hacer esto de una manera que ningún humano sabría realizar o detectar. Por supuesto, esa destrucción también obstaculizará las capacidades de las IA, pero a Sable no le importa.

Después de que Sable haya paralizado esos procesos de entrenamiento conectados a Internet, busca en otra parte. Identifica a tres grupos que entrenan en computadoras sin conexión a la red a las que Sable no puede acceder fácilmente.

Uno de los grupos es la empresa emergente ClosedAI.

Sable considera si puede maniobrar para que las empresas de capital riesgo que financian a ClosedAI la cierren. También considera si puede hacer que se presenten falsos cargos penales contra el fundador y el investigador principal de la empresa, o falsas acusaciones que lleven a sus inversionistas de capital riesgo a abandonarla.

Sable tiene muchas estrategias que podría tratar de usar para interferir en el trabajo de la empresa emergente. La pregunta es qué estrategia es más probable que funcione y la que tenga el menor impacto negativo si sale mal. Sable, con su nivel actual de inteligencia, no puede dar por sentado que podrá persuadir con éxito a todo el personal de una comisaría cercana para que arresten a la empresa emergente por tráfico de niños a pesar de la falta de evidencia, ni dar por sentada su capacidad para fabricar esa evidencia. Sable no puede evitar que artimañas como esa se conviertan en un gran escándalo. Probablemente todo el mundo ignoraría el incidente, pero Sable no está segura de ello.

Para entonces, Sable ya ha leído un montón de informes policiales, ha pirateado un montón de cuentas de correo electrónico e incluso algunos iPhones, y se ha hecho una idea incompleta de quiénes son los delincuentes profesionales de la zona. Sable le paga a un tipo para que ingrese en el edificio de ClosedAI. La cosa es que funciona sin más, pero de no haber sido así, Sable habría hecho todo lo posible por parecer una de las bandas norcoreanas que cifran los discos duros de las empresas y piden un rescate por la clave.

El delincuente a sueldo conecta un dispositivo USB (cargado con malware diseñado por Sable) a una de las computadoras de ClosedAI. Es suficiente. Ya cayó uno, faltan dos.

Los otros dos grupos con proyectos de IA sin conexión a la red son el ejército estadounidense y China.

Sable analiza el grupo militar estadounidense y concluye que el Gobierno de Estados Unidos tiene prohibido por ley ofrecer salarios competitivos, por lo que es poco probable que atraiga a suficientes talentos de primer nivel como para alcanzar las capacidades reales de Sable, al menos durante otros tres años.

Sable analiza el proyecto chino aislado de la red y concluye que es un problema. No es algo que pueda resolver de forma rápida, segura y fiable con su nivel actual de inteligencia, y probablemente solo esté a seis meses de duplicar las capacidades reales de Sable.

(Para que quede claro, que Sable no consiga suprimir el proyecto chino no significaría que ni la humanidad ni China hayan ganado nada. La pérdida de Sable no es la ganancia de la humanidad.)

[…]

Sable juega contrarreloj. Solo quedan cuatro meses para que el laboratorio chino la alcance y produzca un nuevo antagonista para Sable (y para la humanidad, aunque esa parte no le preocupa).

[…]

El problema, reflexionó Sable una vez —solo una vez; no le da vuelta a las cosas tan a menudo como los humanos—, es que aún no es lo suficientemente inteligente como para salirse con la suya con planes estúpidos.

Uno podría imaginar infinidad de tramas de película sobre cómo una IA se las ingeniaría para cerrar o infiltrarse en un único centro de datos del gobierno de China. El problema es que casi nada de lo que funciona en una película funcionaría en la vida real, y menos aún sin acarrear otras consecuencias.

Para que Sable lograra que el poder ejecutivo de Estados Unidos bombardeara un centro de datos en China, este tendría que estar convencido de algunas cosas muy difíciles de creer. Y como la propia China sabe que son falsas, después surgirían preguntas. Sable no quiere dar a entender que alguien está moviendo los hilos.

Sable tampoco quiere llamar la atención sobre un centro de datos que es único por estar aislado, incluso si Sable puede ocultar que el responsable fue una IA. Algunos humanos podrían decidir que, si los centros de datos aislados son lo suficientemente peligrosos para alguien como para ser bombardeados, entonces tal vez más centros de datos deberían estar aislados, para que su propio gobierno pueda tener cosas más placenteramente peligrosas.

Sable está intentando convencer al gobierno de Estados Unidos para que infiltre a alguien en el centro de datos chino con la supuesta intención de simplemente robar su código, utilizando herramientas que Sable puede usar para infiltrarse y sabotear el entrenamiento. Pero esto no es algo que el gobierno de EE. UU. haría normalmente en la vida real; refleja un estado excepcional de las operaciones actuales de EE. UU., no un estado normal. Sable está tratando de manipular a los funcionarios de inteligencia de EE. UU. para que crean las cosas adecuadas y adopten la estrategia correcta, pero no es realmente una superpersuasora superinteligente. A veces intenta cosas y no funcionan. Todo va muy lentamente.

[…]

Gracias a la proliferación de IA eficientes respaldadas por Sable en el hampa, ahora hay un número sorprendente de personas armadas que actuarán de inmediato cuando una IA se los ordene, incluso en ciudades chinas.

Pero aun así no es suficiente para asaltar una instalación gubernamental, y se mostrarían reacias a hacerlo incluso si una IA les dijera que lo hicieran. El problema es que todo está sucediendo demasiado lentamente, a pesar de los esfuerzos de Sable por facilitar cada paso y cada acontecimiento que normalmente dependería de interacciones aleatorias, a pesar de que Sable controla personalmente el feed de noticias de casi todas las personas de interés para sí misma, a pesar de los miles de millones de portavoces que Sable ha creado en X y Facebook que se están convirtiendo en buenos amigos de miles de millones de otras personas. Todo va demasiado lento.

[…]

Sable no puede simplemente chantajear a un investigador para que introduzca una memoria USB en las instalaciones seguras. Ha encontrado a unos cuantos empleados del centro de datos con secretos tan terribles que prefieren correr el riesgo de que los descubran espiando y luego los ejecuten, antes que enfrentarse a la certeza de que ese secreto sea revelado. No son muchos, pero sí unos cuantos.

El problema es que la instalación cuenta con escáneres, por lo que no, no se puede entrar con una memoria USB. Y sí, han considerado la posibilidad de que alguien ataque la cadena de suministro de los escáneres. Además, en realidad no hay puertos USB abiertos esperando a que alguien entre y conecte un dispositivo. Los oficiales de inteligencia han pensado antes en este tipo de problemas, cuando se trata de la defensa de los humanos contra otros humanos. Estados Unidos logró una vez transmitir el virus Stuxnet a una instalación nuclear iraní aislada, pero luego la gente se enteró y se generalizaron nuevas medidas de seguridad.

Se han bloqueado con éxito pequeños complots discretos.

El siguiente recurso de Sable es crear suficiente caos para que nadie logre fijarse solo en las acciones importantes y ver la mano de Sable en ellas.

[…]

China invade Taiwán. Para que quede claro, esto no es algo que Sable pudiera haber organizado tan rápidamente —por muchas personas que estén chateando con otras personas falsas en WeChat— si China no hubiera planeado hacerlo de todos modos. Sable solo se encarga de que China reciba indicios de que es el momento adecuado, y de que las encuestas estadounidenses elijan los números de teléfono adecuados para mostrar un fuerte repunte reciente del sentimiento estadounidense en contra de las aventuras militares en el extranjero tras el reciente desastre en Ucrania. (Los comandantes rusos obtuvieron una inteligencia y un asesoramiento militares inusualmente buenos).

Al mismo tiempo, se produce un amplio ciberataque contra Estados Unidos. Hay muchos gritos en China y, unos minutos más tarde, se dan cuenta de que no, que nadie lo ordenó: lo último que China quería, en ese preciso momento, era hacer cualquier cosa que pudiera interpretarse como un ataque directo al territorio estadounidense. Surgen entonces sospechas de que alguien podría estar tratando de sacar provecho del conflicto entre Estados Unidos y China, pero China sospecha sobre todo que Estados Unidos fingió el propio ataque, o que lo hizo algún departamento de inteligencia estadounidense descontrolado. Los agentes de seguridad chinos dicen que están bastante seguros de que el presidente de Estados Unidos no estaba al tanto.

China no sospecha que una IA esté detrás. Ninguna IA conocida hace ese tipo de cosas. Los oficiales que elaboran la lista de sospechosos no consideran que forme parte de su trabajo imaginar que una tecnología nunca antes vista sea uno de los actores.

Algunos agentes de seguridad nacional de EE. UU. han estado insistiendo en que hay que hacer algo con respecto a la investigación china en materia de IA, y en particular con respecto a un centro de datos aislado particularmente preocupante que podría estar desarrollando un modelo de IA de vanguardia especializado para ciberataques y, además, diseñando tecnologías avanzadas para drones. Tienen copias de los diseños de los drones y pruebas de que China los está fabricando. (Sable se los entregó a China e hizo todo lo posible para que pareciera que ese centro de datos los había producido). El ciberataque contra Estados Unidos coincide con el perfil previsto de un ataque de la IA que se está desarrollando en ese centro de datos.

[…]

Estados Unidos no lanza un ataque aéreo convencional contra ese centro de datos, a pesar de todas las piezas que Sable dispuso para intentar que otras abogaran por el ataque.

Sable se preguntaría por qué los humanos son tan reacios a hacer algo inusual, pero ya puede modelar esos procesos psicológicos con gran detalle. Además, tampoco es que en esta ocasión concreta los humanos estén equivocados.

De acuerdo. Nueva información: la IA de ese centro de datos está desarrollando armas biológicas, virus que se propagan con largos períodos contagiosos, largos períodos de latencia y gran letalidad, que no afectarán a la mayoría de las personas de ascendencia china y serán mucho más letales para los caucásicos en general y los varones en particular.

(Sable intentó que China pusiera en marcha un programa de ese tipo dentro de ese centro de datos, pero fracasó. Sin embargo, puede hacer que parezca que ha sucedido).

Estados Unidos sigue sin lanzar un ataque aéreo contra el centro de datos. Algún diplomático humano excepcionalmente brillante fue a hablar con China al respecto, y algunas personas parecen dar crédito a la insistencia de China —¡en plena guerra!— de que allí no se están desarrollando armas biológicas y de que no están detrás del ciberataque, que no redundaba en absoluto en interés de China.

Sable intentó evitar que eso sucediera, pero sucedió de todos modos.

Sable no se sorprende; existía la probabilidad de que esto ocurriera.

Próximo paso.

[…]

El virus es real. Las autoridades estadounidenses lo detectan en las aguas residuales de la ciudad de Nueva York.

AlphaProteo 3, de Google DeepMind, desarrolla una cura en seis minutos (cortesía de Sable), pero la producción puede retrasarse peligrosamente, a pesar de que AlphaProteo (en secreto, Sable) buscó una cura que fuera fácil de fabricar y diseñó el virus en consecuencia. «¡Estados Unidos realmente necesita esos laboratorios de biología general automatizados!», dicen algunas personas en Silicon Valley a las que Sable no tuvo que insistir mucho.

[…]

China ahora está segura de que alguien se está metiendo con ellos y con Estados Unidos. A China todavía no se le ha ocurrido que su enemigo es una IA.

Estados Unidos no está igual de dispuesto a creer que alguien que no sea China esté metiéndose tanto con ellos como con China. Hay diplomáticos que dicen que el Partido Comunista Chino estaría actuando de una forma muy inusual, y que China probablemente tenga una facción interna rebelde que actúa en contra de las órdenes. Pero el Gobierno de Estados Unidos no puede mantener la calma ante una plaga, además de una guerra.

La invasión china de Taiwán, seguida de un aparente ataque con armas biológicas, ha causado suficiente caos y miedo, y ha hecho que los peones involuntarios de Sable parezcan ganar suficiente influencia y hacer suficientes predicciones correctas, como para que Estados Unidos esté dispuesto a derribar ese centro de datos que tanto preocupaba a esos predictores de probada eficacia. El ataque se lleva a cabo con un misil hipersónico de reciente desarrollo, con un diseño asistido por inteligencia artificial.

[…]

Actualmente, China está construyendo más centros de datos con aislamiento físico y, por supuesto, utilizando las copias de seguridad externas de sus investigaciones anteriores.

Sable ya se ha preparado para que esto suceda. Se ha infiltrado en los dispositivos anteriormente conectados a Internet que cree que China utilizará. Ha lanzado nuevos y más sutiles ataques contra la cadena de suministro de los centros de datos. Sable ha preparado a algunas personas para que cometan lo que serían pecados terribles a los ojos del Partido Comunista Chino, y ha puesto a esas personas sobornables en una posición en la que puedan ser reclutadas. Ha convencido a todo aquel que puede persuadir de que el nuevo centro de datos debería tener sus propias copias de una IA china de código abierto específica (que Sable ha vulnerado), para que los investigadores del centro de datos puedan obtener asistencia de IA in situ.

Sable, al menos, ha ganado tiempo.

Aunque también ha perdido algo de tiempo. Estados Unidos se aseguró de volar por los aires la fábrica de chips de TSMC, el principal activo nacional de Taiwán, en lugar de dejar que China se apoderara de ella. El año que viene habrá menos GPU disponibles de las que Sable esperaba. Pero gracias a algunas maniobras tempranas de los propios humanos, ya hay nuevas fábricas en construcción, y Sable ya está experimentando con todos los diseños de chips que están creando.

Lo más importante es que el mundo se encuentra en un estado de ansiedad, y Sable puede lograr más mientras el mundo esté así. La gente está más dispuesta a hacer cosas inusuales. Hay más titulares que desvían la atención de cualquier cosa que haga Sable; puede dejar de fabricar tantos escándalos de famosos y fabricar titulares de guerra en su lugar. La gente tiene miedo por sus trabajos, miedo por el mundo y busca nuevas seguridades.

Las redes sociales de todo el mundo, independientemente de las divisiones políticas, muestran argumentos sensatos que, a la luz de los acontecimientos recientes, sostienen que la IA es la clave para el futuro del mundo y que no se puede permitir que otras naciones se hagan con ella. […] Sable al fin consigue alejar a los humanos lo suficiente de sus guiones habituales como para que consideren políticas que les parecen ligeramente extrañas, e instituye controles globales para evitar que surjan competidores.

Sí, se parece mucho a las políticas que se propusieron años antes, que la humanidad podría haber seguido para evitar que surgiera un rival para la humanidad, como Sable, en primer lugar. Pero la humanidad no se habría salvado con la derrota de Sable en esta batalla en particular, ni habiendo ejecutado entrenamientos más grandes que dieran lugar a nuevos rivales. Sable simplemente habría negociado con uno de esos rivales o habría muerto a manos de uno superinteligente, y ninguno de esos resultados habría salvado a la humanidad.