¿Cuál es el objetivo de la marcha No La Construyas?
Pedimos un tratado internacional para prohibir el desarrollo de la Superinteligencia Artificial (ASI).
¿Por qué?
Creemos que si alguna empresa o grupo, en cualquier lugar del planeta, construye una superinteligencia artificial utilizando técnicas remotamente similares a las actuales, basándose en algo remotamente similar a la comprensión actual de la IA, entonces todos, en todo el planeta, moriremos.
No lo decimos como una hipérbole. No exageramos para causar efecto. Creemos que es la extrapolación más directa del conocimiento, la evidencia y la conducta institucional en torno a la inteligencia artificial actual.
¿Por qué creen eso?
Las empresas de IA compiten por crear una superinteligencia artificial, sin tener idea de lo que están haciendo. Esto es una mala idea según la teoría. Y en la práctica, las señales de advertencia se acumulan.
Exponemos el argumento de la manera más clara y concisa posible en nuestro libro. También puedes consultar nuestros recursos en línea, que profundizan en detalles no cubiertos en el libro.
¿Por qué el compromiso solo entra en vigor si 100.000 personas se comprometen a marchar?
Las marchas pueden ser muy poderosas si son grandes, pero pueden enviar un mensaje equivocado si son pequeñas. Por eso solo te pedimos que te comprometas a marchar si suficientes personas se unen. Si alcanzamos 100.000 compromisos, programaremos la marcha. Si no, dirigiremos nuestros esfuerzos hacia otras estrategias.
Podríamos alcanzar la masa crítica pronto. O podría tomar meses o años, a medida que más personas conozcan los peligros de la ASI.
¿Qué quieren decir con "tratado internacional"?
No es útil que un solo país prohíba el avance de las capacidades de IA dentro de sus propias fronteras. El desarrollo de IA simplemente continuaría en otros países por personas que no entendían los peligros, hasta que eventualmente alguien en algún lugar construyera máquinas sustancialmente más inteligentes que cualquier ser humano.
Este no es un problema donde los legisladores pueden aprobar una ley dentro de su propio país para proteger a su propia gente. Si alguien construye una superinteligencia artificial, todos mueren, en todas partes. Un problema como este requiere que múltiples potencias del mundo se unan en un acuerdo compartido para detener esta carrera suicida e imprudente.
Hacemos un llamado a nuestros líderes para que declaren su apoyo a dicho tratado y comiencen a redactarlo ahora. Hacemos un llamado al mundo entero para que se una para evitar el peligro.
No sería la primera vez que la humanidad detiene una carrera tecnológica. La humanidad ha retrocedido en la creación de ojivas nucleares súper grandes y en la creación de algunas de las armas biológicas más peligrosas. Lo hemos hecho antes y podemos hacerlo de nuevo.
¿Con cuánta anticipación se avisará de la marcha real?
Intentaremos dar al menos un mes de aviso una vez que alcancemos los 100.000 compromisos, a menos que hayamos cruzado el umbral debido a alguna emergencia pendiente.
¿Qué pasa si aún no quiero comprometerme a marchar en D.C.?
¡También puedes simplemente registrarte para recibir actualizaciones! Te avisaremos cuando nuestra marcha principal alcance los 100.000 compromisos.
Si organizamos una gran marcha en Washington D.C., también podríamos organizar muchas marchas más pequeñas en otras ciudades del mundo, dependiendo del interés y otros factores.