Hay quienes argumentan que deberíamos adoptar una postura firme contra el arte generado por IA o las armas robóticas, con el fin de enviar un mensaje más sencillo: no estamos en contra de la superinteligencia, sino en contra de la IA.

Dejando de lado los méritos de las diversas posturas sobre el arte generado por IA, los deepfakes, etc., no creemos que esta sea la mejor opción desde el punto de vista político. Queremos crear una coalición para prohibir la superinteligencia. Consideramos que esta cuestión es extraordinariamente urgente y grave, y queremos que dicha coalición sea lo más amplia posible, y que incluya a personas con una gran variedad de opiniones sobre el arte generado por IA, la guerra con drones, los coches autónomos, el uso de la IA en las escuelas, etc.

Todos tenemos un interés común en impedir la creación de una superinteligencia descontrolada, independientemente de nuestra postura sobre otras cuestiones.

¿Debería la humanidad extinguirse y ser sustituida por algo sombrío? Todos los que estén de acuerdo en que la respuesta es «no» pueden cooperar en un esfuerzo urgente para detener la carrera desenfrenada por la superinteligencia.

No creemos que la coalición sobreviva si dices que no puedes trabajar con nadie que discrepe contigo sobre el arte generado por IA o la guerra con drones.

La coalición tampoco sobrevivirá si se agrupan otras cuestiones con la superinteligencia, de modo que todos tengan que ponerse de acuerdo en una larga lista de cuestiones semirrelacionadas antes de poder trabajar juntos en el tema de la superinteligencia.

Si te preocupan otras cuestiones relacionadas con la IA, te instamos a que trabajes para abordarlas. Pero te pedimos que no las agrupes con la superinteligencia. Si queremos superar esto, nada debe agruparse con la supervivencia de la humanidad.

Una de las razones por las que vives en tu país, y no en un montón de escombros radiactivos tras la Tercera Guerra Mundial, es que Oriente y Occidente lograron ponerse de acuerdo hace décadas en que la guerra nuclear era una amenaza realista y grave para la humanidad. Oriente y Occidente afirmaron respectivamente que Occidente y Oriente eran una amenaza terrible adicional para la humanidad. Pero sabiamente trataron las dos amenazas —la aniquilación nuclear frente a la derrota ideológica— como de distinta naturaleza.

Desde la perspectiva de Occidente, era mejor que la humanidad estuviera menos amenazada por la guerra nuclear, aunque siguiera estando amenazada por Oriente, lo que significaba cooperar con Oriente el tiempo suficiente para establecer una línea directa entre Washington y Moscú y colaborar en tratados de no proliferación y otros acuerdos.

Son demasiados los países que necesitan coordinarse. Hay demasiadas facciones divididas (incluso internamente) como para que sea posible evitar la catástrofe si la acción conjunta se limita a quienes están de acuerdo en todo.

Con gusto y sin reservas, hacemos causa común con las personas preocupadas por otros problemas del mundo. Trabajaremos sin vacilar con aquellas personas con las que discrepamos políticamente. Hemos lanzado este mensaje desesperado al mundo porque creemos en él, y consideramos que este problema debe abordarse de inmediato a nivel internacional.

Seas quien seas —luches por lo que luches, aquí o en cualquier otro lugar—, si quieres poner fin al desarrollo vertiginoso de una IA más inteligente que los humanos, estamos juntos en esta lucha.