Нам советовали выступить против генеративного искусства или роботизированного оружия. Чтобы послать более простой сигнал: не «против суперинтеллекта», а «против ИИ».

Не будем вдаваться в споры о генеративном искусстве, дипфейках и т.д. Мы просто не считаем этот вариант политически выгодным. Нужна коалиция для запрета суперинтеллекта. Это очень срочный вопрос. Коалиция должна быть как можно шире. Лучше, чтобы она включала людей с разными взглядами на генеративное искусство, автономных боевых дронов, беспилотные автомобили, ИИ в школах и так далее.

У нас общий интерес: предотвратить создание неподконтрольного суперинтеллекта. Это не зависит от мнения по другим вопросам.

Человечество должно вымереть и уступить место чему-то пустому? Ответа «нет» достаточно, чтобы сотрудничать в срочной попытке остановить гонку к суперинтеллекту.

Мы не думаем, что коалиция справится, если откажется работать с теми, кто не согласен с вами насчёт генеративного искусства или дронов.

Или если к суперинтеллекту привяжут пакет других проблем. И всем придётся согласиться с длинным списком не имеющих прямого отношения к делу мнений, прежде чем вместе работать над проблемой суперинтеллекта.

Если вас волнуют другие вопросы ИИ, занимайтесь ими. Но не смешивайте их с суперинтеллектом. Чтобы обеспечить выживание человечества, не надо к нему ничего привешивать.

Вы живёте в цивилизации, а не в радиоактивной пустоши после Третьей мировой, отчасти потому, что Восток и Запад сумели договориться. Десятки лет назад они вместе признали ядерную войну реальной угрозой человечеству. Восток и Запад считали ещё и что Запад и Восток (соответственно) — тоже страшная угроза человечеству. Но они мудро сочли эти две угрозы — ядерное уничтожение и победу идеологических противников — разными по сути.

С точки зрения Запада было лучше, чтобы человечеству меньше угрожала ядерная война. Даже если угроза со стороны Востока остаётся. Это означало сотрудничество с Востоком: прямую линию между Вашингтоном и Москвой, договоры о нераспространении и прочее.

Слишком много стран надо скоординировать. Слишком много фракций расколоты (даже изнутри), чтобы предотвратить катастрофу силами лишь во всём согласных друг с другом.

Мы без проблем объединимся с людьми, которых тревожат и другие проблемы. (См. раздел «А опасность ИИ умнее людей не отвлекает от других проблем?» материалов к Главе 12.) Мы без колебаний будем сотрудничать с людьми, с которыми не согласны по политическим вопросам. Мы послали миру это отчаянное сообщение, потому что верим в него. И считаем, что эту задачу нужно немедленно решать на международном уровне.

Кто бы вы ни были, за что бы вы ни боролись — если вы хотите положить конец сумасшедшей разработке ИИ умнее людей, мы на одной стороне.