Какова цель марша «Не создавайте его»?
Мы призываем к международному договору, запрещающему разработку искусственного суперинтеллекта (ИСИ).
Почему?
Мы считаем: если какая-либо компания или группа в любой точке Земли построит искусственный суперинтеллект методами, хоть отдалённо похожими на сегодняшние, и с пониманием ИИ, хоть отдалённо похожим на сегодняшнее, — все люди на Земле умрут.
Это не преувеличение и не риторический приём. Мы считаем это самым прямым выводом из того, что сегодня известно об ИИ, имеющихся данных и поведения соответствующих институтов.
Почему вы так думаете?
ИИ-компании наперегонки строят искусственный суперинтеллект, не понимая толком, что делают. С теоретической точки зрения это плохая идея, а на практике тревожных сигналов всё больше.
В книге мы излагаем эти аргументы настолько ясно и кратко, насколько смогли. Также можно прочитать наши онлайн-ресурсы, в которых разобраны детали, не вошедшие в книгу.
Почему обещание участвовать в марше срабатывает только при наборе 100 000 человек?
Большой марш — это очень мощно, но маленький марш может послать неверный сигнал. Поэтому мы просим вас обещать участвовать только при условии, что соберётся достаточно других людей. Если мы наберём 100 000 обязательств, мы организуем марш; если нет — направим силы на другие стратегии.
Возможно, мы быстро достигнем критической массы; возможно, на это уйдут месяцы или годы, по мере того как всё больше людей будут осознавать опасность ИСИ.
Что вы имеете в виду под «международным договором»?
Запрет на развитие ИИ только в одной стране не сработает. Разработка ИИ просто продолжится в руках тех, кто не понимает опасности, пока кто-нибудь где-нибудь не создаст машину, гораздо более умную, чем любой человек.
Это не та проблема, которую законодатель в своей стране может решить отдельным законом, защищающим её жителей. Если кто-то создаст машинный суперинтеллект, все люди везде умрут. Такие проблемы требуют, чтобы несколько крупнейших мировых держав объединились и заключили общее соглашение, останавливающее эту безрассудную самоубийственную гонку.
Мы призываем мировых лидеров публично поддержать такой договор и немедленно начать его подготовку. Мы призываем мир сплотиться, чтобы избежать этой опасности.
Это не первый случай, когда человечество останавливает технологическую гонку. Мы отказались от сверхмощных ядерных боеголовок и от самых опасных биологических вооружений. Мы уже делали это и можем сделать снова.
Насколько заранее объявят официальный марш?
Как только мы наберём 100 000 обязательств, мы постараемся объявить о марше как минимум за месяц — если только мы не преодолели этот порог из-за какой-то надвигающейся чрезвычайной ситуации.
Что если я пока не готов(а) обещать поездку в Вашингтон?
Тогда можно подписаться только на обновления! Мы напишем, когда основной марш наберёт 100 000 обязательств, а также сообщим о других маршах рядом с вами.
Если мы проводим большой марш в Вашингтоне, мы, скорее всего, организуем и более скромные марши в других городах мира — в зависимости от интереса.