Смотря как, и как скоро вмешается.

В Вашингтоне мы часто встречаем политиков, считающих, что компании держат свои ИИ под контролем. А люди из индустрии твердят, что проблему решит регулирование. Особенно вопиющий пример — слова гендиректора Google. Он заявил, что «базовый риск [гибели человечества] на самом деле довольно высок». Но тут же добавил: чем выше ставки, тем скорее люди объединятся, чтобы предотвратить беду.

То есть он мчится создавать технологию, угрожающую, по его же мнению, всем на Земле. И надеется, что люди «сплотятся» и разберутся с рисками. Которые он сам же и создаёт. Но отложим это пока в сторону. Заметьте другое: технарь воображает, будто проблему решит кто-то другой.

А политики, кажется, считают, что решение найдут технари. Этосквозитвкаждомихпризывевыигратьгонку. Но пока не решены технические проблемы, у гонки победителя не будет. Впрочем, может, всё не так плохо. Не исключено, что чиновники думают не о гонке за суперинтеллектом, а о соревновании чат-ботов. В июне 2025 года наш знакомый советник по ИИ-политике описывал, что Конгресс в целом не верит компаниям, когда те прямо заявляют о работе над суперинтеллектом (хотя с некоторыми важными исключениями).

Кажется, почти все власть имущие полагают, что проблему решит кто-то другой.

Подробнее о реакции мира (и о том, что лидеры часто не успевают отреагировать до катастрофы) см. Главу 12. К августу 2025 года правительства так и не выдали ничего похожего на серьёзный ответ. И всегда есть риск, что чиновники вообще не поймут суть угрозы. Например, сочтут ИИ обычной технологией, которую нельзя душить лишними запретами.

О том, какие меры властей реально могут предотвратить катастрофу, читайте в Главе 13 и разделе «Почему бы международной коалиции не разработать безопасный ИИ совместно, а не запрещать?» материалов к Главе 12.