Радикально меняет приоритеты.

В 2014 году Соарес ушёл из IT-индустрии на зарплату втрое меньше прежней чтобы заняться этой проблемой. Она казалась важной, а работали над ней единицы. Юдковский занялся этим ещё на десяток лет раньше. Он основал MIRI в 2000-м, когда ему было около двадцати, и посвятил этому всю жизнь. Так что да, влияет.

Откладываем ли мы на пенсию? Благодаря личным инвестициям и доходам вне MIRI мы были бы вполне обеспечены, если бы завтра вышли на пенсию, а мир дотянул бы до нашей старости. Так что этот вопрос малоинформативен. Но нет, не откладываем.

Некоторые говорят: если бы мы реально в это верили, то (помимо того, что посвятили этому жизнь) мы бы ещё и... [вставьте любую схему, которая кажется им уместной]. Почему бы не набрать огромных кредитов на тридцать лет. Их же не придётся отдавать, мы же уверены в конце света?

Разумеется, потому что это плохие идеи. Представьте, мы приходим в банк: «Дайте нам очень большой кредит. Мы спустим всё на попытки убедить мир в опасности искусственного суперинтеллекта и/или на роскошную жизнь. Для вас это всё равно что сжечь деньги. План возврата такой: мы рассчитываем умереть, и это будут уже не наши проблемы». Ни один банк такое не одобрит. А врать, притворяясь, что у нас есть надёжный бизнес-план, мы не станем.

Юдковский ужеэтоописывал. Предложения «очевидных» схем обогащения на конце света обычно говорят о полном непонимании, как работают инвестиции. Кажется, советчики не задумываются, стали бы они сами так делать на нашем месте. Те, кто реально осознаёт риски, подобную чушь почти никогда не предлагают.

Жизнь под дамокловым мечом не обязывает глупеть. И не обязывает прекращать борьбу. И не обязывает отказываться от полноценной жизни, сколько бы её ни осталось.

Подробнее см. самый конец книги.