Это онлайн-материалы к четвёртой главе «Если кто-то его сделает, все умрут». Мы не будем тут затрагивать эти вопросы, уже охваченные самой главой: - Чего захочет ИИ? - Почему ИИ, обученный быть полезным, в итоге захочет «неправильных» вещей? Разве это не недостаток, который должен быть устранён во время обучения? - Чем градиентный спуск отличается от естественного отбора? Что это говорит о том, какими в итоге окажутся желания ИИ? - Чем так плохо, если у ИИ появятся странные предпочтения?

Зато мы обсудим темы, связанные с вопросом «Почему ИИ не так-то просто сделать хорошим?»