Это онлайн-дополнение к 12-й главе «Если кто-то его сделает, все умрут». Вот темы, которые раскрыты в книге, а не здесь:

• Что учёные и инженеры говорят об этой проблеме?

• Что о ней говорят (или умалчивают) политики?

• Чего такого хорошего ждут от ИИ люди, считающие, что это перевесит катастрофические риски, которые они сами же признают?

ЧаВо ниже затрагивает темы от «Разве нет проблем важнее?» до «Но доказать безопасность суперинтеллекта невозможно. Не лучше ли рискнуть?».

А в расширенном обсуждении поговорим о «предупредительных выстрелах» со стороны ИИ, поведении и заявлениях ИИ-лабораторий, а ещё — о мнениях экспертов по поводу вероятности катастрофы.