Гораздо вероятнее, что ИИ убьёт всех.

В этих онлайн-материалах мы рассматриваем много странных и маловероятных сценариев. Мы подробно объясняем, почему считаем их маловероятными и почему (в большинстве случаев) они всё равно обернутся для человечества катастрофой.

Эти нишевые сценарии не должны отвлекать от главного. Если мы поспешим с созданием ИИ умнее человека, самым вероятным исходом будет поглощение им Земли ради ресурсов для достижения какой-то цели. И попутно он уничтожит человечество.

Название книги не претендует на стопроцентную уверенность. Это как человек, который видит, что его друг подносит к губам пузырёк с ядом, кричит: «Не пей! Умрёшь!»

Да, технически возможно, что вас срочно доставят в больницу, где гениальный врач изобретёт невиданное чудо-лекарство, и поэтому вас всего лишь парализует ниже шеи. Чудеса случаются. Но если даже чудеса не ведут к особо хорошим исходам, ещё очевиднее, что не надо пить яд.

ИИ умнее человека — не игра и не научная фантастика. Наши близкие (с очень высокой вероятностью) действительно умрут, если мировое сообщество не вмешается и не остановит ИИ-индустрию от шага с обрыва. Можно обсуждать всё более нишевые подсценарии и под-подсценарии. Можно играть в философские игры на палубе «Титаника», пока приближается совершенно очевидный айсберг. А можно попытаться свернуть.