Скорее всего, это окончится катастрофой.

Мы предсказываем конечный итог, а не путь к нему. Мы не знаем, что будет происходить с ИИ до того момента, как он станет по-настоящему опасен.

Кто знает, может, всё случится за полгода. Выяснится, что «глупые» ИИ при долгом размышлении неплохо умеют исследовать самих себя. Начнётся цепная реакция. А может, прогресс встанет. Лет шесть уйдёт на ожидание важной идеи. Ещё лет шесть — на её доработку. За эти двенадцать лет ИИ успеет удивительно перекроить образование и рынок труда.

(Да, мы видим ваш скептический прищур. Мы в курсе, что «заблуждение о неизменном объёме работ» — действительно заблуждение. Суть не в этом. Наши догадки о влиянии ИИ на рынок труда в ближайшем будущем не так уж важны на фоне того, что случится потом.)

В дополнительных материалах к шестой главе (раздел «А нельзя улучшить людей, чтобы они не отставали от ИИ?») мы говорили, что люди вряд ли угонятся за развитием ИИ. Даже если немедленно займутся усилением собственного интеллекта. (В Главе 13 мы всё равно призываем к такому усилению. Но это не позволит идти в ногу с машинами, если не остановить их разработку.)

Так что, каким бы странным и интересным ни было это будущее, власти у машин там будет всё больше. Как только группа ИИ сможет забрать себе ресурсы планеты, мы пройдём точку невозврата. Если никому в этой группе не будут дороги счастливые, здоровые и свободные люди, — плохи наши дела.