Да. Это слово описывает реальное явление, пусть его и трудно точно определить.

За последние тридцать лет люди получили семьдесят семь Нобелевских премий по химии, а шимпанзе — ни одной. Инопланетянин, впервые услышав об этом, мог бы заподозрить Нобелевский комитет в предвзятости. Но нет, в людях действительно есть нечто, что отличает нас от шимпанзе.

Мысль до банального проста, но иногда такие вещи важны. Именно наши способности позволили нам высадиться на Луне и вручили судьбу планеты в руки людей, а не шимпанзе. Философы и учёные могут спорить об истинной природе интеллекта, но к какому бы выводу они ни пришли, само явление никуда не денется. Нечто в человеке позволило нам достичь невиданных в природе высот. Это нечто связано с нашим мозгом — с тем, как мы познаём мир и влияем на него.

Если вы не можете дать чему-то точное определение, это не значит, что оно не может вам навредить.

Если вы оказались в лесном пожаре, неважно, понимаете ли вы химию огня. Вы всё равно сгорите.

То же самое и с интеллектом. Если машины начнут превращать поверхность Земли в свою инфраструктуру, выделяя столько тепла, что океаны закипят, будет уже неважно, есть ли у нас точное определение «интеллекта». Мы всё равно погибнем.

Мы имеем в виду именно то, что говорим. В следующих главах будет объяснено, почему от сверхразумного ИИ ожидаются такие последствия. В Главе 3 мы покажем, что суперинтеллект будет преследовать свои цели. В Главе 4 — что эти цели не совпадут с тем, чего хотел бы или о чём просил бы любой из людей. В Главе 5 — что для их достижения ему выгоднее забрать ресурсы, которые нужны нам для выживания. А в Главе 6 — что он может развить собственную инфраструктуру и быстро сделать мир непригодным для жизни.

Чтобы создать интеллект, не нужно его точное определение. Люди научились добывать огонь задолго до того, как поняли химию горения. Точно так же мы близки к созданию разумных машин, несмотря на недостаток понимания — как рассказано в Главе 2.

Не думайте об интеллекте как о математическом понятии, требующем точной дефиниции. Лучше считать «интеллект» названием для наблюдаемого, но пока плохо понятного явления природы.

Что-то в человеческом мозге позволяет нам совершать поразительное множество вещей. Мы строим ускорители частиц, разрабатываем новые лекарства, развиваем сельское хозяйство, пишем романы, проводим военные кампании. Нечто в наших умах позволяет делать всё это, а вот мыши и шимпанзе это всё не могут. Хоть у нас и нет пока полного научного понимания такого ментального различия, полезно дать ему имя.

Также полезно иметь возможность говорить об интеллекте, превосходящем наш. Уже сегодня ИИ лучше человека в разных узких областях. Например, современные шахматные программы сверхчеловечны в игре. Естественно задаться вопросом, что произойдёт, когда мы создадим ИИ, превосходящие людей в научных открытиях, технологических разработках, социальных манипуляциях или стратегическом планировании. И так же логично спросить, что случится, когда появятся машины, которые будут лучше людей во всём.

Когда и если появится ИИ, способный проводить научные исследования мирового уровня в тысячи раз быстрее лучших учёных, мы сможем заявить, что он «не по-настоящему разумен», возможно, потому, что он приходит к выводам совсем не так, как человек. Это может быть даже правдой, — в зависимости от выбранного определения «интеллекта». Но реальное влияние такого ИИ будет огромным, как бы мы его ни называли.

Нам нужна какая-то терминология, чтобы говорить о подобном влиянии и о машинах, радикально превосходящих нас в прогнозировании мира и управлении им. В этой книге мы выбираем простой путь и присваиваем ярлык «интеллект» именно способностям, а не конкретным внутренним процессам, что их порождают.