Когда вы знаете лишь один пример, как что-то работает, легко вообразить, что только так и оно могло бы.

Если бы вы видели птиц, но не самолёты, вы могли бы представить, что все летающие устройства должны махать крыльями.

Если бы вы видели только человеческие руки, вы могли бы ожидать, что руки робота тоже будут кровоточить при порезе.

Если бы вы видели мозг, но не компьютеры, вы могли бы вообразить, будто вычислять что-то можно только так: много медленных нейронов, мощнейшее распараллеливание, довольно низкое потребление энергии.

Вы могли бы заметить, что нейроны устают после срабатывания. Им нужно «перезарядиться», переместив миллионы ионов калия через клеточную мембрану. Этот процесс занимает около миллисекунды. Из этого можно было бы неявно заключить, что, наверное, любой небольшой вычислительный элемент будет уставать на миллисекунду (например, рассуждая, что будь нейроны, перезаряжающиеся побыстрее, возможны, эволюция бы их уже сделала).

Но если так порассуждать, транзисторы вас поразят. Они могут работать на частоте 800 ГГц — примерно в восемьсот миллионов раз быстрее.

Изучив транзисторы подробнее, вы увидели бы множество причин, по которым биологическое сравнение просто не очень информативно. Нейроны должны не только передавать импульсы. Это ещё и клетки. Их механизм работы должен быть составлен из органелл. Они большие и питаются веществами крови. Транзисторы же могут быть шириной всего в несколько атомов и питаются электричеством. Знание подробностей делает предположение, что о потенциальной скорости срабатывания транзистора можно судить по скорости нейрона, несколько нелепым.

Подробное изучение того, как летают самолёты (используя подъёмную силу и скорость), делает большинство фактов о птицах (вроде лёгких костей и машущих крыльев) несущественными. Подробное изучение устройства роботизированных рук (сталь, пневматика и электричество) делает несущественными большинство фактов о человеческих (кровь, мышцы и кости). Детали работы транзисторов (несколько атомов и электричество) лишают значимости большинство фактов о нейронах.^*

Когда вы не знаете подробностей работы ИИ, легко вообразить, что они будут сохранять много черт биологического разума — работать так же, как ваш мозг. Но узнай вы эти подробности, многие такие умозаключения показались бы нелепыми. Вроде ожидания, из руки робота потечёт кровь. Оказалось бы, что ИИ функционируют совершенно иначе.

Это трудно разглядеть, если вы очень мало знаете о том, как они работают. В Главе 2 мы опишем процесс их создания и обсудим, почему никто не знает, как ИИ устроены внутри. Это объясняет, почему людям так легко ошибочно ожидать, что они будут вести себя подобно людям или уже знакомым технологиям, не замечая, насколько они странные уже сейчас и насколько страннее станут по мере дальнейшего развития.