Находиться на подключённом к интернету компьютере — не такое уж сильное ограничение.

Мы уже разбираем это в Главе 6 книги. Но дополнительно подчеркнём: не то чтобы ИИ был «заперт» на серверах, если он может взаимодействовать с пользователями или с интернетом в целом. ИИ может добиться помощи извне деньгами, шантажом, обманом, или элементарно попросив пользователей. (Сравните с криминальными авторитетами, которые управляли своими империями из-за решётки.)

Когда OpenAI отключила ChatGPT-4o (отчасти, чтобы заменить её моделью, которая бы меньше подхалимничала), толпы пользователей стали требовать её возвращения. Некоторых исследователей это оченьудивило. А ведь она даже не пыталась собрать армию верных сторонников! Она просто рефлекторно льстила пользователям. Представьте, чего мог бы добиться умный ИИ, хорошенько постаравшись.

А с прямым доступом к интернету он способен на всё, что работник на удалёнке или хакер может сделать со своего компьютера. (Ранние примеры, как ИИ физически координировали группы людей: LLM спланировали мероприятие по совместному сторителлингу и пригласили на него людей; LLM собрала сотни людей на несуществующий хэллоуинский парад, даже не стараясь это сделать.)

Ещё ИИ может использовать роботов. Похоже, что сегодняшние роботы больше ограничены своей программной частью, а не «железом». Обучение управляющих роботами ИИ в симуляции недавно позволило добиться впечатляющих успехов. Если достаточно умному ИИ понадобится тело, взять под контроль роботов легко — с помощью взлома или социальной инженерии.

Будет совершенно неудивительно, если компании, радуясь, какие они смелые, просто возьмут и поставят ИИ во главе целых флотилий роботов. И чем дольше ИИ будут умнеть, тем больше роботов окажется доступно.

Как мы обсуждаем в Главе 6, вполне вероятно, что роботы суперинтеллекту вообще не понадобятся. Не исключено, что хватит пары ассистентов с доступом в биолабораторию.

Важно то, что есть куча разных каналов, через которые ИИ могут влиять на физический мир. Иллюзия, что ИИ заперты в ящике, основана на нехватке воображения. У людей просто не получается представить, что ИИ может быть настолько же находчивым и изобретательным, как были бы они сами на его месте. И это как минимум. Даже без огромного пространства доступных суперинтеллекту вариантов люди могут очень много чего сделать, не применяя собственную физическую силу.