А мы не сможем использовать критическую уязвимость ИИ?
Нет.
Предполагать, что у суперинтеллекта должна быть какая-то критическая уязвимость вроде «отсутствия креативности» или «неспособности понять любовь» — это голливудская логика. Может, в кино это и выглядит как эффектный сюжетный поворот. Но в реальных ИИ ничего подобного нет.
См. разделы «А машины не будут по сути своей неспособны на творчество или обладать ещё какими-нибудь фатальными слабостями?» в материалах к Главе 1 и «Антропоморфизм и механоморфизм» в материалах к Главе 3.