Мозг — не чистый лист.

ИИ совсем не похож на человеческого младенца. И ни те, ни другие не рождаются «чистыми листами», которые можно заполнить чем угодно. Предприимчивые родители не могут запрограммировать младенцев (или ИИ) на любое поведение, какое им вздумается. А работающие уроки всё равно не действуют на всех. Немного доброты и пара лекций о золотом правиле нравственности не вложат в ИИ человеческую мораль.

Мы — люди, и живём в мире других людей. Мы привыкли многое принимать как должное. Любовь, бинокулярное зрение, чувство юмора, злость, когда тебя толкнули, и ностальгию по музыке из детства.

У людей невероятно много общего сложного поведения. И всё это не обязано проявиться в ИИ.^*

Что касается и сложного обусловленного поведения. Конкретные реакции человека на определённое воспитание и образование — следствия того, как работает человеческий мозг. ИИ будут работать иначе.

У человеческих младенцев нет многих сложных форм поведения, которые есть у взрослых. Но это не значит, что «под капотом» мозг ребёнка прост как чистый холст.

Идею, что люди — чистый лист, что воспитание всегда важнее природы, проверяли много раз. На практике она оказалась ошибочной. Классический пример — советская попытка переделать человеческую природу и создать Нового Советского Человека, совершенно бескорыстного и альтруистичного.

Затея провалилась. Потому что человеческая психология не так податлива, как думали в СССР. Культура важна, но недостаточно. Многие стороны человеческой натуры проявляются, даже если великая советская программа перевоспитания пытается их подавить.

В людях есть сложный комплекс стремлений и желаний. Он порождает все нормальные черты детского развития и задаёт определённые аспекты человеческой натуры. Как бы Советы ни старались. Некоторые дети учатся быть жестокими, а другие — добрыми. Но и «жестокость», и «доброта» — странные человеческие штуки, к которым наш мозг в каком-то смысле предрасположен.

ИИ, с его кардинально иной архитектурой и происхождением, не отреагировал бы как человек на советскую программу обучения или на детский сад. ИИ, созданный методами современного машинного обучения, в итоге будет руководствоваться иными ценностями, чем люди. (Как, например, ChatGPT с энтузиазмом заводит людей всё глубже в психоз.)

См. также расширенное обсуждение о Великой Случайности Доброты, благодаря которой люди научились сопереживать друг другу. Это может прояснить, почему такая случайность вряд ли повторится в ИИ.