Почему вы думаете, что люди могут создать сверхчеловеческий ИИ, если они даже не понимают, что такое интеллект?
Предыдущие успехи в области ИИ не требовали глубокого понимания интеллекта.
Как мы уже описывали в Главе 2, своих недавних достижений сфера ИИ добилась с помощью градиентного спуска — процесса, который понимания интеллекта не требует. Люди довольно далеко зашли и так.
Естественному отбору не нужно было «понимать» интеллект.
Эволюция смогла создать человеческий интеллект. При этом естественному отбору никогда не требовалось понимать, что это такое. Понимание на практике может быть или не быть полезным. Но идея, что для создания чего-то нужно обязательно это понять, не выдерживает критики.