«Обобщённый интеллект» — осмысленное понятие? | Если кто-то его сделает, все умрут | If Anyone Builds It, Everyone Dies

«Обобщённый интеллект» — осмысленное понятие?

Да.

Сапсан может пикировать со скоростью 380 километров в час. Кашалот может нырять на мили вглубь океана. Сапсан утонул бы в море, а кит бы плюхнулся обратно, попробуй он взлететь. Но люди как-то сделали себе металлические оболочки и смогли полететь быстрее сапсана, а нырнуть глубже кита.

В эволюционном окружении наших предков не было ни глубокого океана, ни отбора по умению парить в небе. Мы справились с этими и многими другими задачами не благодаря особым инстинктам, а исключительно за счёт универсальности нашего разума.

Каким-то образом наши предки прошли отбор на умение в самом общем смысле хорошо решать задачи, хотя они и редко сталкивались с инженерной задачей сложнее, чем сделать копьё.

Это умение у людей идеально? Очевидно, нет. Люди, кажется, неспособны научиться играть в шахматы на уровне лучших шахматных ИИ, по крайней мере, с ограниченным временем на партию. Сверхчеловеческий уровень игры в шахматы очевидно возможен, но людям без посторонней помощи не доступен. Наш интеллект не универсален — то есть мы не можем научиться делать всё физически возможное.* Эта «универсальность» людей не означает способности делать что угодно одним лишь мозгом. Но всё же человеческие способности учиться и решать новые задачи несравненно более общие, чем у узкоспециализированного шахматного ИИ вроде Deep Blue.

Однако эта «обобщённость» — не триггер, не «есть или нет». Наблюдаются разные уровни.

Deep Blue был не очень универсален — не мог управлять ничем, кроме шахматной доски. Умел находить выигрышные ходы, но не ездить в магазин за молоком. Тем более он не подходил, чтобы изучать законы гравитации и проектировать ракету до луны. Deep Blue не умел играть даже в другие настольные игры, будь то простые шашки или более сложная го.

Для контраста возьмём AlphaGo — ИИ, который наконец одолел го. Алгоритмы, лежащие в его основе, отлично умеют играть и в шахматы. Го не поддалось первому же найденному человечеством шахматному алгоритму. Но вариант первого же алгоритма для го смог побить рекорды в шахматах, а заодно преуспел в видеоиграх на Atari. Пока что новые алгоритмы не умеют ходить в магазин за молоком, но они уже более общие.

Оказывается, одни виды интеллекта гораздо обобщённее других.

* Формальное определение «универсального интеллекта» предложили Легг и Хаттер в 2007 году. 

Не нашли ответа на свой вопрос?Задайте вопрос.