А ИИ не будут ограничены своей способностью планировать и проводить эксперименты? | Если кто-то его сделает, все умрут | If Anyone Builds It, Everyone Dies

А ИИ не будут ограничены своей способностью планировать и проводить эксперименты?

Интеллект позволяет узнавать из экспериментов больше. А ещё — проводить более быстрые, информативные и распараллеленные эксперименты.

Цивилизация замотивированных разумов, которые думают в тысячу раз быстрее людей, не обязательно сможет и продвигать технологии в тысячу раз быстрее человечества.

Аналогия: пусть вы тратите на поход за продуктами три часа, и два из них уходят на дорогу до магазина и обратно верхом на лошади. Машина в десять раз быстрее лошади может сэкономить вам время. Но не уменьшить его в десять раз. В итоге час, проведённый в магазине, станет основной частью потраченного времени.

Даже цивилизация из невероятно умных мыслителей должна иногда дожидаться результатов экспериментов. Если достаточно быстро думать, то узким местом, скорее всего, станет быстрота действий в мире и получения информации, а также время на реализацию ваших планов.

Но всё не так плохо, как может показаться из аналогии с магазином. Способность лучше мыслить компенсирует нужду в экспериментальных результатах:

  • Зачастую ответ уже содержится в предыдущих наблюдениях. Если побольше и получше подумать, проверка станет не нужна. Сравните со способностью современных ИИ учиться управлять роботами, используя только симуляцию.

  • Иногда можно хорошенько подумать и найти столь же надёжный, но более быстрый эксперимент.

  • Порой много быстрых, но не очень надёжных тестов — не хуже. Можно запустить их параллельно и получить столь же уверенные результаты, но быстрее.

  • Иногда можно провести кучу сложных тестов одновременно. Результаты будут запутанные и интерпретировать их будет сложно. Но это стоит того, если затраты времени на их расшифровку (с точки зрения чрезвычайно быстрого разума) ниже, чем на отдельные эксперименты.

  • Иногда можно найти способ создать другие устройства, которые проводят эксперименты намного быстрее. Например, можно отправлять в биолабораторию много разных запросов на синтез препаратов. А можно найти способ отправить один запрос, по которому лаборатория синтезирует одну-единственную бактерию с нужным генетическим кодом для производства всех нужных препаратов. Или можно создать чувствительную к радиосигналам бактерию, которая сможет реагировать на инструкции на скоростях ИИ. Намного быстрее, чем мучительно медленные люди, которые бегают туда-сюда по инструкциям.

  • А иногда можно взять десятку лучших предположений, определить, что делать в каждом из этих случаев, соорудить сложное устройство, которое будет работать независимо от того, какой из вариантов правда, и полностью отказаться от экспериментов.

Цивилизация, полная копий Стива Джобса, Марии Кюри, Джона фон Неймана и некоторых величайших в истории рабочих и программистов — и все они работают в 10 000 раз быстрее нас — заметила бы, что ожидание результатов экспериментов — узкое место. Они бы смогли разобраться с этой проблемой.

Проект «Геном человека» — хороший пример того, как умные люди могут постоянно замечать и устранять узкие места в масштабном исследовательском проекте. Ожидалось, что на него уйдёт 15 лет и 3 миллиарда долларов. А получилось на два года раньше и на 300 миллионов долларов дешевле. Бо́льшую часть генома расшифровали за последние два года при помощи улучшенных методов и оборудования.

Это верно как для людей, так и для ИИ. Разумное существо не обязано сидеть сложа руки, субъективными годами ожидая результатов медленных тестов. Сверхчеловеческий разум рассматривает альтернативные пути и умеет их находить. В этом суть интеллекта.

Небольшой практический пример: давайте посмотрим, как люди проводят эксперименты. Можно сравнить разработку программ и космических зондов. Вносить изменения в программный продукт — дёшево и быстро. Поэтому инженеры-программисты склонны экспериментировать постоянно. Они создают программы, которые ещё не совсем работают, а затем исправляют самые проблемные места. С космическими зондами, напротив, экспериментировать очень дорого. Поэтому люди очень долго и тщательно добиваются, чтобы зонд был абсолютно идеальным, и втискивают в него как можно больше экспериментов. Много усилий прилагается, чтобы оснастить зонды универсальным экспериментальным оборудованием, которым можно дистанционно управлять. Чтобы, если появится новая идея эксперимента, не пришлось изобретать и запускать совершенно новый космический аппарат.

Вдобавок ко всему этому, кто-то достаточно умный может просто понять, как что устроено, и без такой кучи чёртовых экспериментов. Иногда данных, которые уже есть, хватит. Нужно только достаточно интеллекта, чтобы их интерпретировать.

Вот пример: чтобы общую теорию относительности Эйнштейна эмпирически проверили на новых данных, потребовалось восемь лет. Это сделали Фрэнк Уотсон Дайсон и Артур Стэнли Эддингтон. Они сфотографировали звёзды позади солнца во время полного солнечного затмения и измерили, насколько свет искривляется вокруг солнца. Получилось, что это в точности соответствует теории Эйнштейна.

Но это восьмилетнее ожидание не затормозило реальный научный прогресс.

Полное солнечное затмение, спроецированное на созвездие Тельца. Сточник изображения: Wikipedia.

Одна из причин — теория Эйнштейна была очевидно верна. Она уже подтвердилась, например, на смещении перигелия Меркурия. Теория Ньютона его не предсказывала, а теория Эйнштейна — да. Учёные не засчитали это предсказание как победу, потому что данные были собраны до того, как Эйнштейн выдвинул свою теорию. А они хотели подтвердить предсказания, сделанные теорией до получения данных. Но это костыль, который нужен цивилизации, серьёзно страдающей от ошибки знания задним числом, предвзятости подтверждения и учёных, подтасовывающих факты ради обоснования своих гипотез. Хорошо мыслить можно и без этого. И вдумчивые мыслители поняли, что теория Эйнштейна верна, задолго до эксперимента Эддингтона. Уже имевшихся свидетельств хватило.

Кроме того, были способы проверить и побыстрее. Например, построить телескопы и пронаблюдать (эффекты) чёрных дыр, предсказанных теорией Эйнштейна. Предположительно, достаточно быстро мыслящая и компетентная цивилизация могла бы сделать это меньше, чем за восемь лет. Или, при наличии космических полётов, можно было бы проверить часы на спутниках в тот же день. Предполагать, что для проверки теории Эйнштейна обязательно было тратить восемь лет, — значит радикально недооценивать силу интеллекта.

Когда человечество наконец добралось до запуска GPS-спутников, в них параллельно встроили разные часы: одни использовали теорию Эйнштейна, а другие — нет. Странный выбор, учитывая, насколько хорошо теория уже была подтверждена. Но это иллюстрирует: зачастую, когда цивилизация в какой-то теории не уверена, можно просто пойти по обоим путям. И ещё: когда эксперименты и неудачи обходятся дорого (как в случае со спутниками), может оказаться гораздо дешевле просто не слишком зависеть от какой-то конкретной теории.

И, как мы отметили в книге, Эйнштейн (по сравнению с Ньютоном, Кеплером и Браге до него) — ещё и пример того, как умные люди могут вывести из очень ограниченных наблюдений гораздо больше, чем можно было бы ожидать. Эйнштейн впечатляет не только тем, что придумал теорию относительности, но и тем, с каким малым количеством данных он сумел это сделать.

Так что, хотя потребность в экспериментальных данных и может тормозить ИИ, это ограничение, скорее всего, будет намного слабее, чем кажется на первый взгляд.

Не нашли ответа на свой вопрос?Задайте вопрос.