А ИИ не будут ограничены своей способностью планировать и проводить эксперименты?
Интеллект позволяет узнавать из экспериментов больше. А ещё — проводить более быстрые, информативные и распараллеленные эксперименты.
Цивилизация замотивированных разумов, которые думают в тысячу раз быстрее людей, не обязательно сможет и продвигать технологии в тысячу раз быстрее человечества.
Аналогия: пусть вы тратите на поход за продуктами три часа, и два из них уходят на дорогу до магазина и обратно верхом на лошади. Машина в десять раз быстрее лошади может сэкономить вам время. Но не уменьшить его в десять раз. В итоге час, проведённый в магазине, станет основной частью потраченного времени.
Даже цивилизация из невероятно умных мыслителей должна иногда дожидаться результатов экспериментов. Если достаточно быстро думать, то узким местом, скорее всего, станет быстрота действий в мире и получения информации, а также время на реализацию ваших планов.
Но всё не так плохо, как может показаться из аналогии с магазином. Способность лучше мыслить компенсирует нужду в экспериментальных результатах:
Зачастую ответ уже содержится в предыдущих наблюдениях. Если побольше и получше подумать, проверка станет не нужна. Сравните со способностью современных ИИ учиться управлять роботами, используя только симуляцию.
Иногда можно хорошенько подумать и найти столь же надёжный, но более быстрый эксперимент.
Порой много быстрых, но не очень надёжных тестов — не хуже. Можно запустить их параллельно и получить столь же уверенные результаты, но быстрее.
Иногда можно провести кучу сложных тестов одновременно. Результаты будут запутанные и интерпретировать их будет сложно. Но это стоит того, если затраты времени на их расшифровку (с точки зрения чрезвычайно быстрого разума) ниже, чем на отдельные эксперименты.
Иногда можно найти способ создать другие устройства, которые проводят эксперименты намного быстрее. Например, можно отправлять в биолабораторию много разных запросов на синтез препаратов. А можно найти способ отправить один запрос, по которому лаборатория синтезирует одну-единственную бактерию с нужным генетическим кодом для производства всех нужных препаратов. Или можно создать чувствительную к радиосигналам бактерию, которая сможет реагировать на инструкции на скоростях ИИ. Намного быстрее, чем мучительно медленные люди, которые бегают туда-сюда по инструкциям.
А иногда можно взять десятку лучших предположений, определить, что делать в каждом из этих случаев, соорудить сложное устройство, которое будет работать независимо от того, какой из вариантов правда, и полностью отказаться от экспериментов.
Цивилизация, полная копий Стива Джобса, Марии Кюри, Джона фон Неймана и некоторых величайших в истории рабочих и программистов — и все они работают в 10 000 раз быстрее нас — заметила бы, что ожидание результатов экспериментов — узкое место. Они бы смогли разобраться с этой проблемой.
Проект «Геном человека» — хороший пример того, как умные люди могут постоянно замечать и устранять узкие места в масштабном исследовательском проекте. Ожидалось, что на него уйдёт 15 лет и 3 миллиарда долларов. А получилось на два года раньше и на 300 миллионов долларов дешевле. Бо́льшую часть генома расшифровали за последние два года при помощи улучшенных методов и оборудования.
Это верно как для людей, так и для ИИ. Разумное существо не обязано сидеть сложа руки, субъективными годами ожидая результатов медленных тестов. Сверхчеловеческий разум рассматривает альтернативные пути и умеет их находить. В этом суть интеллекта.
Небольшой практический пример: давайте посмотрим, как люди проводят эксперименты. Можно сравнить разработку программ и космических зондов. Вносить изменения в программный продукт — дёшево и быстро. Поэтому инженеры-программисты склонны экспериментировать постоянно. Они создают программы, которые ещё не совсем работают, а затем исправляют самые проблемные места. С космическими зондами, напротив, экспериментировать очень дорого. Поэтому люди очень долго и тщательно добиваются, чтобы зонд был абсолютно идеальным, и втискивают в него как можно больше экспериментов. Много усилий прилагается, чтобы оснастить зонды универсальным экспериментальным оборудованием, которым можно дистанционно управлять. Чтобы, если появится новая идея эксперимента, не пришлось изобретать и запускать совершенно новый космический аппарат.
Вдобавок ко всему этому, кто-то достаточно умный может просто понять, как что устроено, и без такой кучи чёртовых экспериментов. Иногда данных, которые уже есть, хватит. Нужно только достаточно интеллекта, чтобы их интерпретировать.
Вот пример: чтобы общую теорию относительности Эйнштейна эмпирически проверили на новых данных, потребовалось восемь лет. Это сделали Фрэнк Уотсон Дайсон и Артур Стэнли Эддингтон. Они сфотографировали звёзды позади солнца во время полного солнечного затмения и измерили, насколько свет искривляется вокруг солнца. Получилось, что это в точности соответствует теории Эйнштейна.
Но это восьмилетнее ожидание не затормозило реальный научный прогресс.
Полное солнечное затмение, спроецированное на созвездие Тельца. Сточник изображения: Wikipedia.
Одна из причин — теория Эйнштейна была очевидно верна. Она уже подтвердилась, например, на смещении перигелия Меркурия. Теория Ньютона его не предсказывала, а теория Эйнштейна — да. Учёные не засчитали это предсказание как победу, потому что данные были собраны до того, как Эйнштейн выдвинул свою теорию. А они хотели подтвердить предсказания, сделанные теорией до получения данных. Но это костыль, который нужен цивилизации, серьёзно страдающей от ошибки знания задним числом, предвзятости подтверждения и учёных, подтасовывающих факты ради обоснования своих гипотез. Хорошо мыслить можно и без этого. И вдумчивые мыслители поняли, что теория Эйнштейна верна, задолго до эксперимента Эддингтона. Уже имевшихся свидетельств хватило.
Кроме того, были способы проверить и побыстрее. Например, построить телескопы и пронаблюдать (эффекты) чёрных дыр, предсказанных теорией Эйнштейна. Предположительно, достаточно быстро мыслящая и компетентная цивилизация могла бы сделать это меньше, чем за восемь лет. Или, при наличии космических полётов, можно было бы проверить часы на спутниках в тот же день. Предполагать, что для проверки теории Эйнштейна обязательно было тратить восемь лет, — значит радикально недооценивать силу интеллекта.
Когда человечество наконец добралось до запуска GPS-спутников, в них параллельно встроили разные часы: одни использовали теорию Эйнштейна, а другие — нет. Странный выбор, учитывая, насколько хорошо теория уже была подтверждена. Но это иллюстрирует: зачастую, когда цивилизация в какой-то теории не уверена, можно просто пойти по обоим путям. И ещё: когда эксперименты и неудачи обходятся дорого (как в случае со спутниками), может оказаться гораздо дешевле просто не слишком зависеть от какой-то конкретной теории.
И, как мы отметили в книге, Эйнштейн (по сравнению с Ньютоном, Кеплером и Браге до него) — ещё и пример того, как умные люди могут вывести из очень ограниченных наблюдений гораздо больше, чем можно было бы ожидать. Эйнштейн впечатляет не только тем, что придумал теорию относительности, но и тем, с каким малым количеством данных он сумел это сделать.
Так что, хотя потребность в экспериментальных данных и может тормозить ИИ, это ограничение, скорее всего, будет намного слабее, чем кажется на первый взгляд.