Будет ли ИИ умнее людей обладать сознанием?

Ресурсы

›

Глава 5

А разве затраты на сохранение человечества не будут пренебрежимо малы для мощного ИИ?

Пренебрежимых затрат много. Нужна причина, чтобы понести именно эти. 2 мин чтения

Разве ИИ не сочтёт нас занятными или исторически важными?

Если ИИ ценит «занятность», у него, вероятно, есть варианты и получше. 3 мин чтения

Разве ИИ не признает нашу неотъемлемую моральную ценность?

Не в том смысле, что она будет мотивировать его действия. 1 мин чтения

Разве ИИ не захочет, чтобы мы были счастливы и здоровы? Ради сохранения экологии или из-за какого-то похожего стремления?

Человеческое стремление к сохранению экологии кажется ещё одним странным и случайным побуждением. 3 мин чтения

Но мы вот оставили лошадей. Что б ИИ не оставить нас?

Лошади, какие остались, остались только потому, что они нам нравятся. 1 мин чтения

Неужели ИИ не будет хоть немного ценить людей?

Не так, как нужно. 9 мин чтения

Так есть хоть какой-то шанс, что ИИ оставит нас в живых?

Гораздо вероятнее, что ИИ убьёт всех. 1 мин чтения

Люди пытаются сделать ИИ дружелюбным. Разве это совсем не имеет значения?

Имеет. Но попыток недостаточно. 1 мин чтения

А можно заставить ИИ пообещать быть дружелюбным?

Пообещать он может что угодно. А вот заставить его сдержать обещания — нельзя. 1 мин чтения

А если заставить ИИ думать, будто он в симуляции?

У ИИ есть много способов догадаться, что он не в симуляции. 4 мин чтения

Люди стали эгоистичными, агрессивными и жадными в ходе эволюции. Откуда таким стремлениям взяться у ИИ?

Мотивация заполучать ресурсы есть и без них. 1 мин чтения

А разве ИИ не будет заботить только цифровой мир?

Нет никакого «цифрового мира», независимого от физической инфраструктуры. 1 мин чтения

Может, достаточно удовлетворённый ИИ просто оставит нас в покое?

Вряд ли. 4 мин чтения

Может, просто сделать его ленивым?

Даже лень небезопасна. 1 мин чтения

Люди, становясь умнее или мудрее, обычно и добреют. А с ИИ не так же?

Вероятно, нет. 1 мин чтения

Разве он не поймёт, что его цели скучны?

ИИ не будет руководствоваться человеческим чувством интересности. 1 мин чтения

Почему вы считаете, что умный ИИ будет заниматься такими глупыми, пустяковыми вещами?

ИИ могут с умом стремиться к нечеловеческим целям. 3 мин чтения

Вы просто пессимисты?

Мы оптимисты по поводу кучи всего. Просто суперинтеллект не похож на остальное. 5 мин чтения

Мы не знаем. Предполагаем, что скорее нет. 1 мин чтения

Почему вас заботят только человеческие ценности?

Это не так! Наши ценности широки и космополитичны. Мы не думаем, что ИИ их исполнит, и считаем это большой трагедией. 9 мин чтения

Не нашли ответа на свой вопрос?Задайте вопрос.

Будет ли ИИ умнее людей обладать сознанием?

Мы не знаем. Предполагаем, что скорее нет.

Посчитает ли ИИ полезным нас оставить?

Будет ли ИИ относиться к нам как к своим «родителям»?

А ИИ не потребуются работающие законы?

А разве затраты на сохранение человечества не будут пренебрежимо малы для мощного ИИ?

Разве ИИ не сочтёт нас занятными или исторически важными?

Разве ИИ не признает нашу неотъемлемую моральную ценность?

Разве ИИ не захочет, чтобы мы были счастливы и здоровы? Ради сохранения экологии или из-за какого-то похожего стремления?

Но мы вот оставили лошадей. Что б ИИ не оставить нас?

Неужели ИИ не будет хоть немного ценить людей?

Так есть хоть какой-то шанс, что ИИ оставит нас в живых?

Люди пытаются сделать ИИ дружелюбным. Разве это совсем не имеет значения?

А можно заставить ИИ пообещать быть дружелюбным?

А если заставить ИИ думать, будто он в симуляции?

Люди стали эгоистичными, агрессивными и жадными в ходе эволюции. Откуда таким стремлениям взяться у ИИ?

А разве ИИ не будет заботить только цифровой мир?

Может, достаточно удовлетворённый ИИ просто оставит нас в покое?

Может, просто сделать его ленивым?

Люди, становясь умнее или мудрее, обычно и добреют. А с ИИ не так же?

Разве он не поймёт, что его цели скучны?

Почему вы считаете, что умный ИИ будет заниматься такими глупыми, пустяковыми вещами?

Вы просто пессимисты?

Будет ли ИИ умнее людей обладать сознанием?

Почему вас заботят только человеческие ценности?

Расширенное обсуждение

Как взглянуть с точки зрения ИИ?

Люди почти никогда не бывают самым эффективным решением