Это онлайн-дополнение ко второй главе «Если кто-то его сделает, все умрут». Ниже мы обсудим, как работают современные ИИ и почему это не «просто ещё одна машина» или «просто ещё один инструмент». Хоть ИИ — это код, работающий на компьютерах, они не похожи на традиционные, написанные вручную программы. ИИ нарушают многие допущения, которые люди обычно принимают, имея дело с человеческими изобретениями.

Вопросы, которые мы не рассматриваем ниже, потому что они разобраны в самой книге:

• В каком смысле современные ИИ «выращивают», а не аккуратно собирают или проектируют?

• Как выращивают нынешние ИИ?

• Что такое «градиентный спуск»? Как этот несложный процесс может порождать сложные ИИ с гибкими способностями?

• Насколько сильно эти ИИ могут от нас отличаться?