Это онлайн-дополнение к 11-й главе «Если кто-то его сделает, все умрут». В ней обсуждались подходы современных ИИ-лабораторий к согласованию сильного искусственного интеллекта. Ответы на эти вопросы — в книге:

• Как оценить нынешнюю готовность ИИ-компаний к решению проблемы согласования СИИ?

• Какое место занимают исследования интерпретируемости — попытки читать и понимать мысли ИИ?

• А нельзя просто поручить ИИ решить эту задачу за нас?

Ниже мы разбираем несколько идей по согласованию и внедрению ИИ. Ещё обсудим поводы для оптимизма. И аргументы, которые приводят в пользу развития передового ИИ, несмотря на общую мрачную картину.