Нас много спрашивали, в том числе члены Палаты представителей и Сената США: какие конкретные законы тут реально помогут?

Мы не эксперты по политике. Но возможных вариантов ответа много. Есть законы, которые легче принять сегодня, но они менее полезны. Это, скорее, ступеньки к более амбициозным актам. А есть те, которые принять труднее, но зато они направлены на ключевые проблемы. О вторых мы можем сказать куда больше, чем о первых. Команда MIRI по техническому управлению составила предварительный черновик такого предложения.

Этот набросок договора рассчитан на мир, где лидеры осознали реальность ИИ умнее людей. Мы (пока мы это пишем) не ожидаем, что его примут завтра. Но, когда мир лучше осознает опасность, ратифицировать такой договор может стать не так уж сложно. А этот процесс уже начался и, надеемся, продолжится. (См. раздел «Признают ли опасность выборные представители власти?» выше.)

Черновик договора с множеством примечаний — последняя часть этих материалов. Мы опирались на исторические прецеденты других договоров. Они упомянуты в тексте. Снова подчеркнём: это отправная точка, а не конечная. Мы не эксперты в политике. Мы могли допустить глупые ошибки. Тем не менее, надеемся, этот черновик послужит вдохновением и примером того, что такой договор возможен и что он не так уж отличается от прошлых законодательных усилий.