Риски астрономических страданий

Если мы создадим искусственный сверхинтеллект, как наш контроль над ним отразится на том, сколько страданий будет во вселенной?

Стоит ли выступать за приостановку разработок искусственного интеллекта? Автор считает, что, несмотря на тревожную ситуацию с безопасностью ИИ, это не так уж и очевидно.

Зачем нужна кооперативность — дружелюбие, уважение и готовность идти на компромиссы с другими, даже если их ценности сильно отличаются от ваших?

Что, если созданный людьми искусственный интеллект когда-нибудь получит способность к субъективным переживаниям и будет массово подвергаться страданиям?