Иногда предлагается создать ИИ, призванный максимизировать человеческое счастье. (Одним из ранних предложений было научить ИИ распознавать изображения людей с улыбающимися лицами, а затем использовать такие распознанные изображения в качестве подкрепления в процессе обучения, чтобы взрослая версия ИИ ценила счастье.) С подобным подходом многое может пойти предсказуемо не так, как надо.