Неоднозначность: для исследовательской темы, включающей в себя всю доктрину о том, как и почему производить хорошие ИИ, см. согласование ИИ.
«Задача согласования ценностей» заключается в создании достаточно продвинутого машинного интеллекта, который хочет делать благоприятные вещи и не делает вредных. Наиболее ярко вырисовывающаяся здесь подзадача — это «идентификация ценностей» или «обучение ценностям» (иногда считается синонимом согласования ценностей). Но также сюда включены такие подзадачи, как корректируемость, — то есть, такие ценности ИИ, что он не хотел бы мешать вам исправлять то, что вы считаете ошибкой в его коде.