Arbital на русском

Система предпочтений

«‎‎Системой предпочтений» называется фиксированный алгоритм, который обновляет или, возможно, изменяет другими способами то, что агент предпочитает в качестве конечных итогов. Этот термин более общий, чем «‎‎функция полезности», и включает структурно усложненные обобщения функций полезности.

В качестве центрального примера можно привести идею полезностной индиферрентности, в которой агент преключается между разными функциями полезности $U_X$ и $U_Y$ в зависимости от того, нажат ли некоторый переключатель. Эту мета-систему мы назовем «‎‎системой предпочтений», чтобы избежать автоматического предположения, что она воплощается в какой-то VNM-когерентной функции полезности.

Еще более общим термином был бы «алгоритм принятия решений», не предполагающий, что агент действует, выбирая предпочтительные исходы.


Категории: Задача согласования ценностей
Оригинал: Preference framework (читать на GreaterWrong)    Перевод: К. Кирдан

Материалы распространяются по лицензии CC BY 3.0