“Благотворно” [beneficial] — термин, зарезервированный в теории согласования ИИ для зависящей от говорящего переменной, обозначающей все, что говорящий имеет в виду под, например, «нормативным» или «по-настоящему хорошим» или «результатами, которые я в итоге хочу видеть». Если говорящий использует в качестве своей метаэтической теории экстраполированное волеизъявление, то “благотворное” будет означать «хорошее в соответствии с экстраполированным волеизъявлением говорящего». Тот, у кого еще нет развитой метаэтической теории, будет использовать “благотворно” для обозначения «то, чего я в идеале должен хотеть, — что бы это, черт возьми, ни значило». Предполагать, что событие, агент или политика были “благотворными” — значит предполагать, что они были поистине хорошими без ошибок в оценке хорошести. Теории согласования ИИ иногда требуется это слово, потому что когда мы говорим о том, как сложно сделать ИИ благотворным, мы можем пожелать обсудить трудности, связанные с тем, чтобы сделать его по-настоящему хорошим, а не таким, чтобы он просто заставил нас верить, что он хорош. Для подробностей см. «Ценность».