«Программисты» тех или иных продвинутых агентов — это люди, которые их создают.

Слово «программист» не подразумевает, что ИИ был закодирован как фиксированный алгоритм, а затем запущен. Это просто компактный термин, который мы используем для обозначения создателей ИИ. (Процесс создания может, например, включать в себя явные кодирование алгоритмов, обучение агента, ознакомление агента с конкретным опытом, маркировку его опыта для последующего обучения с учителем, или любые другие процессы обучения, занимающие много лет.)

Многие предложения по структуре предпочтений для ИИ или по решению задачи идентификации ценностей требуют, чтобы ИИ явно моделировал программистов и еще до этого выяснял, какие объекты внутри его представлений об окружающей среде являются программистами. Это задачи моделирования программиста и идентификации программиста соответственно.