Ограниченно рациональные агенты

• Имеют вероятностные модели мира.
• Обновляют эти модели в ответ на получаемую сенсорную информацию.
  • Идеальный алгоритм обновления — байесовский вывод, но он требует слишком много вычислительной мощности, поэтому ограниченным агентам приходится использовать какую-нибудь ограниченную альтернативу.
  • Подразумевается, что у агентов есть что-то вроде штрафов за сложность выдвигаемых гипотез, или бритвы Оккама. Без этого байесовский вывод не очень сильно ограничивал бы результаты эпистемических размышлений.
• Имеют предпочтения между событиями или состояниями мира, которые количественно выражаются функцией полезности, отображающей эти события или состояния на скалярное поле.
  • Чтобы их можно быть комбинировать с эпистемическими состояниями неопределенности (вероятностями), предпочтения должны иметь количественное выражение, а не просто упорядочивать.
• Консеквенциалисты: оценивают ожидаемые последствия действий и выбирают действие на основе предпочтений.
  • Ограниченные агенты не могут оценить все возможные действия, поэтому не могут достичь буквального максимума ожидаемой полезности, кроме как в очень простых случаях.
• Действуют в реальном времени в зашумленной, неопределенной среде.

Аргументы о том, почему достаточно разумные агенты будут представлять из себя ограниченно рациональных в том или ином плане, см. по ссылкам:

• Релевантные могущественные агенты будут высокооптимизированными
• Достаточно оптимизированные агенты представляются когерентными

Экономические агенты

• Достигают своих целей путем эффективного распределения ограниченных ресурсов — включая, например, время, деньги или негэнтропию.
• Пытаются найти новые пути, чтобы обойти препятствия к достижению цели.
• Предсказывают действия других агентов.
• Пытаются координировать свои действия с другими агентами, манипулировать ими или мешать им (в соответствии с собственными целями или полезностями).
• В планировании соответствующим образом реагируют как на отрицательные стимулы (штрафы), так и на положительные стимулы (награды), а также могут рассматривать стратегии, позволяющие избежать штрафов или получить вознаграждения, которые не были предвидимы создателями стимулирующей системы.

Натуралистические агенты

• Встроены в более крупную вселенную и сделаны из того же материала, что и другие вещи в этой вселенной (согласно нашим текущим представлениям о физике — это волновая функция).
• Их неопределенность о среде — это непределенность о том, какая именно естественная вселенная их вмещает (какая материальная структура лежит в основе доступных их сенсорных и интроспективных данных).
• Некоторые из доступных им действий могут изменять их сенсоры, органы или вычислительный субстрат.
• Достаточно могущественные натуралистические агенты могут создавать других агентов из ресурсов, доступных внутри них, или в их среде, или расширять свой разум за счет внешних вычислительных ресурсов.
• Их сенсорные и когнитивные возможности, возможности принимать решения и действовать — могут быть распределены по пространству и времени и занимать множество субстратов; применимость понятия «‎‎агента» не требует, чтобы у него было маленькое локальное тело робота.

Пример ненатуралистического агента: картезианский агент.