Arbital на русском

Картезианский агент

Картезианский (декартов) агент — это агент, представляющий собой систему, отдельную от окружающей среды, окруженную картезианской границей, через которую проходит сенсорная информация и двигательные сигналы. Чаще всего этот агент формально описывается с помощью пары разных машин Тьюринга: машины-“агента” и машины-“среды”. Агент получает сенсорную информацию от среды и выводит двигательную информацию; среда же получает двигательную информацию от агента и вычисляет сенсорную информацию для него.

Реальный человек, напротив — «натуралистический агент», непрерывная часть вселенной. Человек — это одна конкретная совокупность атомов внутри физической вселенной, атомы внутри человека и атомы снаружи не относятся к каким-то разным типам. Употребление в пищу некоторых видов грибов может заставить вас иначе мыслить; а если вы разобьете свою голову о наковальню, это не только заставит вас ощутить наковальню или получить болевой сигнал, но и повредит ваш вычислительный субстрат и вызовет потерю возможности чувствовать какую-либо сенсорную информацию в будущем.

В контексте теории согласования ИИ картезианские агенты обычно связаны с оптимизацией сенсорного вознаграждения: есть какой-то конкретный компонент входных данных от окружающей среды, который является «сигналом вознаграждения», или агент пытается оптимизировать какую-то непосредственно вычисляемую функцию от сенсорных данных.


Категории: Methodology of unbounded analysis
Оригинал: Cartesian agent (читать на GreaterWrong)    Перевод: К. Кирдан (добавлены ссылки)

Материалы распространяются по лицензии CC BY 3.0