Arbital на русском

Пространство устройств разума широко

Представьте себе огромное пространство возможных устройств разума, в котором все когда-либо жившие люди представляют собой одну крошечную точку. У всех нас одна и та же кора головного мозга, мозжечок, таламус и так далее. Есть побуждение представить «искусственные интеллекты» как своего рода странное племя, живущее за рекой, и спросить, какие у этого племени чужаков могут быть особенные обычаи. Но на самом деле понятие «искусственный интеллект» относится просто ко всему пространству возможностей за пределами крошечной человеческой точки. Поэтому на большинство вопросов об ИИ ответ может быть таким: «это зависит от точного устройства разума ИИ». По схожим соображениям универсальное утверждение обо всех возможных ИИ гораздо более сомнительно, чем утверждение о хотя бы одном ИИ. Если представить, что в огромном пространстве всех устройств разума есть по крайней мере миллиард параметров с двоичными значениями, то это значит, что существует по меньшей мере $2^{1000000000}$ различных устройств разума. Тогда мы можем сказать, что любое утверждение вида «все возможные устройства разума имеют свойство P» имеет $2^{1000000000}$ шансов оказаться ложным, тогда как любое утверждение вида «существует хотя бы одно устройство разума, имеющее свойство P» имеет $2^{1000000000}$ шансов оказаться истинным. Это не мешает нам думать о свойствах, которые могли бы иметь большинство устройств разума. Но это предполагает, что если нам не нравится какое-то свойство $P$, которое обычно имеет место, то возможно мы могли бы найти какой-то особый вариант устройства разума, который необычен тем, что не имеет свойства $P$.


Категории: Orthogonality Thesis
Оригинал: Mind design space is wide (читать на GreaterWrong)    Перевод: К. Кирдан

Материалы распространяются по лицензии CC BY 3.0