Arbital на русском

Некоторые вычисления являются людьми

Это утверждение верно, если по крайней мере некоторые возможные вычисления (не обязательно те, которые могут быть выполнены на современных компьютерах) обладают сознанием, разумностью или какими-либо другими свойствами, необходимыми для того, чтобы сделать их людьми и, следовательно, объектами этической ценности.

Ключевой аргумент: большинство экспертов в предметной области1 считают, что люди сами (а) вычислимы по Тьюрингу и (б) обладают сознанием благодаря тем вычислениям, которые производят. Другими словами, вы сами являетесь сознательным алгоритмом. Если вы считаете себя личностью, то вы считаете личностью хотя бы одну компьютерную программу (себя).

Вот почему некоторые эксперты в данной области могут быть очень уверены в этом утверждении, несмотря на наличие моральных подвопросов о том, какие именно свойства необходимы для того, чтобы быть личностью. Если вы принимаете как должное тезис Чёрча-Тьюринга, утверждающий, что всё в физической вселенной, а следовательно и люди, вычислимо, то, разумеется, некоторые компьютерные программы (такие как вы) могут быть людьми или иметь любые другие свойства, которые мы связываем с людьми.

Это утверждение относится к классу тем, которые некоторые люди относят к невероятно глубоким и нагруженным философским вопросам, а другие — к невероятно глубоким философским вопросам, на которые есть ясные и известные ответы.

Проголосовали за справедливость этого утверждения с указанной вероятностью (21 голос):

  1. Скорее всего имеется в виду раздел «Согласование ИИ» на оригинальном сайте Arbital, т. к. здесь были представлены лишь результаты голосования с самого сайта — прим. пер. ↩

Категории: Согласование ИИ  
Оригинал: Some computations are people (читать на GreaterWrong)    Перевод: К. Кирдан
Материалы распространяются по лицензии CC BY 3.0