Arbital на русском

Доброжелательность — первая линия обороны

Первая линия обороны при построении любого достаточно продвинутого искусственного общего интеллекта — это сделать ИИ таким, чтобы он не хотел навредить вам. Любые другие меры, такие как запирание ИИ или попытки помешать ИИ получить доступ к Интернету, должны рассматриваться только в качестве запасных — на случай, если эта первая линия обороны не сработает. При разработке ОИИ мы должны в первую очередь мыслить так, как если бы всех этих мер сопротивления не существовало, — чтобы не отвлекаться от попыток обрисовать такой ОИИ, который — независимо от того, сколько у него сил — не захотел бы навредить нам.

См. также принцип невраждебности и различия между направлением, ограничением и противостоянием.


Категории: Non-adversarial principle
Оригинал: Niceness is the first line of defense (читать на GreaterWrong)    Перевод: К. Кирдан

Материалы распространяются по лицензии CC BY 3.0