«Дружественный ИИ» (ДИИ) — это старый термин, введенный Юдковским для обозначения продвинутого ИИ, успешно согласованного с какой-нибудь идеализированной версией человеческих ценностей, — например, с экстраполированным волением. В текущем употреблении термина присутствует легкий оттенок значительной суверенности ИИ и/или его способности идентифицировать желаемые для себя последствия на стратегическом уровне, поскольку это тот сценарий, который Юдковский первоначально предполагал. «Недружественный ИИ» (НДИИ) означает ИИ, который специально нацелен на негуманные цели, например, максимизатор скрепок. (Обратите внимание: это значит, что есть вещи, которые не являются ни ДИИ, ни НДИИ. Например, джинны, которые рассматривают только краткосрочные цели. Или, если уж на то пошло, камни.)