Достаточно продвинутый Искусственный Интеллект — это когнитивный агент или когнитивный алгоритм с возможностями достаточно значительными, чтобы нам пришлось думать о нем качественно отличным образом по сравнению с роботизированными автомобилями; машинный интеллект достаточно умный, чтобы нам пришлось разрабатывать теорию согласования ИИ для работы с ним.

Например, вероятно, нам не нужно беспокоиться о том, что ИИ попытается помешать нам нажать на его выключатель, пока ИИ не знает, что (а) у него есть выключатель и что (б) нажатие на выключатель помешает ему достичь других его целей.

Это знание, в свою очередь, — особый случай стратегического понимания общей картины, которое может появиться у общего искусственного интеллекта в результате изучения многих фактов о многих областях.

На странице о свойствах продвинутых агентов перечисляются некоторые из возможных вариантов того, как ИИ может быть «‎достаточно умным» в этом смысле, а также конкретные проблемы, которые могут появиться с настолько умным ИИ.