Конечно, я так и не написал «важную» историю, продолжение истории о первом усиленном человеке. Однажды я попробовал сделать нечто подобное. Письмо Джона Кэмпбелла с отказом начиналось так: «Извините, но вы не можете написать эту историю. И никто другой не может». Мораль: держите своих сверхлюдей за сценой или работайте с ними, когда они еще дети («Дети атома» Вильмара Шираса) или когда они замаскированы (собственный рассказ Кэмпбелла «Идеалисты»). (Есть еще одна возможность, о которой Джон никогда не упоминал, общаясь со мной: со сверхчеловеком можно управиться, когда он/она состарится. Такой вариант был использован в одном из эпизодов телесериала «Кварк», и это имело очень занимательный эффект.)

Рассказ «Беги, книжный червь!» и его урок были важны для меня. В нем я попробовал прямую экстраполяцию технологии и обнаружил, что падаю в пропасть. С этой проблемой писатели сталкиваются каждый раз, когда задумываются о создании форм разума, превосходящих наш собственный. Когда это произойдет, человеческая история достигнет своего рода сингулярности — места, где экстраполяция перестает работать и приходится применять новые модели — и мир выходит за пределы нашего понимания. В той или иной форме эта технологическая сингулярность преследует многих писателей-фантастов: такой умный человек, как Марк Твен, может предсказать телевидение, но подобная экстраполяция всегда будет за рамками понимания, скажем, собаки. Лучшее, что мы, писатели, можем сделать, — это подкрасться к Сингулярности и повиснуть у ее края.

— Вернон Виндж, «Истинные имена и другие опасности» (True Names and other Dangers, p. 47).

Закон Винджа (в перефразировке Юдковского) гласит: персонажи не могут быть значительно умнее своих создателей. У вас не может быть реалистичного персонажа, который был бы намного умнее автора, потому что, чтобы действительно знать, как будет думать такой персонаж, вам самому нужно быть настолько же умным.

(В нон-фикшн форме мы называем эту идею принципом Винджа и рассматриваем ее под заголовком неопределенности Винджа: вы не можете точно предсказать действия агентов, которые умнее вас, хотя вы можете предсказать, что они успешно достигнут своих целей. Если бы вы могли точно предсказывать, какие ходы на шахматной доске сделает Deep Blue), вы и сами могли бы играть в шахматы столь же хорошо, — если бы ходили также, как, по вашим прогнозам, ходил бы Deep Blue.)

Что касается литературной формы идеи, Виндж предлагает держать сверхчеловеческие разумы вне поля зрения или иметь с ними дело только после того, как какая-нибудь катастрофа низведет их до уровня смертных.

В «Руководстве по умным персонажам» Юдковского предполагается, что у автора есть ограниченные способы обмануть закон Винджа, но они заходят лишь настолько далеко:

• Автор может намеренно внедрить ресурсы, помогающие найти решение, в предыдущие главы, в то время как персонаж должен решать проблемы на лету.

• Автор может выбирать только такие головоломки, которые его персонаж способен решить, в то время как персонаж, похоже, справляется со всеми вызовами реальности.

• Автор может заявить, что то, что кажется действительно хорошей идеей, сработает на самом деле, тогда как в реальной жизни разрыв между «кажется отличной идеей» и «действительно работает» гораздо больше.

Юдковский далее отмечает: «Все три хитрости позволяют в некоторой степени нарушать закон Винджа <…> Вы можете иногда получить внутри вселенной более умного персонажа, чем вложили в него. Но вы не можете получить нечто из ничего <…> Голливудский способ создания стереотипных гениев можно расценить как вариант абсолютной лени. Сценаристы изображают гениев, совершенно не включая мозг».

Схожим образом Ларри Нивен заметил, что головоломки, на решение (или составление) которых у автора уходят месяцы, персонаж может решить за секунды, но писать сверхчеловечески умных персонажей все равно очень сложно. Другими словами, ускоренное сверхчеловечество легче изобразить, чем когнитивно превосходящее сверхчеловечество.