Arbital на русском

Покажите мне, что вы сломали

См. «Мышление для безопасности ИИ». Если вы хотите продемонстрировать компетентность в области компьютерной безопасности, криптографии или теории согласования ИИ, вы должны сначала подумать о том, как выявить технически очевидные недостатки в существующих решениях, а не решать все проблемы самостоятельно. Релевантные цитаты Брюса Шнайера: «хороший инжиниринг включает в себя размышления о том, как можно заставить что-то работать; мышление безопасника включает в себя размышления о том, как что-то может быть сделано неудачно» и «Каждый может изобрести систему безопасности, которую он сам не может сломать. Покажите мне, что вы сломали, чтобы продемонстрировать, что ваше утверждение о безопасности системы что-то значит.»


Категории: AI safety mindset
Оригинал: Show me what you've broken (читать на GreaterWrong)    Перевод: К. Кирдан

Материалы распространяются по лицензии CC BY 3.0