Эксперты по кибербезопасности Сбера разработали комплексную модель угроз для ИИ-систем, охватывающую все ключевые этапы жизненного цикла, от подготовки данных до интеграции в приложения. Документ доступен на портале «Кибрарий» и позволяет организациям оценить уязвимости в своих ИИ-системах и адаптировать под новые угрозы свои защитные механизмы.
Модель описывает 70 угроз, связанных с применением генеративного (GenAI) и предиктивного (PredAI) ИИ, включая свойства информации, которые могут быть нарушены, такие как конфиденциальность и целостность, и возможные последствия угроз. Для наглядности включены схемы взаимодействия объектов.
Сергей Лебедь, вице-президент Сбера по кибербезопасности, подчеркнул, что внедрение ИИ в бизнес-процессы создает новые киберугрозы, требующие системного подхода к их прогнозированию и нейтрализации. Модель учитывает опыт Сбера в повышении защищенности своих AI-моделей и лучшие мировые практики, такие как документы OWASP, MITRE и NIST.
Создание данной модели является ответом на растущую сложность угроз в области кибербезопасности, обусловленную популяризацией технологий искусственного интеллекта. Внедрение ИИ в бизнес-системы увеличивает риск для конфиденциальности данных и устойчивости систем, что требует новых стратегий защиты.
Документ, опубликованный на «Кибрарии», помогает организациям всех отраслей комплексно оценить свои риски и адаптировать защитные механизмы. Это относительно новое направление требует от специалистов в области кибербезопасности глубоких знаний о специфике угроз, связанных с применением ИИ.
Модель может стать востребованной в условиях, когда использованиеGenAI становится частью критически важных бизнес-процессов множества компаний. Заведующий сектором киберугроз Сбербанка отметил, что документ создан с учётом лучших международных практик, что подтверждает его актуальность и ценность для рынка. Компании, принимающие во внимание рекомендации модели, смогут более эффективно защищать свои системы и минимизировать риски в условиях быстро меняющихся технологий.