Поиск
AppSec.GenAI
AppSec.GenAI ‒ платформа для проактивного тестирования безопасности моделей искусственного интеллекта и машинного обучения. Система автоматизирует проведение атак на AI/ML-модели, оценивает их устойчивость и формирует детальные отчёты с оценкой рисков. AppSec.GenAI является наступательным инструментом тестирования, аналогичным DAST-сканерам (Burp Suite, OWASP ZAP), но специализированным для AI/ML-моделей. Система не является средством мониторинга, WAF или инструментом обучения моделей.
Система AppSec.GenAI решает три основных задачи:
Система AppSec.GenAI решает три основных задачи:
- Атака моделей ‒ проведение состязательных (adversarial) атак по трём модальностям: текст (LLM), изображения (CV), аудио (ASR).
- Оценка результатов ‒ автоматическая оценка ответов моделей с помощью системы Judge, расчёт рисков по методологии DREAD (шкала 0--10).
- Формирование отчётности ‒ генерация детальных отчётов с полной цепочкой атаки, артефактами и рекомендациями.
