О сервисе AI False-Positive (AI FP)
Сервис AI False-Positive (AI FP) предназначен для AI-анализа результатов сканирований TRON.ASOC с целью выявления ложноположительных срабатываний и повышения точности проверок безопасности.
Сервис доступен для установки на локальной инфраструктуре пользователя. Предусмотрено два способа установки:
- в составе TRON.ASOC: как опционально включаемый компонент (рекомендуемый способ);
- на отдельной инфраструктуре: как самостоятельный сервис, подключаемый к TRON.ASOC.
Компоненты сервиса
Для установки сервиса AI FP подготовьте следующие компоненты:
- Сервер vLLM — высокопроизводительный inference-сервер для LLM с OpenAI-совместимым API.
- Сервис
copilot-fp-service— REST API сервис для анализа на ложноположительность. Он получает задачи на анализ от TRON.ASOC, отправляет их в LLM, управляет очередью и возвращает результаты и рекомендации.
Оба компоненты могут быть развернуты в одной инфраструктуре с помощью Docker Compose.
Технические требования
Для работы сервиса AI FP необходимо, чтобы инфраструктура соответствовала требованиям, представленным ниже.
Аппаратное обеспечение
Аппаратное обеспечение должно соответствовать следующим требованиям:
- наличие сервера с NVIDIA GPU;
- минимальный объём видеопамяти (VRAM) — 16 ГБ.
Программное обеспечение
Программное обеспечение должно соответствовать следующим требованиям:
- наличие установленных Docker и Docker Compose;
- наличие драйверов NVIDIA (nvidia-driver) и NVIDIA Container Toolkit для работы Docker с GPU.
Отдельная база данных не требуется, так как данные хранятся в оперативной памяти.
Сетевые требования
Сеть, в которой устанавливается сервис AI FP, должна соответствовать следующим требованиям:
- наличие доступа к реестру контейнеров Harbor (harbor.tronsec.ru);
- наличие доступа к репозиторию моделей Hugging Face для скачивания модели при использовании self-hosted vLLM.
Инфраструктура, в которой устанавливается сервис AI FP, должна быть доступна из сети, где работает TRON.ASOC.
При использовании внешнего LLM-провайдера вместо self-hosted vLLM требования к GPU и доступу к Hugging Face не применяются.