Перейти к основному содержимому
Версия: 1.6

О сервисе AI False-Positive (AI FP)

Сервис AI False-Positive (AI FP) предназначен для AI-анализа результатов сканирований TRON.ASOC с целью выявления ложноположительных срабатываний и повышения точности проверок безопасности.

Сервис доступен для установки на локальной инфраструктуре пользователя. Предусмотрено два способа установки:

  • в составе TRON.ASOC: как опционально включаемый компонент (рекомендуемый способ);
  • на отдельной инфраструктуре: как самостоятельный сервис, подключаемый к TRON.ASOC.

Компоненты сервиса​

Для установки сервиса AI FP подготовьте следующие компоненты:

  1. Сервер vLLM — высокопроизводительный inference-сервер для LLM с OpenAI-совместимым API.
  2. Сервис copilot-fp-service — REST API сервис для анализа на ложноположительность. Он получает задачи на анализ от TRON.ASOC, отправляет их в LLM, управляет очередью и возвращает результаты и рекомендации.

Оба компоненты могут быть развернуты в одной инфраструктуре с помощью Docker Compose.

Технические требования​

Для работы сервиса AI FP необходимо, чтобы инфраструктура соответствовала требованиям, представленным ниже.

Аппаратное обеспечение​

Аппаратное обеспечение должно соответствовать следующим требованиям:

  • наличие сервера с NVIDIA GPU;
  • минимальный объём видеопамяти (VRAM) — 16 ГБ.

Программное обеспечение​

Программное обеспечение должно соответствовать следующим требованиям:

  • наличие установленных Docker и Docker Compose;
  • наличие драйверов NVIDIA (nvidia-driver) и NVIDIA Container Toolkit для работы Docker с GPU.
к сведению

Отдельная база данных не требуется, так как данные хранятся в оперативной памяти.

Сетевые требования​

Сеть, в которой устанавливается сервис AI FP, должна соответствовать следующим требованиям:

  • наличие доступа к реестру контейнеров Harbor (harbor.tronsec.ru);
  • наличие доступа к репозиторию моделей Hugging Face для скачивания модели при использовании self-hosted vLLM.
к сведению

Инфраструктура, в которой устанавливается сервис AI FP, должна быть доступна из сети, где работает TRON.ASOC.

При использовании внешнего LLM-провайдера вместо self-hosted vLLM требования к GPU и доступу к Hugging Face не применяются.