Как безопасно запускать корпоративный ИИ: тестирование и защита с HiveTrace

Вместе c внедрением корпоративных ИИ-ассистентов, RAG-системы, клиентских чат-ботов и AI-агентов появляется отдельный класс рисков: prompt injection и jailbreak-атаки, утечки персональных и конфиденциальных данных, раскрытие системных инструкций, генерация нежелательного контента и выполнение агентами недопустимых действий.Традиционные средства информационной безопасности не всегда способны распознать такие угрозы так как для этого необходимо анализировать смысл запросов и ответов модели, а так же контекст диалога и цепочки действий AI-агентов.

Приглашаем на совместный вебинар АО «ДиалогНаука» и HiveTrace, где мы разберём, как проверить защищенность корпоративного AI-приложения до его запуска и организовать постоянный контроль после выхода в эксплуатацию и на примере платформы HiveTrace покажем, как выявлять атаки на LLM, предотвращать утечки чувствительной информации, применять корпоративные политики безопасности и расследовать нарушения при работе пользователей с ИИ.

Программа:

●     Какие риски возникают при использовании корпоративных ИИ-ассистентов, RAG-систем и AI-агентов и почему традиционных средств защиты может быть недостаточно.

●     Как проводить тестирование AI-приложений и выявлять prompt injection, jailbreak, раскрытие системных инструкций и другие уязвимости до запуска в промышленную эксплуатацию.

●     Как контролировать запросы пользователей и ответы моделей в реальном времени, обнаруживать и блокировать опасный контент, маскировать или удалять чувствительные данные.

●     Варианты интеграции HiveTrace в инфраструктуру заказчика и сценарии развертывания on-premise, в частном облаке или гибридной среде.

В рамках вебинара состоится демонстрация возможностей HiveTrace, в процессе которой мы покажем прохождение атаки на незащищенное AI-приложение, настройку политик безопасности, обработку чувствительных данных.
Участники вебинара смогут задать вопросы специалистам HiveTrace и АО «ДиалогНаука».

Спикеры:

Евгений Кокуйкин – основатель HiveTrace
Анна Тищенко – архитектор HiveTrace
Никита Беляевский – эксперт по пентеста AI-систем и разработчик HiveTrace Red
Владимир Соловьев – руководитель группы твнедрения систем защиты от атак АО «ДиалогНаука»