Как защитить чувствительные данные при работе с LLM с помощью Guardrails

При работе с LLM важно контролировать, какие данные передаются модели и как они проверяются. Среди них могут быть персональные данные, API-ключи, внутренние идентификаторы и другая чувствительная информация.

На вебинаре разберём, как работают Guardrails LLM и Guardrails Filter: чем они отличаются, какие данные помогают обнаруживать и как адаптировать правила проверки под задачи компании. Отдельно рассмотрим, как защитный слой Guardrails работает в контуре Evolution Foundation Models и какую роль в проверке запросов играют модели-классификаторы HiveTrace.

Вы узнаете:

что такое Guardrails LLM и Guardrails Filter и чем они отличаются;
какие данные стоит проверять при работе с LLM;
как модели-классификаторы HiveTrace помогают обнаруживать чувствительную информацию;
как Guardrails работает в контуре Evolution Foundation Models;
какие возможности доступны в open source версии Guardrails Filter;
чем готовые правила отличаются от корпоративных;
как создавать собственные правила и тестировать их.

На демо покажем работу open source версии Guardrails Filter: разберём основные настройки и структуру правил, проверим запросы на примерах, создадим собственное корпоративное правило и протестируем его до включения в рабочий сценарий.

Вебинар будет полезен:

специалистам по защите данных и информационной безопасности;
командам разработки ИИ-приложений;
тем, кто внедряет и использует LLM в бизнес-процессах.

Спикеры

Стешов Никита
Менеджер продукта