Под капотом AI⁠-⁠агента: от бизнес⁠-⁠задачи до GPU

На вебинаре эксперты «Фланта» и Kept разберут как устроен путь AI-агента: инфраструктура → управляемый GPU-ресурс → инференс → AI - агент → бизнес - задача. Спикеры расскажут о роли каждого слоя, границах ответственности платформ и требованиях, которые важно учесть ещё до перехода от пилота к эксплуатации.

О чем будем говорить

AI - агент выполнил тестовую задачу. Теперь его нужно подключить к корпоративным системам и запустить для нескольких команд. Какую нагрузку выдержит сервис? Как распределить GPU между приложениями? Какие действия разрешить агенту? И где искать причину сбоя — в инфраструктуре, сервисе инференса или логике самого агента?

На вебинаре эксперты «Фланта» и Kept разберут всю цепочку снизу вверх: инфраструктура → управляемый GPU - ресурс → инференс → AI - агент → бизнес - задача. Спикеры расскажут о роли каждого слоя, границах ответственности платформ и требованиях, которые важно учесть ещё до перехода от пилота к эксплуатации.

Основой разбора станет KeptStore — платформа AI - агентов, перенесённая на Deckhouse Platform. На её примере обсудим, как связаны инфраструктура, работа модели и действия агента в корпоративных системах. 

Если у вашей компании уже есть агентский пилот или конкретный бизнес - сценарий, регистрируйтесь на вебинар. Обсудим, что нужно сделать, чтобы AI - агент стабильно и безопасно работал в корпоративном контуре.

На вебинаре вы узнаете

Инфраструктура для агентной системы. Где используются контейнеры, где нужны виртуальные машины и какую роль выполняет Deckhouse Platform. Что учитывать при работе в закрытом контуре: сеть, хранилища, доступы и мониторинг.
GPU под требования приложения. Почему одного количества карт недостаточно. Как описывать нужные характеристики ресурса, что даёт DRA и какие возможности зависят от драйвера, оборудования и выбранного режима разделения GPU.
Инференс как отдельный сервис. Что требуется между загруженной моделью и подключённым к ней агентом: среда выполнения, API, масштабирование, отказоустойчивость и метрики. Как понять, что сервис справляется с нагрузкой.
От обращения к модели — к выполнению задачи. Как в KeptStore связаны цель агента, правила, навыки и инструменты. Как агент использует инференс и взаимодействует с корпоративными приложениями.
Доступ и ответственность. Как организовать работу агента с данными, правами и секретами. Какие задачи решаются на уровне инфраструктуры, какие — в агентной платформе, а какие требуют настройки самих корпоративных систем.
В завершение свяжем эти уровни в одной схеме: от предоставления вычислительных ресурсов до выполнения прикладного действия. Обсудим, что необходимо проверить перед запуском под рабочей нагрузкой и какие вопросы адресовать инфраструктурной, прикладной и AI/ML - командам.

Кому будет полезно

CIO
CTO
CDTO
руководителям инфраструктурных, платформенных и AI/ML - команд
архитекторам
техническим лидерам и инженерам, которые отвечают за запуск AI - систем в корпоративном контуре
  

Спикеры

Александр Подмосковный, директор продуктового направления ML/AI, «Флант»

Роман Малюга, партнёр, руководитель группы финансовой трансформации и цифровых решений, Kept