Локальный ИИ в VK Cloud: разворачиваем LLM и подключаем агент на OpenClaw

Внешние API закрыты политикой безопасности? Документы под NDA нельзя загружать в облачные сервисы? На воркшопе мы поднимем языковую модель в VK Cloud и подключим к ней агента на OpenClaw — фреймворке для сборки LLM-агентов. Ни один токен не уйдет за периметр.

К концу занятия участники создадут локальный LLM-сервис и агента на OpenClaw, который будет работать с вашими документами.

Формат: онлайн-кодинг на 90 минут.

Кому будет полезно:
— ML- и MLOps-инженерам, которые отвечают за инференс LLM в корпоративном контуре
— Дата-инженерам, которым нужно прогонять чувствительные данные через языковую модель без выхода за периметр
— Инженерам информационной безопасности, которые работают с данными под 152-ФЗ и NDA
— Платформенным командам, которые выбирают стек для внутренних ИИ-сервисов
— Техлидам, которые решают, как обрабатывать чувствительные данные с помощью LLM, когда внешние API под запретом

Что нужно подготовить заранее:
— Аккаунт в VK Cloud с доступом к Cloud GPU и IaaS
— SSH-клиент и базовое владение Linux
— Что вы получите после воркшопа:
— Работающую локальную LLM на Cloud GPU
— Настроенный агент на OpenClaw, работающий с этой LLM
— Понимание базового сценария «агент + локальная модель»
— Готовую архитектурную основу для расширения: векторное хранилище, аналитика данных, автоматизация процессов

Спикер: Станислав Погоржельский, технологический евангелист VK Cloud&Data, VK Tech