[Rebrain] Прикладной LLM для инженеров [Василий Озеров]

Разберись с LLM на практике: от запуска моделей на собственном железе с дообучением до RAG и написания собственных агентов и MCP серверов

Фундаментальный цикл LLM-инженерии
От инференса и квантования моделей на своём железе до продвинутых RAG-пайплайнов, тонкой настройки и создания агентов. Освойте весь стек технологий для создания AI-приложений.
Практическая оптимизация и экономика
Научитесь рассчитывать VRAM, выбирать между API и self-hosting, применять LoRA и квантизацию. Принимайте взвешенные инженерные и финансовые решения для развёртывания моделей.
RAG и агенты — новый стандарт
Создавайте умные ассистенты по своим данным и автоматизируйте задачи. Без этих технологий современные LLM не имеют доступа к актуальной информации и не могут действовать.

Немного отехнологиях практикума
Агенты: Автоматизация вместо генерации
Это переход от чат-бота к автономному сотруднику. Агенты с Function Calling сами выполняют задачи в CRM, ERP и других системах, экономя сотни человеко-часов.
RAG: «Память» для LLM
Любая модель без доступа к вашим данным бесполезна для бизнеса. RAG — основной способ заставить LLM работать с вашей документацией, базами знаний и актуальной информацией.
Fine-Tuning: Уникальное поведение модели
Никакие промпты не заставят модель говорить именно так, как нужно вам. Только LoRA/QLoRA позволяют адаптировать стиль, тон и структуру ответов под ваши продукты и процессы.
Квантизация: Запуск на железе потребителя
Без квантизации 7B-модель не запустить даже на RTX 4090. Эта технология позволяет развернуть мощный ИИ на ноутбуке или сервере без дорогих A100, радикально снижая стоимость владения.
N8N: Визуальная оркестрация LLM
N8N позволяет быстро создавать сложные LLM-пайплайны без переписывания кода. Вы визуально соединяете RAG, API-вызовы и базы данных, превращая идеи в работающие прототипы за часы, а не дни. Это мост между быстрым прототипированием и продакшен-решением.

Кому подойдёт
DevOps и SRE
Специалисты, которым нужно развертывать и масштабировать LLM-инфраструктуру. Получите практические навыки работы с vLLM, мониторингом и оптимизацией для production-сред
Data Scientist-исследователи
Аналитики данных, стремящиеся перейти от экспериментов к production-решениям. Курс научит инженерным аспектам: тонкой настройке, развертыванию моделей и построению RAG-систем.
Backend-разработчики
Программисты, желающие интегрировать LLM в свои приложения. Освоите создание AI-агентов, работу с векторными базами и облачными API для сложных продуктовых задач.
Продуктовые IT-архитекторы
Архитекторы, проектирующие системы с ИИ. Курс даст глубокое понимание всего стека LLM-технологий для принятия взвешенных решений о выборе инструментов и архитектуры.