[Otus] Промышленный ML на больших данных [Дмитрий Бугайченко]

Robot · 13 Авг 2021

Курс рассчитан на Data Engineer-ов или специалистов в машинном обучении.
Вы научитесь:
- использовать стандартные инструменты ML-конвейеров в распределенной среде;
- разрабатывать собственные блоки для ML-конвейеров;
- адаптировать ML-алгоритмы к распределенной среде и инструментам big data;
- использовать Spark, SparkML, Spark Streaming;
- организовывать промышленные конвейеры сбора данных;
- разрабатывать алгоритмы потоковой подготовки данных для машинного обучения;
- обеспечивать контроль качества на всех этапах движения ML-решений в промышленную эксплуатацию.
Необходимые знания
Базовые навыки программирования:
- управляющие конструкции, циклы, рекурсия;
- основные структуры данных: массивы, списки, словари, деревья;
- базовые принципы ООП;
- знакомство с одним из языков: Python, Java, Scala, C++.
Математика:
- линейная алгебра: вектора, матрицы и их произведения;
- матан: производная простых и композитных функций;
- вычметоды: градиентный спуск, Ньютоновские итерации;
- теория вероятности: случайные события и величины, математическое ожидание, дисперсия.
Технологии:
- понимание основ работы вычислительной техники в рамках архитектуры фон Неймана (процессор, память, кэш, подключаемое хранилище);
- понимание общих принципов реляционных СУБД, знание SQL.
Будет плюсом: знакомство с классическими алгоритмами машинного обучения.

Спойлер: Программа обучения
В процессе обучения вы получите комплексные знания и навыки.
Модуль 1. Базовые вводные для старта курса
Тема 1. Градиентный спуск и линейные модели
Тема 2. Обзор основных методов и метрик машинного обучения
Тема 3. Основы программирования на Scala
Модуль 2. Технологические основы распределенной обработки данных
Тема 4. Распределенные хранилища
Тема 5. Эволюция параллельных алгоритмов
Тема 6. Менеджеры ресурсов в распределенных системах
Тема 7. Основы Apache Spark
Модуль 3. Основы распределенного МL
Тема 8. Перенос МЛ-алгоритмов в распределенную среду
Тема 9. ML в Apache Spark
Тема 10. Разработка собственных блоков для SparkML
Тема 11. Сторонние библиотеки для использования со Spark
Тема 12. Оптимизация гиперпараметров и AutoML
Модуль 4. Потоковая обработка данных
Тема 13. Потоковая обработка данных
Тема 14. Spark Streaming
Тема 15. Структурный и непрерывный стриминг в Spark
Тема 16. Альтернативные потоковые фреймворки
Модуль 5. Целеполагание и анализ результатов
Тема 17. Определение цели МЛ-проекта и предварительный анализ
Тема 18. Долгосрочные ML-цели на примере задачи уменьшения оттока
Тема 19. А/Б тестирование
Тема 20. Дополнительные темы
Модуль 6. Вывод результатов ML в продакшн
Тема 21. Подходы к выводу ML-решений в продакшн
Тема 22. Версионирование, воспроизводимость и мониторинг
Тема 23. Онлайн-сервинг моделей
Тема 24. Паттерны асинхронного потокового ML и ETL
Тема 25. Если надо Python
Тема 26. Альтернативные фреймворки с поддержкой Python и область применимости Dusk, KubeFlow, Seldon Core, H2O. Особенности эксплуатации гетерогенных систем в проме
Модуль 7. ML на python в продакшне
Тема 27. Production Code на Python. Организация и Packaging кода
Тема 28. REST-архитектура: Flask API
Тема 29. Docker: Структура, применение, деплой
Тема 30. Amazon Sagemaker
Тема 31. AWS ML Service
Модуль 8. Продвинутые топики
Тема 32. Нейросети
Тема 33. Распределенное обучение и инференс нейросетей
Тема 34. Градиентный бустинг на деревьях
Тема 35. Обучение с подкреплением