DeepSchool — Ускорение нейросетей [Александр Гончаренко, Артур Панюков]

Научитесь решать задачи эффективно

Поймёте теорию, узнаете про основные сложности и отточите знания на практике

Курс для тех, кто уже работает в индустрии и хочет:

• Разобраться в теории
• Освоить фреймворки
• Поднять скиллы
• Перенять опыт
• Чтобы понимать, как работает каждый метод ускорения сетей
• И оптимальным образом ускорять модели под каждый вычислитель
• Освоить востребованный навык, чтобы поднять свою ценность
• Узнать про все сложности от экспертов области

Чему вы научитесь:

• Ускорять инференс за счёт изменения архитектуры и утилизации вычислителя
• Узнаете, как устроен каждый алгоритм: дистилляция, прунинг, квантизация, матричные разложения и NAS
• Совмещать все методы воедино
• Сможете комбинировать различные подходы и решать вытекающие трудности
• Запускать инференс на различных устройствах
• Разберетесь в устройстве CPU, GPU, NPU и научитесь запускать сети на смартфонах и микрокомпьютерах
• Сохранять точность при ускорении
• Создавать модели с высокой точностью и высоким fps даже на одноплатных компьютерах

Программа
Блок 1. База – 8 лекций
1. Distillation
2. Pruning
3. Low-Precision computing
4. NAS
5. Эффективные архитектуры
6. Инференс на процессоре
7. Инференс на графическом ускорителе. Part 1
8. Инференс на графическом ускорителе. Part 2

Блок 2. LLM – 2 лекции
1. Основы ускорения LLM
2. Специфичные методы ускорения LLM

Блок 3. Device – 3 лекции
1. CPU. Part 2: ARM + Android
2. CPU. Part 3: ARM + iOS
3. Одноплатники и их особенности для нейросетей