[Udemy] Полное руководство по инфраструктуре ИИ: от нуля до героя [School of AI]

The Complete Guide to AI Infrastructure: Zero to Hero

Освойте основные навыки инженера по инфраструктуре ИИ: графические процессоры (GPU), Kubernetes, MLOps и большие языковые модели.

Чему вы научитесь:

• Разберитесь в основах инфраструктуры ИИ, включая Linux, облачные вычисления, различия между ЦП и ГП, а также почему инфраструктура имеет решающее значение для работы современных систем ИИ.
• Развертывайте и управляйте облачными экземплярами с поддержкой графических процессоров в AWS, Google Cloud и Azure, сравнивая варианты стоимости, производительности и масштабируемости для рабочих нагрузок ИИ.
• Создавайте, упаковывайте и развертывайте приложения искусственного интеллекта с использованием контейнеров Docker, оркестровки Kubernetes и диаграмм Helm для эффективной многосервисной инфраструктуры.
• Оптимизируйте производительность графического процессора с помощью CUDA, NVLink и иерархий памяти, одновременно осваивая распределенное обучение ИИ с использованием PyTorch, TensorFlow и Horovod.
• Внедрите конвейеры MLOps с использованием MLflow, инструментов CI/CD и реестров моделей, обеспечивая воспроизводимость, версионирование и непрерывную доставку моделей ИИ.
• Развертывание и масштабирование моделей с использованием FastAPI, TorchServe и NVIDIA Triton, с балансировкой нагрузки и мониторингом для высокопроизводительных систем вывода ИИ.
• Отслеживайте, защищайте и оптимизируйте инфраструктуру ИИ с помощью Prometheus, Grafana, IAM, обнаружения отклонений, шифрования и стратегий экономии облачных ресурсов.
• Пройдите более 50 практических занятий и выполните итоговый проект, чтобы с уверенностью разработать, развернуть и представить полномасштабную, готовую к внедрению в производство систему инфраструктуры искусственного интеллекта.

«Полное руководство по инфраструктуре ИИ: от нуля до героя» — это комплексная программа, разработанная для того, чтобы помочь вам освоить инфраструктуру, лежащую в основе искусственного интеллекта . Независимо от того, являетесь ли вы начинающим инженером в области ИИ , специалистом по анализу данных или профессионалом в области машинного обучения , этот курс проведет вас от самых основ Linux, облачных вычислений и графических процессоров до таких продвинутых тем, как распределенное обучение, оркестрация Kubernetes, MLOps, наблюдаемость и развертывание ИИ на периферии сети.

Всего за 52 недели вы пройдете путь от настройки вашей первой виртуальной машины с графическим процессором до проектирования и презентации полноценной, готовой к производству корпоративной системы инфраструктуры искусственного интеллекта . Эта всесторонняя учебная программа гарантирует, что вы получите как теоретические основы , так и практические навыки, необходимые для успешной работы в быстро развивающемся мире инфраструктуры ИИ.

Мы начнём с основ : что такое инфраструктура ИИ, почему она важна и как процессоры, графические процессоры и тензорные процессоры обеспечивают работу современных задач ИИ . Вы изучите основы Linux , познакомитесь с облачной инфраструктурой AWS, Google Cloud и Azure и научитесь уверенно запускать вычислительные экземпляры на графических процессорах . Затем вы погрузитесь в контейнеризацию с помощью Docker , оркестрацию с помощью Kubernetes и автоматизацию с помощью диаграмм Helm — навыки, которыми должен владеть каждый инженер по ИИ.

Далее мы рассмотрим данные и графические процессоры (GPU) — основу систем искусственного интеллекта. Вы разберетесь с объектным хранилищем, озерами данных, конвейерами Kafka, программированием CUDA, оптимизацией памяти GPU, межсоединениями NVLink и распределенным обучением с использованием PyTorch, TensorFlow и Horovod . Эти уроки подготовят вас к эффективному и экономичному выполнению крупномасштабных задач обучения ИИ.
Далее курс переходит к MLOps и конвейерам развертывания . Вы научитесь отслеживать эксперименты с помощью MLflow , создавать конвейеры CI/CD с использованием GitHub Actions, GitLab CI и Jenkins, а также запускать модели с помощью FastAPI, TorchServe и NVIDIA Triton Inference Server . Наряду с развертыванием, вы приобретете навыки мониторинга, логирования и масштабирования сервисов вывода в реальных производственных средах.

Расширенные разделы охватывают мониторинг с помощью Prometheus, Grafana и OpenTelemetry , обнаружение дрейфа и стратегии переобучения , стандарты безопасности и соответствия требованиям ИИ, такие как GDPR и HIPAA, а также стратегии оптимизации затрат с использованием точечных экземпляров, автомасштабирования и распределения ресурсов в многопользовательском режиме. Вы также изучите передовые области, такие как периферийный ИИ с NVIDIA Jetson, мобильный ИИ с TensorFlow Lite и Core ML, а также инфраструктуру генеративного ИИ для LLM, генерации с дополненным поиском (RAG), DeepSpeed и оптимизации FSDP.

Каждая неделя включает в себя практические лабораторные работы — всего более 50 — так что вы будете практиковаться в создании конвейеров данных , контейнеризации моделей, развертывании на Kubernetes , обеспечении безопасности конечных точек и мониторинге кластеров GPU . Программа завершается итоговым проектом, в рамках которого вы проектируете, внедряете и представляете полную систему инфраструктуры ИИ от стадии разработки до развертывания.
Пройдя этот курс, вы сможете:

Освойте основы инфраструктуры искусственного интеллекта, от Linux до облачных вычислений.
Получите практические навыки работы с Docker, Kubernetes, Kubeflow, MLflow, CI/CD и развертыванием моделей .
Изучите распределенное обучение ИИ с использованием графических процессоров, CUDA, TensorFlow, PyTorch и Horovod.
Развертывайте масштабируемые конвейеры MLOps , создавайте панели мониторинга и внедряйте лучшие практики обеспечения безопасности.
Оптимизируйте затраты и масштабируйте ИИ в многооблачных и периферийных средах.

Если вы хотите стать специалистом по проектированию, развертыванию и масштабированию систем искусственного интеллекта , этот курс — ваш путеводитель. Запишитесь сегодня на курс « Полное руководство по инфраструктуре ИИ: от нуля до героя» и получите навыки, необходимые для создания инфраструктуры искусственного интеллекта будущего.

Для кого этот курс:

• Для начинающих инженеров в области искусственного интеллекта, которые хотят шаг за шагом пройти путь от нуля до создания готовых к внедрению в производство систем ИИ.
• Специалисты по анализу данных и машинному обучению готовы выйти за рамки моделирования и перейти к развертыванию, обслуживанию и управлению рабочими нагрузками в области искусственного интеллекта.
• Программисты и специалисты по DevOps, желающие расширить свой арсенал навыков в области инфраструктуры ИИ, MLOps и Kubernetes.
• Облачные инженеры и системные администраторы, заинтересованные в оптимизации кластеров графических процессоров, хранилища и затрат для рабочих нагрузок искусственного интеллекта.
• Для студентов, исследователей или начинающих, интересующихся Linux, облачными технологиями, графическими процессорами и конвейерами обработки данных в области искусственного интеллекта, предварительный опыт не требуется.
• Основатели стартапов и технологические лидеры, желающие понять, как создавать масштабируемую, безопасную и экономически эффективную инфраструктуру искусственного интеллекта для своих организаций.

Требования:

• Предварительного опыта не требуется – этот курс шаг за шагом проведет вас от начального до продвинутого уровня.
• Базовые знания программирования (рекомендуется Python) будут полезны, но не обязательны.
• Знание облачных платформ (AWS, GCP или Azure) полезно, но мы рассмотрим основные моменты.
• Доступ к компьютеру с подключением к интернету и возможностью установки бесплатных инструментов, таких как Docker и Python.
• Дополнительно: доступ к графическому процессору (локальному или облачному) для запуска задач глубокого обучения — мы поможем вам с настройкой.
• Любознательность, желание учиться и стремление еженедельно выполнять практические лабораторные работы.

Материалы курса:

53 разделов • 366 лекций • Общая продолжительность 60 ч 57 мин

Введение к «Полному руководству по инфраструктуре ИИ: от нуля до героя»
Неделя 1: Введение в инфраструктуру искусственного интеллекта
Неделя 2: Основы Linux для инженеров в области искусственного интеллекта
Неделя 3: Основы облачной инфраструктуры
Неделя 4: Основы контейнеризации
Неделя 5: Основы Kubernetes
Неделя 6: Хранение данных для ИИ
Неделя 7: Подробный анализ аппаратного обеспечения графических процессоров.
Неделя 8: Основы дистанционного обучения
Неделя 9: Автоматизация рабочих процессов и отслеживание экспериментов
Неделя 10: CI/CD для моделей ИИ
Неделя 11: Расширенные возможности Kubernetes для ИИ
Неделя 12: Оптимизация ресурсов и затрат
Неделя 13: Сетевые технологии для систем искусственного интеллекта
Неделя 14: Основы сервировки блюд.
Неделя 15: Расширенная модель обслуживания
Неделя 16: Наблюдаемость в инфраструктуре ИИ
Неделя 17: Дрейф модели и данных
Неделя 18: Безопасность и соответствие нормативным требованиям в области ИИ.
Неделя 19: Надежность и высокая доступность
Неделя 20: Многооблачная инфраструктура ИИ
Неделя 21: Основы инфраструктуры Edge AI
Неделя 22: Оптимизация ИИ для периферийных устройств
Неделя 23: Мобильная инфраструктура искусственного интеллекта
Неделя 24: Конвейеры данных для ИИ в масштабе
Неделя 25: Инфраструктура генеративного ИИ – Основы
Неделя 26: Инфраструктура генеративного ИИ – продвинутый уровень.
Неделя 27: Инфраструктура для компьютерного зрения в масштабе предприятия
Неделя 28: Инфраструктура для масштабируемого применения НЛП
Неделя 29: Инфраструктура для многомодального ИИ
Неделя 30: Инфраструктура для обучения с подкреплением
Неделя 31: Масштабное обучение – Основы
Неделя 32: Масштабное обучение – продвинутый уровень
Неделя 33: Корпоративные MLOps – Основы
Неделя 34: Корпоративные MLOps – продвинутый уровень
Неделя 35: Методы оптимизации – Основы
Неделя 36: Методы оптимизации – продвинутый уровень
Неделя 37: Федеративная инфраструктура обучения
Неделя 38: Искусственный интеллект, обеспечивающий конфиденциальность.
Неделя 39: Безопасность инфраструктуры ИИ – продвинутый уровень.
Неделя 40: Многопользовательская инфраструктура ИИ
Неделя 41: Инфраструктура ИИ для стартапов
Неделя 42: Инфраструктура ИИ для предприятий
Неделя 43: Инфраструктура для ИИ в реальном времени
Неделя 44: Инфраструктура для автономных систем
Неделя 45: Инфраструктура ИИ – примеры из практики
Неделя 46: Будущее инфраструктуры искусственного интеллекта
Неделя 47: Подготовка к итоговому проекту – Обзор
Неделя 48: Итоговый проект – Определение проблемы
Неделя 49: Итоговый проект – Этап реализации I
Неделя 50: Итоговый проект – Этап реализации II
Неделя 51: Итоговый проект – Завершение работы
Неделя 52: Итоговый проект – Презентация и выпускная церемония

Язык английский + бонусом субтитры на русском языке, + озвучка на русском языке (ИИ).