Введение в Data Engineering: дата-пайплайны
: Дата пайплайн / Как готовят дата пайплайны
Step 3 of 5
Download
Back
Next
Comments
Content
Content
Введение
Знакомство
Что необходимо знать
Содержимое курса
Дата пайплайн
Что такое дата пайплайн
Как готовят дата пайплайны
Зачем нам Luigi
Знакомство с Luigi
Установка Luigi
Task, Target, Luigid
Практические задачи построения пайплайнов
Hello World Pipeline
Hello World с параметрами
NYC Yellow Taxi
Параллельное выполнение тасков
Нотификации в Telegram
Разбор конфигов Luigi
Общие настройки
Настройки воркера
Настройки диспетчера
Прочие настройки
Деплой Luigi
Деплоим ручками
Собираем Docker контейнер
Деплоим в облако AWS