me_edu
Data Engineering: SQL, Airflow, пайплайны и качество данныхШаг 11 из 18 · 0% пройдено
Модель data pipeline

Идемпотентность и повторный запуск

Шаг 11 из 1810 минТеория
Цель

Понять основной механизм темы «Идемпотентность и повторный запуск» без заучивания отдельных терминов.

Как работать

Прочитайте блок один раз целиком, затем вернитесь к схеме или примеру и перескажите идею своими словами.

Критерий

Сформулированное правило, пример применения и одно ограничение метода.

ITERATION CYCLEruncheckretrysame result
Идемпотентный пайплайн можно переигрывать без накопления дублей
Опорная идея

Пайплайн должен безопасно запускаться повторно. Если загрузка за 1 августа упала, её нужно переиграть без дублей и ручной чистки. Для этого используют ключи, партиции, upsert, truncate-insert для временных слоёв и контрольные суммы.

Идемпотентность — свойство операции давать один и тот же результат при повторении. Это основа backfill, восстановления после сбоя и доверия к витринам.

Назад

Обсуждение

Войдите, чтобы участвовать в обсуждении.

Пока нет сообщений.