Расскажите, как Spark выполняет запрос от вызова action до результата: что такое стейджи, шафл и ленивые вычисления, и где обычно теряется производительность?
~4 мин голосом
Как подойти
Проверяют, понимает ли кандидат реальную модель исполнения Spark: ленивое построение плана, оптимизацию Catalyst, деление DAG на стейджи по шафлам, связь задач и партиций. Плюс умеет ли он по этой модели объяснить, откуда берутся тормоза, а не просто «добавить памяти».
Интервьюер задаст этот вопрос и послушает. Думай вслух, проси подсказку, если нужно. Закончил — пауза или «Я ответил», через минуту здесь балл и какие пункты закрыты.