Skip to main content

Почему очередь взрывается при загрузке 95%, а не 100%

В прошлой статье речь шла о том, что стопроцентная загрузка не-узкого участка бессмысленна и даже вредна. С очередями логика похожая, но у неё есть отдельная, не самая очевидная математическая причина: время ожидания растёт не линейно с ростом загрузки, а лавинообразно, и именно последние проценты загрузки — самые дорогие.

Откуда взялась эта математика: Эрланг и телефонная станция

Основы теории очередей заложил датский инженер Агнер Краруп Эрланг в 1909 году, рассчитывая, сколько телефонных линий нужно копенгагенской телефонной станции, чтобы абоненты не получали сигнал «занято» чаще определённого предела. Его формулы до сих пор используются при расчёте числа линий колл-центра, кассовых точек или серверных мощностей — задача не изменилась за сто с лишним лет, просто «линии» стали «операторами» или «процессорами».

Кривая загрузки: почему последние проценты дороже всего

В простейшей модели очереди среднее время ожидания растёт пропорционально выражению ρ/(1−ρ), где ρ — доля времени, когда система занята (загрузка). При загрузке 50% это выражение равно 1. При 80% — уже 4. При 95% — 19. При загрузке в 99% время ожидания в среднем в 99 раз длиннее, чем при 50%. Рост не линейный, а близкий к вертикальному по мере приближения к 100% — отсюда ощущение, что система «внезапно взрывается» при, казалось бы, небольшом росте загрузки с 90% до 95%.

Вот как выглядит эта кривая, если отложить ρ/(1−ρ) по всей шкале загрузки:

Кривая загрузки: время ожидания растёт как ρ/(1−ρ) График среднего времени ожидания в очереди в зависимости от загрузки системы по формуле ρ/(1−ρ): при 50% — в 1 раз, при 80% — в 4 раза, при 95% — в 19 раз больше. Выделен рекомендуемый диапазон плановой загрузки 75–85%. 0 ×5 ×10 ×15 ×20 ×25 0% 25% 50% 75% 100% плановая загрузка 75–85%:остаток — буфер на пики 50% → ×1 80% → ×4 95% → ×19 Время ожидания: во сколько раз дольше, чем при загрузке 50% Загрузка системы (доля времени, когда она занята)

Изменчивость важнее среднего

Есть второй фактор, который эту кривую только усугубляет: разброс во времени между заявками и во времени обслуживания каждой из них. Британский математик Джон Кингман в 1961 году вывел приближённую формулу, которая показывает: чем сильнее время обслуживания скачет от заявки к заявке (одни звонки на 30 секунд, другие на 20 минут), тем длиннее очередь при той же средней загрузке. Ровный, предсказуемый поток заявок и ровное время обслуживания держат очередь короткой даже при высокой загрузке; рваный поток и рваное обслуживание раздувают очередь даже при умеренной.

Практический вывод: держите буфер, а не 100% загрузку

Отсюда прямое следствие закона Литтла для планирования ресурсов: закладывать персонал или мощности на среднюю загрузку около 100% — это гарантированно длинная очередь в реальности, потому что реальный поток заявок никогда не бывает идеально равномерным. На практике я обычно рекомендую держать плановую загрузку в диапазоне 75-85% там, где важно предсказуемое время ожидания, и оставлять оставшуюся часть как буфер на естественные пики и разброс времени обслуживания — это не потери, а необходимая часть математики очереди.

Честное ограничение: если поток заявок исключительно ровный и предсказуемый (конвейер с фиксированным тактом, а не колл-центр), эффект слабее и можно планировать загрузку ближе к пределу.

Часто задаваемые вопросы

Почему время ожидания в очереди растёт нелинейно с загрузкой?

В простейшей модели среднее время ожидания пропорционально ρ/(1−ρ), где ρ — загрузка. Это выражение растёт почти вертикально при приближении загрузки к 100%: например, при 95% оно уже в 19 раз больше, чем при 50%.

Кто заложил основы теории очередей?

Датский инженер Агнер Краруп Эрланг в 1909 году, рассчитывая необходимое число телефонных линий для копенгагенской телефонной станции. Его формулы применяются до сих пор — уже для колл-центров и серверных мощностей.

Почему изменчивость времени обслуживания важнее среднего значения?

По приближению Кингмана (1961), чем сильнее разброс во времени между заявками и во времени их обслуживания, тем длиннее очередь при той же средней загрузке — ровный поток держит очередь короткой даже при высокой загрузке.

Статья обновлена: декабрь 2022

Об авторе: Александр Бобков — бизнес-консультант и тренер по управленческим навыкам. Более 15 лет работает с руководителями среднего звена. Специализируется на системном взгляде на рабочие проблемы.

Раскрыть эту тему

Курс на практике проводит через весь путь от симптома до системного взгляда на проблему — включая причинно-следственные петли, узкие места и разложение проблемы методом drill down.

Пройти курс «Мастерская решения проблем» →

подпишитесь на рассылку