Когда применять "Разделить потоки"?

Бимодальное распределение времени. Можно классифицировать заявки на входе

Когда НЕ применять "Разделить потоки"?

Унимодальное распределение (один пик). Нельзя предсказать сложность на входе

Разделить потоки — улучшение процессов

При бимодальном распределении времени разделите на 'быстрый' и 'сложный' потоки. Очереди сократятся по формуле Кингмана.

Очереди

100%

Как это работает

Если время выполнения имеет два пика (например, 5 мин и 60 мин), объединение в один поток даёт высокий CV. Разделение снижает CV каждого потока и сокращает очереди.

Как понять, что нужна

Распределение времени обработки двухпиковое
Часть заявок занимает 5 минут, часть — 2 часа
Быстрые заявки ждут за медленными

Когда применять

Бимодальное распределение времени
Можно классифицировать заявки на входе

Когда НЕ применять

Унимодальное распределение (один пик)
Нельзя предсказать сложность на входе

Порядок применения

1

Анализ распределения

Проанализируйте распределение времени выполнения (гистограмма)

2

Критерии разделения

Определите критерии 'быстрых' и 'сложных' кейсов

3

Два потока

Создайте два отдельных потока обработки

4

Классификация

Внедрите классификацию на входе

5

Оптимизация

Оптимизируйте каждый поток под свой тип нагрузки

История из жизни

Кейс: Техподдержка

Заявки «сброс пароля» (2 мин) и «сложная интеграция» (4 часа) шли в одну очередь. Быстрые заявки ждали часами. Разделили на 2 очереди: «быстрые» и «сложные». Среднее время для быстрых сократилось в 10 раз.

Связанные термины

Коэффициент вариации

Время выполнения

Вероятностное распределение

Разделить потоки — улучшение процессов

Как это работает

Как понять, что нужна

Когда применять

Когда НЕ применять

Порядок применения

История из жизни

Связанные термины

Кейсы, где применяли этот приём

Что будет со сроками выплат, если после града поток убытков вырастет впятеро?

Похожие оптимизации

Приоритизация очереди

Управление буферами (TOC)

Снизить переделки

Динамическое ценообразование

Попробуйте DES-симуляцию