Чем tail latency отличается от average latency и когда что выбрать?

Сравнение: «tail latency» выбирают не по привычке, а по контракту, стоимости и safety guarantees. В сравнении с average latency нужно учитывать lifetime, владение, потокобезопасность, читаемость и совместимость с проектом.

Правильная позиция: нет универсально лучшего решения; есть решение, подходящее под ограничения задачи.

// p99 latency under load