Латентность

Просто

Задержка: сколько ждать ответа.

Бизнес

Время отклика системы; в агентных цепочках складывается из десятков вызовов и определяет применимость в реальном времени.

Техно

p50/p95/p99 времени ответа; в MAS доминируют последовательные LLM-вызовы; лечится параллелизмом, кэшем и стримингом.

Связанные термины

Все термины глоссария