← 返回航标笔记
#指标解释#性能

TTFT、完整响应和吞吐:三个指标分别说明什么

计时器、示波器与数据传输装置,呈现首 Token、完整响应和吞吐的测量

首 Token 速度不等于整段回答速度,理解指标口径才能做出正确比较。

TTFT(Time To First Token)反映请求开始后多久看到第一个输出,适合衡量交互反馈速度。完整响应时间反映整段回答结束所需时间,吞吐则更适合长文本或批量任务。

这些指标必须结合模型、请求长度、并发和检测时间一起看。单次样本只能说明当时的表现,不能直接推导长期可用率。