大模型推理为什么第一个 Token 总是很慢：从 Prefill 到 Decode 的完整技术解析 当你向一个大语言模型发送请求时，可能会注意到一个有趣的现象：第一个字蹦出来总是慢半拍，但随后的字却如流水般涌出。这种"先慢后快"的节奏并非偶然，而是大模型推理机制的根本特性。 ...