性能优化

title: “大模型推理为何这么慢？从内存带宽瓶颈到KV Cache优化的技术突围” date: “2026-03-06T12:41:49+08:00” description: “深入解析大语言模型推理的性能瓶颈，从内存带宽限制到KV Cache优化的完整技术演进路线。涵盖FlashAttention、PagedAttention、GQA、连续批处理等核心技术，以及vLLM与TensorRT-LLM框架的选型建议。” draft: false categories: [“人工智能”, “性能优化”, “分布式系统”] tags: [“LLM推理”, “KV Cache”, “内存优化”, “Transformer”, “GPU优化”, “FlashAttention”, “PagedAttention”, “vLLM”] 2022年11月，ChatGPT的发布让大语言模型（LLM）走入公众视野。当你向模型发送一个简单问题时，可能需要等待几秒钟才能看到第一个字出现——这不是模型在"思考"，而是在等待数据从GPU内存搬运到计算单元。 ...

在游戏社区论坛上，一个反复出现的问题困扰着许多玩家：明明电脑配置足够，为什么游戏会莫名其妙地"卡顿"？有人用LatencyMon工具分析后发现"Hard Page Faults"数值异常，有人尝试关闭虚拟内存后问题消失，有人升级到SSD后卡顿明显改善。 ...

1986年10月，Lawrence Berkeley Laboratory（LBL）与加州大学伯克利分校之间的网络连接出现了一个令人困惑的现象：两地相隔仅400码，中间只经过两个IMP（Interface Message Processor）跳转，正常情况下数据吞吐量应维持在32 Kbps左右，但在这段时间里，吞吐量骤降至40 bps——下降了近1000倍。 ...

2014年，Philip Roberts 在 JSConf EU 上做了一场名为"What the heck is the event loop anyway?“的演讲。这个演讲后来在 YouTube 上突破了百万播放量，成为理解 JavaScript 异步机制的入门必修课。然而，演讲中并未触及一个更深层的问题：当 setTimeout(fn, 0) 和 Promise.resolve().then(fn) 同时存在时，谁先执行？ ...

title: “火焰图背后的采样：浏览器性能分析的底层原理” date: “2026-03-06T07:53:58+08:00” description: “深入剖析浏览器DevTools Performance面板的底层实现原理。从V8引擎的CPU profiler采样机制、Chrome Tracing架构、Trace Event Format数据格式，到火焰图的可视化原理与safepoint bias问题，揭示性能分析工具如何从原始栈快照生成开发者日常使用的性能报告。基于V8官方文档、Chrome源码、Brendan Gregg的火焰图原论文以及Google的RAIL性能模型，系统梳理浏览器性能分析的完整技术链路。” draft: false categories: [“浏览器技术”, “性能优化”, “JavaScript引擎”] tags: [“性能分析”, “Chrome DevTools”, “V8引擎”, “火焰图”, “采样profiler”, “RAIL模型”, “JavaScript性能”] 2011年，性能工程师Brendan Gregg在Joyent公共云上调试一个MySQL性能问题时，面对的是一份长达591,622行的DTrace输出。即使只显示唯一栈跟踪，仍有27,053条记录。他把整个输出缩小到屏幕上时，看到的是一个毫无意义的灰色方块。 ...

2011年，LMAX交易平台的工程师们遇到一个奇怪的问题：他们的高性能消息队列在生产环境中表现不佳，但代码逻辑完全正确，线程安全措施也到位。经过深入排查，问题竟出在两个相邻的变量上——它们恰好落在同一个缓存行中。 ...

2015年8月，Google开发者倡导者Jake Archibald发布了一篇题为《Tasks, microtasks, queues and schedules》的文章，用一个简单的代码示例揭示了JavaScript开发者普遍存在的认知盲区： ...