为什么setTimeout不是最佳让出方案:从4ms最小延迟到优先级续行的技术突围
2023年9月,土耳其电商平台Trendyol的产品详情页INP指标高达963毫秒,处于"差"评级。用户点击商品后,页面近乎冻结。六个月后,这个数字降到了481毫秒——INP改善50%,点击率提升1%。转折点只改动了了几行代码:用scheduler.yield()替换了setTimeout。 ...
2023年9月,土耳其电商平台Trendyol的产品详情页INP指标高达963毫秒,处于"差"评级。用户点击商品后,页面近乎冻结。六个月后,这个数字降到了481毫秒——INP改善50%,点击率提升1%。转折点只改动了了几行代码:用scheduler.yield()替换了setTimeout。 ...
工作窃取算法为何能用O(PD)次窃取完成并行计算:从理论证明到工程实现的二十年演进 2008年,Intel发布TBB(Threading Building Blocks),2011年Java 7引入ForkJoinPool,2018年Rust的Tokio发布多线程运行时——这些看似无关的技术决策背后,都指向同一个调度算法:工作窃取(Work Stealing)。为什么从高性能计算到异步运行时,工作窃取能成为跨领域的通用解法? ...
1996年1月,Intel工程师Ajay Bhatt站在拉斯维加斯COMDEX展台上,看着团队将127台打印机同时连接到一台PC。当Bill Nye插上最后一台设备时,全场爆发出掌声——Universal Serial Bus(通用串行总线)终于让"即插即用"成为现实。 ...
1999年,当InfiniBand Trade Association成立时,很少有人预料到这项技术会在二十年后成为人工智能训练网络的核心基础设施。RDMA(Remote Direct Memory Access,远程直接内存访问)从一个旨在替代PCI总线的技术愿景,演变成了现代数据中心不可或缺的性能加速器。 ...
2010年5月,加州大学伯克利分校的博士生Andrew Waterman向他的导师们发送了一封电子邮件。在为一个小型项目考察了几个月的指令集架构后,他得出了一个看似荒谬的结论:他们应该复活早已消亡的DEC Alpha架构。 ...
1948年,Claude Shannon在一篇开创性论文中定义了数据压缩的理论边界。七十七年后,尽管CPU性能提升了数百万倍,我们依然无法突破这条界限。更令人沮丧的是,半个世纪的技术演进揭示了一个残酷事实:速度、压缩比、内存占用——你永远只能选两个。 ...
一台配备64GB内存的服务器,要索引十亿个768维的向量,需要多少存储空间? 答案是超过3TB。而标准的内存索引方案,比如HNSW,要求将所有数据加载到内存中才能保证查询延迟在毫秒级。这意味着,即使是企业级的服务器,也无法在单机上完成这项任务。云服务器的内存按GB计费,3TB内存的月成本可能高达数千美元——这才是向量数据库规模化部署面临的真正瓶颈。 ...