ast-grep,具有更大想象空间的 grep 工具?

问题 “这个函数在哪被调用了?” 我敲下 rg "getUserInfo" 然后回车。屏幕刷出几十行结果——注释里的、字符串里的、真正的调用、还有一堆看起来像但其实不是的。 ...

2025-11-23 · 4 分钟 · 1793 字 · zjding

从vLLM到SGLang

技术迁移实践报告:从vLLM到SGLang的体验 1. 迁移背景与动机 在初始项目中,我们选择vLLM作为推理框架,主要基于其高效的吞吐能力(经测试,单A100 GPU可支持每秒120+请求)及成熟的PagedAttention内存管理机制。然而,随着业务需求复杂化,以下痛点逐渐显现: ...

2024-12-15 · 4 分钟 · 1596 字 · zjding