从零构建一个微型vLLM：深入探究大语言模型推理优化 | github

这篇文章用“从零做一个迷你 vLLM”的方式，解释高性能大模型推理引擎在工程上到底优化了什么。作者实现了一个教学向的最小版本 nano-vllm，把 vLLM 常见的关键技术拆开讲清楚，并给出模块化代码结构，方便读者对照理解。