✳ A PLAYGROUND FOR UNDERSTANDING

理解技术,
从动手开始。

把论文里的原理,变成眼前的实验。
改一个参数,走一步执行,看清每一次变化。

选择一个 Explorer
01 个可探索的世界8 个互动章节持续生长中 ↗
LIVE EXPERIMENT / 001+

空闲内存,为什么用不上?

机制示意

一个请求需要 4 块空间。试试换一种分配方式。

PHYSICAL MEMORY8 BLOCKS
00·
01×
02·
03·
04×
05·
06·
07·
空闲其他请求新请求
有 6 块空闲,却放不下 4 块连续空间。

最长连续空闲区只有 3 块。切换到分页分配试试。

0 / 4
读懂概念 →调整参数 →观察运行 →建立直觉 ↗

LEARN BY CHANGING THINGS.

THE EXPLORER COLLECTION

选一个问题,开始探索01

每个教程,都是一间可以反复实验的工作室。

01 个教程

EXPERIMENT 01
LOGICAL → PHYSICALPagedAttention
大模型推理进阶 · 中文 / EN

vLLM Explorer

让每一块显存,都用在生成上。

从 KV 缓存的浪费出发,亲手拆解 PagedAttention、写时复制与连续批处理。沿着一条可回放的执行轨迹,看懂大模型推理引擎。

  • vLLM
  • PagedAttention
  • KV Cache
  • 内存管理
8 个互动章节 · 可逐步回放开始探索
从一个好问题出发,慢慢扩展知识的边界。更多 Explorer 将在这里相遇 ↗

FOLLOW YOUR CURIOSITY

也可以,从一个具体问题进入

[ 快速入口 ]

THE WORKSHOP METHOD

让“我读过”,
变成“我理解”。

探索工坊把开源项目与技术论文,拆解成可操作、可回放的学习过程。带着疑问进来,带着自己的解释离开。

01

先猜,再运行

在点击播放前,预测系统会怎样行动。让下一帧来检验你的直觉。

02

一次,改变一个变量

调整参数、切换策略,在状态图和事件流里找到变化的原因。

03

沿着证据,回到原理

区分教学示意与实测结果,沿原始论文或代码的出处继续阅读。