技术笔记

SmoothQuant 源码剖析 ↗

总结：smoothquant 从实现角度可拆开成两部分： 逐通道 smooth（平滑）权重和逐-token/逐 tensor 量化权重。