量化

avatar
Rainlin
专注于大模型系统、推理优化与高性能计算。
文章
12
标签
9
分类
5
最新文章
GGUF vs SafeTensors：两种模型存储格式对比
llama.cpp（一）：K-Quant 与 I-Quant — GGUF 量化格式全解
DFlash：块扩散 + KV 注入，让投机解码的草稿不再串行
Qwen3.5 架构解析：Gated DeltaNet + Full Attention 混合架构
大模型投机解码（三）：Multi-token Prediction — 让模型自己当 Draft
分类
标签
LLM llama.cpp 投机解码 大模型推理 量化 论文解读 模型架构 HuggingFace 大模型量化
归档
网站信息
文章数目 :
12
本站访客数 :
本站总浏览量 :
最后更新时间 :