本文已移动

大模型架构系列在 2026 年 10 月 28 日重新编排了篇目顺序，这篇文章现在是06. 多头注意力与 KV 头：MHA、MQA、GQA、MLA。页面会自动跳转，没有跳转时请点击链接。

系列目录见大模型架构导读。