MESI 缓存一致性协议

AI 摘要:本文探讨了多核 CPU 上的缓存一致性问题,尤其是 MESI 缓存一致性协议。

2026-11-19 pv 2,174 字 · 8 分钟

最近跟一些水平比较高的工程师交流,有个很深的感受,好的工程师,应该既懂宏观,又懂微观。

设计一个复杂系统,这是宏观,洞悉底层如何工作,容易出错(error-prone)的地方,性能优化,这是微观。所谓架构师,并非只是画画图这么简单,或者在外行人看来,只是画了个图,但专业的人,一眼就能看出图的背后,架构者的功底。

用 AI 写代码是类似道理。AI 固然放大了个体能力,同时也放大了风险:如果缺乏专业判断和充分校验,AI 写的代码很容易成为 bug 的渊薮。以现在 LLM 的能力,很少犯低级错误,因此这种问题一旦出现,很难快速定位。

于是 AI 时代下,我的工作习惯变为:提高判断力;为系统增加足够的测试覆盖。

不要因为 AI 已经可以写出又快又能工作的代码,就放弃对于系统的深入理解。想起曾经的一次面试经历,面试结束时,我问了面试官一个问题,人类工程师与 AI 最大的区别在哪里?

他的回答让我有些惊讶,“好奇心”。

1. 起因

换了新的工作方向。不再做客户端 C++ 的开发,转而去做服务端,一个底层对象存储的服务层。不可避免就又回到分布式系统的领域,也是自己比较感兴趣的一块内容。在一堆不可靠的硬件、网络条件和有 bug 的软件中搭建起一个 365 * 24 小时高可用的服务,无疑是一种奇迹。

陆续会写一系列相关文章。先从底层开始。

一致性问题,是分布式系统诞生之初就存在的问题,也是必须要解决的问题。尽管这个问题,并非分布式系统独有。

比如在多核 CPU 上就存在。由于目前单核 CPU 的性能增长已接近停滞,于是 CPU 厂商通过水平扩展,强化 CPU 的整体性能。比如 Intel 最新发布的酷睿 Ultra 7 260K 处理器,有 20 个核心(8 个性能核+12 个能效核),最高睿频 5.4GHz,配备 30MB 智能缓存(有点像广告)。

这里可以把多核,理解为 CPU 空间里的分布式系统。

其整体架构大概是:

单一核心有自己的 L1 和 L2 缓存,不与其他核共享,容量小,读写速度快;L3 缓存多核心共享,容量大,读写较慢。

显然,这里有潜在的不一致性问题:如何保证 L1 和 L2 缓存里的值是最新的?如果保证对同一块内存的并发修改,不会出错?等等。

CPU 通过缓存一致性协议解决这些问题。

2. Cache Line

在讨论具体的一致性协议前,要先理解一个概念:Cache Line(缓存行)。

有些反直觉,CPU 缓存并非以待访问变量为存储和传输单元,而是以一块内存,即 Cache Line。常见的 Cache Line 长度为 64 Bytes。

背后的主要考虑是 CPU 计算和内存读取间在效率上存在巨大的鸿沟,另外是时间和空间局部性(Temporal/Spatial Locality):被访问数据的附近,短期内容易被访问到。通过一次预先加载,平摊后续的多次读写成本。例如常见的读取数组的例子:

for (int i = 0; i < 1000; ++i) {
sum += data[i];
}

如果没有 Cache Line,每次请求都从内存加载,计算效率将大受影响。

提到 Cache Line,不得不提另一个概念:False Sharing(伪共享)。

这是一种隐秘,但是会导致系统性能下降的使用模式。对于多核 CPU,如果各自操作不同的变量,理论上应该在私有的 L1 和 L2 缓存中,没有共享,也就无需动用成本很高的缓存一致性协议。

例如:

int a; // only read-write by Core 1
int b; // only read-write by Core 2

但在实际运行过程中,因为变量 a 和 b 被保存在同一个 Cache Line 中,因此两个核会不停地更新同一个 Cache Line,导致频繁地数据传输和缓存一致性对齐。

解决的办法可以是以 Cache Line Size 为内存对齐的基本单位,或者在变量后增加 padding,从而避免和其他变量共享一个 Cache Line。

3. MESI 协议

MESI 是一种常见的缓存一致性协议。由于是在伊利诺伊大学厄巴纳-香槟分校被发明,因此也被叫作“伊利诺伊协议 (Illinois Protocol)”。

之所以需要这样的协议,是因为当多个 CPU 核心共享同一份数据时,需要保证它们看到数据的一致性。这意味着其他核心的修改,当前核心能被通知到,否则就会读取到脏数据,反之亦然。

下面看 MESI 是如何生效的。

MESI 是四个单词的缩写:

  • Modified(修改)
  • Exclusive(排他)
  • Shared(共享)
  • Invalid(无效)

表示四种一致性状态,每个 Cache Line 对应一个。

3.1 Modified

Modified 意味着当前 Cache Line 已经被修改,且当前缓存持有最新数据。特点是:

  • 当前核心拥有独占修改权限
  • 其他核心不允许持有该 Cache Line 的有效副本
  • Cache 中的数据与内存不同
  • 其他核心访问时,需要数据写回

3.2 Exclusive

Exclusive 表示当前核心独占 Cache Line,但数据没有被修改。因此前两者与 Modified 相似,除了:Cache 中的数据与主存一致。

3.3 Shared

Shared 表示多个核心可以同时缓存相同的 Cache Line。所以:

  • 多个核心可以持有有效副本
  • Cache 中数据与主存一致
  • 如果某个核心想要修改,需要先获得独占修改权限

3.4 Invalid

Invalid 表示当前 Cache Line 不再拥有有效的数据副本。如果当前核心需要访问数据,必须重新获取 Cache Line。

3.5 工作流程

下面模拟多个核心访问同一个 Cache Line 的过程。假设:

int counter = 100;

3.5.1 场景一:Core 0 第一次读取数据

Core 0 执行:

int value = counter;

于是:

  1. Core 0 检查自己的 Cache
  2. 发现 Cache Miss
  3. 向缓存一致性互联发出读取请求
  4. 发现其他 Core 没有持有该 Cache Line
  5. 获取数据并将其缓存
  6. Cache Line 进入 E 状态

状态转移为:

Core 0: I → E

3.5.2 场景二:Core 1 也读取数据

Core 1 执行:

int value = counter;

于是:

  1. Core 0 已经拥有 E 状态的 Cache Line
  2. Core 1 发生 Cache Miss,并发出读取请求
  3. Core 0 发现其他 Core 正在请求自己持有的数据,于是参与数据提供和状态转换

最终:

Core 0: E → S
Core 1: I → S

3.5.3 场景三:Core 0 修改数据

现在 Core 0 执行:

counter = 200;

于是:

  1. 目前 Core 0 和 Core 1 都持有 S 状态
  2. Core 0 发出 BusUpgr 请求
  3. 通知其他 Core 对应的缓存副本失效
  4. Core 1 将对应 Cache Line 从 S 转换为 I
  5. Core 0 获得独占修改权限
  6. Core 0 修改数据,状态转换为 M

最终:

Core 0: S → M
Core 1: S → I

3.5.4 场景四:Core 1 再次读取数据

现在 Core 1 再次执行:

int value = counter;

于是:

  1. 之前的 Cache Line 已经变成 I,Core 1 必须重新请求数据
  2. Core 1 发出 BusRd 请求
  3. Core 0 发现自己持有 M 状态的最新数据,需要参与这次请求,并提供最新数据

最终:

Core 0: M → S
Core 1: I → S

4. 总结

多核心 CPU 提供了更高的计算效率,但也带来新的问题:并发读写冲突导致不一致。

MESI 协议通过一个简单的状态机和清晰的状态转移过程,在尽量少地干扰性能的前提下,保证整个系统的一致性。

在我看来,MESI 背后的核心思想,是懒惰(Lazy),不到万不得已,不去执行一致性协议对齐数据,满足最终效果,同时成本最小化。

这对生活是有启示的。比如不去做过于长远的规划,只专注短期和中期,未来的问题交给未来的自己去解决。

(完)

参考

  1. MESI协议 - 维基百科,自由的百科全书🔗
  2. 英特尔酷睿 Ultra 7 260K 低调上市:20 核处理器性能比肩 265K,但仅随整机销售 - IT之家🔗
  3. CPU缓存 - 维基百科,自由的百科全书🔗
  4. 平摊分析 - 维基百科,自由的百科全书🔗
  5. 伪共享 - 维基百科,自由的百科全书🔗
在 GitHub 上编辑本页面

最后更新于: 2026-11-19T01:47:31+08:00