高速缓存存储器

访问时间与寄存器一样接近的更快和更小的内存段称为高速缓存内存。在内存层次结构中，高速缓存内存的访问时间少于主内存。通常，高速缓存非常小，因此用作缓冲区。

需要高速缓存

主存储器中的数据可以比辅助存储器更快地访问，但主存储器的访问时间通常在几微秒内，而 CPU 能够在纳秒内执行操作。由于访问数据和执行数据之间的时间延迟，由于 CPU 没有得到适当的利用，系统的性能会下降，它可能会保持一段时间的空闲状态。为了最小化这个时间间隔，引入了新的内存段，称为高速缓存。

缓存是如何工作的？

为了了解缓存的工作原理，我们必须了解以下几点：

高速缓存更快，可以非常快速地访问它们
缓存更小，无法存储大量数据

当 CPU 需要任何数据时，它会在缓存中搜索相应的数据（快速过程），如果找到数据，它会根据指令处理数据，但是，如果在缓存中找不到数据，则 CPU 会在主内存中搜索该数据（较慢）进程）并将其加载到缓存中。这可确保始终在缓存中找到经常访问的数据，从而最大限度地减少访问数据所需的时间。

缓存性能

如果找到数据，则在缓存中搜索时，发生了缓存命中。
如果在缓存中搜索未找到数据，则发生缓存未命中。

Performance of cache is measured by the number of cache hits to the number of searches. This parameter of measuring performance is known as the Hit Ratio.

Hit ratio=(Number of cache hits)/(Number of searches)

编程需要懂一点英语

高速缓存的类型

L1 或 1 级高速缓存：它是处理器内部存在的第一级高速缓存。它分别少量存在于处理器的每个内核中。该内存的大小范围从 2KB 到 64 KB。

L2 或 Level 2 Cache：它是二级缓存内存，可能存在于 CPU 内部或外部。如果不存在于内核内部，它可以根据架构在两个内核之间共享，并通过高速总线连接到处理器。内存大小范围从 256 KB 到 512 KB。

L3 或 3 级高速缓存：它是位于 CPU 之外的第三级高速缓存，由 CPU 的所有内核共享。一些高处理器可能有这个缓存。此缓存用于提高 L2 和 L1 缓存的性能。此内存的大小范围从 1 MB 到 8MB。

缓存与 RAM

尽管 Cache 和 RAM 都用于提高系统的性能，但它们在提高系统效率方面存在很多差异。

RAM	Cache
RAM is larger in size compared to cache. Memory ranges from 1MB to 16GB	The cache is smaller in size. Memory ranges from 2KB to a few MB generally.
It stores data that is currently processed by the processor.	It holds frequently accessed data.
OS interacts with secondary memory to get data to be stored in Primary Memory or RAM	OS interacts with primary memory to get data to be stored in Cache.
It is ensured that data in RAM are loaded before access to the CPU. This eliminates RAM miss never.	CPU searches for data in Cache, if not found cache miss occur.