基本上我们希望程序和数据永久驻留在主内存中。
由于以下两个原因，这种安排通常是不可能的：
- 主存储器通常很小，无法永久存储所有需要的程序和数据。
- 主存储器是一种易失性存储设备，在电源关闭或以其他方式丢失时会丢失其内容。
有两种类型的存储设备：-
- 易失性存储设备 –
当设备的电源被移除时，它会丢失其内容。 - 非易失性存储设备 –
断电时它不会丢失其内容物。它在断电时保存所有数据。
辅助存储器用作主存储器的扩展。辅助存储设备可以永久保存数据。
存储设备由寄存器、高速缓存、主存储器、电子盘、磁盘、光盘、磁带组成。每个存储系统都提供了存储数据和保存数据直到以后检索它的基本系统。所有存储设备在速度、成本、大小和易变性方面都不同。最常见的二级存储设备是磁盘，它为程序和数据提供存储。
在此图中显示了存储层次结构 –
在这个层次结构中，所有存储设备都根据速度和成本进行排列。更高级别的价格昂贵，但速度很快。随着我们在层次结构中向下移动，每比特成本通常会降低，而访问时间通常会增加。
电子盘上面的存储系统是易失性的，下面是非易失性的。
电子磁盘可以设计为易失性或非易失性。在正常操作期间，电子磁盘将数据存储在一个大的 DRAM 阵列中，该阵列是易失性的。但是许多电子磁盘设备都包含一个隐藏的磁性硬盘和一个备用电源电池。如果外部电源中断，电子磁盘控制器将数据从 RAM 复制到磁盘。当外部电源恢复时，控制器将数据复制回 RAM。
一个完整的内存系统的设计必须平衡所有的因素。它必须仅使用尽可能多的昂贵内存，同时提供尽可能多的廉价、非易失性内存。当两个组件之间存在较大的访问时间或传输速率差异时，可以安装缓存以提高性能。