计算机分级存储体系核心是解决存储器容量、速度与价格三者难以兼顾的矛盾，它依据程序局部性原理构建层次化存储结构，常见层级从快到慢、容量从小到大、单位成本从高到低依次为寄存器、高速缓存（Cache）、主存、外存（如硬盘、磁带等）。该体系将程序运行时高频访问的数据和指令部署在高速小容量的上层存储，低频数据存于低速大容量的下层存储，以此在整体上实现接近高速存储的访问速度、接近外存的存储容量，同时控制综合成本。需注意，分级存储并非以解决主存容量不足、提升读写可靠性或外设访问效率为核心目的，其中读写可靠性依赖纠错冗余技术，外设访问效率提升多依靠缓冲、DMA、通道技术，主存容量不足的缓解只是其附带作用。