[운영체제] 캐시의 지역성

캐시의 지역성의 원리

캐시메모리는 속도가 빠른 장치와 느린 장치간의 속도 차에 따른 병목 현상을 줄이기 위한 범용 메모리

이러한 역할을 수행하기 위해선 CPU가 어떤 데이터를 원할 것인가를 어느 정도 예측할 수 있어야 함. (캐시의 성능은 작은 용량의 캐시 메모리에 CPU가 이후에 참조할 쓸모있는 정보가 얼마나 들었느냐에 좌우되기 때문)

이때, 적중률(cache hit rate)을 극대화 시키기 위해서 데이터 지역성(Locality)의 원리를 사용

Locality의 전제 조건 : 프로그램은 모든 코드나 데이터를 균등하게 access하지 않는다. (어느 한 순간에 특정 부분을 집중적으로 참조하는 특성)

이는 대표적으로 시간 지역성과 공간지역성으로 나뉨.

- 시간 지역성: 최근에 참조된 주소의 내용은 곧 다음에 다시 참조되는 특성

- 공간 지역성: 대부분의 실제 프로그램이 참조된 주소와 인접한 주소의 내용이 다시 참조되는 특성

 

Caching Line

캐시는 프로세서 가까이에 위치하면서 빈번하게 사용되는 데이터를 놔두는 장소. 그러나 캐시가 아무리 가까이 있더라도 찾고자 하는 데이터가 어느 곳에 저장되어 있는지 몰라 모든 데이터를 순회하게 된다면 시간 낭비가 발생.

따라서 캐시에 목적 데이터가 저장되어 있다면 바로 접근할 수 있어야 캐시가 의미 있어지는 것.

 

캐싱 라인 : 캐시에 데이터를 저장할 때 특정 자료구조를 사용해 묶음으로 저장하는 것 (set이나 map을 활용)

프로세스는 다양한 주소에 있는 데이터를 사용하므로 빈번하게 사용하는 데이터의 주소도 흩어져 있다. 따라서 캐시에 저장하는 데이터에는 데이터의 메모리 주소등을 기록해둔 태그를 달아두어야 한다.

이러한 태그의 묶음을 캐싱라인이라 하고 메모리로 부터 가져올 때도 캐싱라인을 기준으로 가져온다.