가상 메모리·페이지 변환·Swap과 메모리 부족

01가상 메모리는 Swap보다 넓은 개념이다

• 가상 주소와 물리 주소프로세스가 사용하는 주소는 일반적으로 그 프로세스의 가상 주소 공간 안에 있다.

  • 운영체제는 매핑과 접근 권한을 관리하고, CPU의 MMU가 메모리 접근 때 그 가상 주소를 물리 주소로 변환한다.
  • 프로세스 A와 B에서 같은 숫자의 가상 주소를 사용해도 서로 다른 물리 메모리에 연결될 수 있다.
  • 이 분리는 주소 배치와 프로세스 격리를 가능하게 한다.
• Swap의 범위Swap은 메모리 회수에 사용할 수 있는 저장 공간 또는 그 기능이다.

  • Swap을 꺼도 가상 주소와 페이지 테이블은 계속 사용된다.
  • 따라서 “RAM이 모자랄 때 디스크를 RAM으로 쓰는 것 = 가상 메모리의 전부”로 외우면 보호·공유·파일 매핑을 설명하지 못한다.
  • EMM386는 DOS 환경에서 EMS/UMB를 지원하는 메모리 관리자다.
  • 현대 운영체제의 가상 주소 공간·페이지 변환·보호 기능 전체를 가리키지는 않는다.

02메모리 접근과 페이지 폴트 처리 단계

1. 가상 주소 생성프로세스가 자신의 주소 공간에서 읽기·쓰기·실행할 주소를 사용한다.
2. TLB 조회변환 정보가 있으면 활용한다. miss이면 아키텍처가 정한 방식으로 페이지 테이블을 탐색한다.
3. 매핑과 권한 검사present 상태와 접근 권한을 확인한다. TLB miss만으로 디스크 I/O가 발생하는 것은 아니다.
4. 필요한 예외 처리현재 접근을 완료할 수 없으면 운영체제가 페이지 폴트를 처리한다. 요청 시 할당·COW·파일 또는 Swap 읽기·허용되지 않는 접근을 구분한다.
5. 매핑 갱신 또는 오류 전달유효한 접근을 준비했다면 변환을 갱신하고 접근을 재개한다. 잘못된 주소나 권한 위반이면 SIGSEGV 등의 오류 처리로 이어질 수 있다.

03주소 공간에는 무엇이 놓이는가

• 주소 공간의 구성전형적인 프로세스 설명에서는 실행 코드, 전역·정적 데이터, 동적 할당 영역, 호출 스택, 공유 라이브러리와 파일 매핑 등을 나눈다.

  • 실제 주소 배치와 성장 방향은 아키텍처·운영체제·런타임에 따라 다르다.
  • 각 영역의 역할을 이해하는 것이 한 장의 고정된 주소 그림을 모든 환경에 적용하는 것보다 중요하다.
• 스택과 객체의 수명스택은 호출 상태와 지역 데이터 등에 쓰이지만 모든 지역 변수가 반드시 물리적인 스택 슬롯 하나에 놓이는 것은 아니다.

  • 컴파일러 최적화와 언어 구현이 배치를 바꿀 수 있다.
  • 동적 객체의 수명도 함수 종료와 일치하지 않는다.
  • Python 객체는 참조와 런타임 관리에 따라 살아남을 수 있고, 운영체제가 보는 프로세스의 메모리 영역과 언어가 보는 객체는 서로 다른 관찰 단위다.

05페이지 번호와 오프셋으로 주소를 나누기

• 페이지와 오프셋페이지 방식에서는 가상 주소 공간과 물리 메모리를 일정 크기의 단위로 다룬다.

  • 4 KiB 페이지를 가정하면 페이지 안의 위치를 나타내는 오프셋은 12비트다.
  • 나머지 주소 부분으로 페이지 테이블의 매핑을 찾고, 얻은 물리 페이지 프레임 번호에 같은 오프셋을 붙인다.
  • 4 KiB는 흔한 기본값의 예시이며 시스템에 따라 다른 페이지 크기와 huge page도 사용한다.
• 주소 변환 계산예를 들어 단순화한 가상 주소 0x12345에서 페이지 번호는 0x12, 오프셋은 0x345다.

  • 페이지 번호 0x12가 물리 프레임 0x8A에 매핑되었다면 물리 주소는 0x8A345다.
  • 실제 CPU는 다단계 페이지 테이블 등 아키텍처별 구조를 사용하므로, 이 계산은 페이지와 오프셋의 의미를 보여 주는 보충 예제다.

페이지 크기 = 4096 = 0x1000
가상 주소 = 0x12345
가상 페이지 번호 = 0x12345 // 0x1000 = 0x12
페이지 오프셋 = 0x12345 % 0x1000 = 0x345
가정한 매핑: VPN 0x12 → PFN 0x8A
물리 주소 = 0x8A × 0x1000 + 0x345 = 0x8A345

실제 시스템에서 읽어 온 주소가 아닌, 계산 과정을 검산할 수 있도록 만든 예제다.

06TLB 조회와 페이지 테이블 검사

• TLB hit와 miss주소를 참조할 때마다 긴 페이지 테이블 탐색을 반복하면 비용이 커진다.

  • TLB는 최근 주소 변환과 관련 권한 정보를 빠르게 재사용하기 위한 CPU의 캐시다.
  • TLB hit이면 캐시된 변환을 활용하고, miss이면 아키텍처가 정한 방식으로 페이지 테이블을 찾아 변환을 채운다.
  • TLB miss 자체는 디스크를 읽는다는 뜻이 아니다.
• 접근 권한과 무효화매핑에는 단순한 위치뿐 아니라 present 여부와 읽기·쓰기·실행, 사용자·커널 접근 등 보호 정보가 연결된다.

  • 주소가 존재하더라도 허용하지 않는 쓰기나 실행이면 예외가 발생할 수 있다.
  • 운영체제가 매핑을 바꿀 때 오래된 변환을 계속 쓰지 않도록 TLB 무효화가 필요하다.
  • 여러 CPU에서 같은 주소 공간을 실행하는 경우 관련 CPU 사이의 조정도 필요하다.

07페이지 폴트: 정상 처리와 잘못된 접근을 구별하기

• 페이지 폴트 분기CPU가 현재 상태로 메모리 접근을 완료하지 못하면 페이지 폴트 예외를 통해 운영체제에 처리를 넘길 수 있다.

  • 운영체제는 유효한 주소의 아직 준비되지 않은 페이지인지, Copy-on-Write를 위한 쓰기인지, Swap에서 다시 읽어야 하는지, 아예 허용하지 않는 접근인지를 구분한다.
  • 모든 페이지 폴트가 버그이거나 디스크 I/O인 것은 아니다.
• 요청 시 할당과 COW요청 시점에 처음 사용하는 익명 메모리에는 새 페이지나 초기화된 페이지를 준비할 수 있다.

  • fork 뒤 부모·자식이 페이지를 읽기 전용으로 공유하다 한쪽이 수정하면 필요한 페이지를 복사하고 매핑을 바꾸는 Copy-on-Write 처리를 할 수 있다.
  • 공유하던 데이터가 실제로 수정될 때 비용을 부담하는 것이다.
• major·minor·잘못된 접근파일이나 Swap에서 데이터를 읽기 위해 I/O가 필요한 major fault와 I/O 없이 해결되는 minor fault를 나누어 관찰한다.

  • 접근이 주소 영역이나 권한 규칙에 맞지 않으면 프로세스에 SIGSEGV 등으로 전달될 수 있다.
  • 특정 fault 수치 하나를 곧바로 공격·장애로 해석하지 않고 어떤 작업 중 발생했는지 본다.

09회수할 페이지: 파일 캐시와 익명 메모리

• 파일 페이지 캐시Linux는 남는 메모리를 파일 페이지 캐시 등에 활용한다.

  • 파일에서 읽었고 수정되지 않은 깨끗한 페이지는 원본 파일에서 다시 읽을 수 있으므로 회수 대상이 될 수 있다.
  • 수정된 파일 페이지는 해당 내용을 보존하기 위해 저장 장치로 쓰는 처리가 필요하다.
  • 캐시가 크다는 사실만으로 메모리 누수라고 보지 않는 이유다.
• 익명 메모리와 제한일반적인 익명 메모리는 대응하는 원본 파일이 없으므로 내용을 버렸다가 파일에서 다시 읽을 수 없다.

  • 운영체제는 조건에 따라 Swap으로 내보내거나, 압축 메모리 등 구성된 기능을 활용할 수 있다.
  • Swap이 없다면 선택 가능한 회수 경로가 달라진다.
  • 전체 RAM이 남아 있어도 컨테이너·서비스의 메모리 제한 때문에 별도의 부족 상황이 생길 수 있다.
• 반복 회수와 지연작업에 필요한 페이지 집합이 가용 메모리보다 커서 반복적으로 내보내고 다시 읽는 상태에서는 처리 시간의 많은 부분을 메모리 회수와 I/O에 사용한다.

  • 이를 단순히 “Swap을 더 만들면 해결”로 접근하면 원인인 작업량·제한·누수·비효율적 캐시를 놓칠 수 있다.

10free와 vmstat를 함께 읽는 순서

• free와 availablefree의 free는 완전히 사용하지 않는 메모리이고, available은 새 작업에 사용할 수 있을 것으로 추정되는 양이다.

  • 둘은 같은 값이 아니다.
  • buff/cache와 reclaimable 메모리 등을 고려해야 한다.
  • Swap used가 남아 있어도 현재 활발한 Swap I/O가 발생한다는 뜻은 아니다.
  • 이전에 밀려난 덜 쓰는 페이지가 그대로 남을 수 있다.
• 구간별 관찰vmstat의 si/so를 일정 간격으로 읽어 Swap 유입·유출 추세를 보고, 실행 대기·I/O 대기와 서비스 응답 지연을 함께 확인한다.

  • 첫 보고 행은 대개 부팅 이후 평균이므로 이후 구간 보고와 구분한다.
  • 페이지 폴트·프로세스 상주량·커널 로그까지 연결해야 압박을 받는 주체를 좁힐 수 있다.

free -h
swapon --show --bytes
cat /proc/swaps
vmstat 1 5
cat /proc/meminfo
cat /proc/pressure/memory

Linux 학습 환경에서 상태를 읽는 예제다. 출력 항목과 단위는 도구 버전을 확인하며, pressure 정보는 커널 지원과 설정에 따라 제공된다. 사이트 작성 중 사용자 PC의 메모리 설정을 바꾸거나 이 실습을 실행하지 않았다.

11Swap 파일·파티션과 swappiness의 의미

• Swap 저장 방식Swap은 전용 파티션이나 지원되는 파일 시스템의 파일 등으로 제공할 수 있다.

  • 파일을 사용할 때는 해당 파일 시스템의 hole·Copy-on-Write·스냅샷 제약을 확인해야 한다.
  • 모든 파일 시스템에서 같은 fallocate 절차를 그대로 적용할 수 있다고 가정하면 안 된다.
  • 권한과 영구 설정도 함께 관리해야 하지만, 이미 운영 중인 저장 영역을 잘못 초기화하는 위험 때문에 개념 이해와 실제 변경 작업은 구분한다.
• swappinessswappiness는 RAM이 몇 퍼센트 찼을 때 Swap을 켜는 임계값이 아니다.

  • 회수 과정에서 익명 페이지와 파일 기반 페이지의 비용을 비교하는 정책 매개변수다.
  • 최적값은 저장 장치·압축 Swap·작업 특성에 따라 달라지므로 “항상 낮을수록 좋다”는 규칙으로 외우지 않는다.
  • 변경 전후의 지연과 I/O를 비교해야 의미가 있다.
• swapoff의 영향swapoff는 사용 중인 Swap 데이터를 다시 처리해야 하므로 여유 메모리와 다른 회수 자원이 부족하면 실패하거나 큰 압박을 만들 수 있다.

  • 사용량 숫자를 0으로 만들기 위해 습관적으로 수행할 작업이 아니다.
  • RAM을 늘리거나 불필요한 작업을 줄이는 조치와 달리, 문제의 원인을 제거하지 않을 수 있다.

12OOM·누수·프로세스 메모리를 구분하기

• VSZ·RSS·PSS주소 공간 크기(VSZ)가 크다고 그만큼의 물리 RAM을 독점하고 있는 것은 아니다.

  • RSS는 현재 상주하는 페이지를 보지만 공유 페이지를 여러 프로세스에서 중복 집계할 수 있다.
  • PSS는 공유분을 나누어 계산해 기여도를 이해하는 데 도움을 준다.
  • 어느 지표를 더했는지 모르면 시스템 전체와 프로세스 합계가 다르다는 이유로 오류라고 판단하기 쉽다.
• 누수와 OOM메모리 누수는 필요가 끝난 자원을 계속 유지하여 회수되지 않는 현상이며, 증가 추세와 작업량의 관계를 조사한다.

  • 정상 캐시·배치 작업의 일시적 최대 사용량과 구분해야 한다.
  • OOM은 전체 시스템이나 제한된 cgroup에서 회수가 충분하지 않은 상황과 연결될 수 있다.
  • 종료 시각, 대상 PID·서비스, 제한값, 당시의 부하와 커널 기록을 함께 보존한다.
• 원인을 연결하는 관점사용자 공간 객체 → 가상 주소 매핑 → 상주 페이지 → 회수·Swap → 작업 지연의 순서로 연결하면, 프로그램 수정이 필요한지 서비스 제한 조정이 필요한지 저장 장치나 용량 문제인지 판단할 근거가 생긴다.