RAID·백업·복구와 quota

01stripe와 mirror가 실제 블록을 놓는 위치

• RAID 0의 블록 배치같은 크기 디스크 두 개에 RAID 0을 만들면 연속 데이터 구간을 chunk로 나누어 A0,B0,A1,B1처럼 번갈아 배치한다.
• 스트라이핑의 장애 위험여러 장치로 I/O를 분산할 수 있지만 필요한 데이터 조각이 여러 디스크에 흩어지므로 하나가 고장 나면 전체 내용을 완성할 수 없다.
• RAID 1RAID 1은 같은 논리 블록을 두 장치에 기록한다.
• 단일 멤버 장애한쪽이 없어도 남은 복사본으로 읽을 수 있지만 삭제나 잘못된 쓰기도 함께 복제된다.
• 성능 증가의 조건디스크 수를 늘렸을 때 성능이 항상 1.4배 또는 정확히 두 배가 되는 것은 아니다.

  • 순차·랜덤 I/O, 읽기·쓰기 비율, 큐 깊이, 컨트롤러, 네트워크, 동기화 여부가 결과에 영향을 준다.
• RAID 0·1 가용 용량동일 크기 N개 디스크의 단순 RAID 0은 대략 N개 용량, 두 개 RAID 1은 한 개 용량을 제공한다.
• 용량메타데이터와 정렬 등 때문에 표시되는 실사용량은 이론 계산과 약간 다를 수 있다.

02패리티와 중첩 RAID의 장애 허용을 계산하기

• RAID 5·stripeRAID 5는 한 stripe의 데이터로부터 패리티를 계산해 여러 디스크에 분산한다.
• 패리티데이터 조각 하나를 잃어도 남은 데이터와 패리티로 재구성하며 동시 한 장치 장애를 견딘다.
• RAID 6RAID 6은 서로 독립적인 두 패리티 정보를 사용해 두 장치 장애를 견딘다.
• 디스크·용량같은 크기 디스크라면 데이터 용량은 각각 (N-1)배와 (N-2)배지만 작은 쓰기는 패리티 갱신 비용이 생길 수 있다.
• 디스크·RAID 10전형적인 네 디스크 RAID 10은 두 미러 쌍 위에 stripe를 놓는다.
• 동일 미러 쌍 장애한 쌍에서 둘이 동시에 고장 나면 다른 쌍이 살아 있어도 해당 데이터가 사라진다.

  • 서로 다른 쌍에서 하나씩 고장 나면 계속 동작할 수 있다.
  • 반대로 stripe 두 묶음을 미러하는 RAID 0+1은 같은 네 디스크라도 장애 후 남는 구조가 다르다.
• md1·md11하위 md1·md11이 raid1이고 상위 md110이 raid0인 출력은 RAID 1+0 구조를 나타낸다.

03Linux MD의 생성·조립·마운트가 다른 단계인 이유

• Linux MD 관리mdadm은 Linux MD 장치의 구성을 관리한다.
• --create--create는 선택한 구성원에 새 배열 메타데이터를 만들고, 조립은 기존 구성원의 UUID·이벤트 정보 등을 이용해 배열을 다시 활성화하는 과정이다.
• 파일 시스템·마운트배열 위에 파일 시스템을 생성하고 그것을 마운트하는 것은 또 다른 단계다.
• mdadm·파일 시스템배열 정보가 저장되는 mdadm.conf와 파일 시스템의 마운트 위치를 기록하는 fstab은 목적이 다르다.
• ARRAY와 fstabmdadm --detail --scan의 ARRAY 줄은 배열 조립용 설정 자료다. 이를 mdadm.conf에 기록한다고 fstab의 마운트 항목이 자동 생성되지는 않는다.
• 부팅용 배열초기 부팅에 root 배열이 필요하면 initramfs 안에서도 구성원과 배열을 찾을 수 있어야 한다.
• 데이터용 배열data 배열은 배포판의 udev/systemd 자동 조립으로 처리될 수 있으므로 운영체제 구성과 배열 용도를 함께 설명한다.

cat /proc/mdstat
sudo mdadm --detail /dev/md1
sudo mdadm --detail --scan
lsblk -f
# MD UUID와 그 위 파일 시스템 UUID는 다른 계층의 식별자다.

교육용 설정·명령 예시. 실행 환경과 대상 경로를 가정하며 이 페이지를 만들면서 실행하지 않았다.

04clean·degraded·recovery를 블록 복제 상태로 읽기

• RAID 1두 구성원 RAID 1의 [2/2] [UU]는 필요한 두 자리에 정상 구성원이 둘 있음을 나타내는 대표 출력이다.
• degraded한쪽이 빠지면 [2/1] [U_] 같은 상태가 보이고 배열은 degraded로 계속 서비스할 수 있다.
• cleanclean은 대기 중인 기록 정합성의 상태를 설명할 수 있으며 clean, degraded가 함께 나타날 수 있다.

  • clean만 보고 모든 디스크가 정상이라고 해석하면 안 된다.
• 복구·recovery새 장치를 추가하면 남은 데이터에서 복사하여 복구하는 동안 recovery 진행률이 나타난다.

  • 복구가 끝나기 전에는 원래 장애 허용 여유가 회복되지 않았다.
• 백업write-intent bitmap은 어떤 범위에 쓰기가 있었는지 기록해 일부 동기화 작업에 도움을 주지만 별도 백업이 아니다.
• scrub/checkscrub/check는 구성원 사이의 불일치를 검사하는 작업이며 어느 복사본이 올바른 사용자 데이터인지 항상 자동 판정해 주지는 않는다.

1. 정상 미러 상태두 정상 멤버에 같은 논리 데이터를 유지하는 미러 쌍을 가정한다. 두 복사본이 있는 상태와 배열에 기록할 변경이 없는 clean 상태는 같은 뜻이 아니다.
2. 멤버 하나의 장애한 멤버를 더 사용할 수 없으면 남은 정상 복사본으로 I/O를 계속할 수 있으나 해당 미러의 중복성이 사라진 degraded 상태가 된다.
3. 복구 대상 확보정상 데이터가 남은 배열에 사용 가능한 교체 장치나 spare가 참여한다. 새 장치가 배열 구성과 용량 조건을 만족해야 한다.
4. recovery 수행Linux MD가 필요한 데이터를 정상 멤버에서 복구 대상으로 복제한다. 복구 중의 쓰기도 일관되게 처리해야 하므로 사용자 I/O와 복구 작업이 자원을 함께 사용한다.
5. 중복성 회복복구가 끝나고 멤버가 정상 상태로 참여하면 다시 복사본을 유지한다. 완료 전에 남은 복사본까지 잃으면 복구 가능성을 보장할 수 없다.

# 설명용 /proc/mdstat 상태
md1 : active raid1 sdb1[1] sda1[0]
      102400 blocks super 1.2 [2/2] [UU]
# 한 구성원 장애 후 가능한 표시: [2/1] [U_]
# 교체 후: recovery 진행률 -> 완료 뒤 [UU]

교육용 설정·명령 예시. 실행 환경과 대상 경로를 가정하며 이 페이지를 만들면서 실행하지 않았다.

수업 원본 자료

장애 상태의 /proc/mdstat 읽기

원본 크기로 보기 ↗

이 자료에서 읽어낼 것

1. md3 줄의 raid1은 해당 배열의 수준입니다. md1[0](F)의 (F)는 이 배열에서 해당 멤버가 실패 상태라는 표시입니다.
2. [2/1]은 기대한 두 멤버 중 현재 하나가 활성인 상태, [_U]는 한 슬롯이 빠지고 다른 슬롯이 동작 중이라는 단서입니다. active라는 단어만 보고 정상 이중화 상태라고 판단하면 안 됩니다.
3. 아래 md1과 md2의 raid0 줄은 다른 계층의 배열입니다. 어떤 물리 장치와 논리 배열이 연결됐는지 확인하고, 복구 전에 백업 상태와 고장 원인을 확인합니다.

08quota는 디스크 전체가 남아 있어도 쓰기를 제한한다

• Quota 제한 단위quota는 사용자·그룹·프로젝트 단위로 할당 가능한 블록과 inode 수를 제한한다.
• 블록·inode 제한큰 파일 하나는 블록 한도를, 매우 작은 파일 수만 개는 inode 한도를 먼저 소모할 수 있다.
• soft limit·gracesoft limit을 넘으면 grace 기간이 시작되고 기한 안에 내려가지 않으면 추가 할당을 제한한다.
• hard limithard limit은 추가 할당의 절대 상한이다.

  • 따라서 df에서 빈 공간이 보여도 특정 사용자에게 Disk quota exceeded가 생길 수 있다.
• 파일 시스템별 관리 도구ext 계열에서는 설정 방식에 따라 quota 데이터베이스 생성·활성화와 edquota/setquota가 사용되고 XFS는 자체 quota 관리와 xfs_quota를 사용한다.
• 마운트XFS의 accounting 활성화는 최초 마운트 조건과 관련되므로 일반 remount만으로 항상 새 quota 기능을 켤 수 있다고 가정하지 않는다.
• 프로젝트 Quota프로젝트 quota는 특정 디렉터리 트리를 하나의 사용 단위로 묶을 때 유용하다. quota 단위는 도구의 표시와 버전에 맞춰 읽고, 장애 허용 RAID·과거 복원 백업·사용량 제한 quota를 각각 구별한다.

df -h /srv/data
df -i /srv/data
quota -s
sudo repquota -as
# XFS인 경우
sudo xfs_quota -x -c "state" /srv/data
sudo xfs_quota -x -c "report -h" /srv/data

교육용 설정·명령 예시. 실행 환경과 대상 경로를 가정하며 이 페이지를 만들면서 실행하지 않았다.

09용량 제한과 관찰

• quotaquota는 사용자·그룹 또는 지원되는 프로젝트 단위로 공간이나 파일 수를 제한하는 기능이다.
• soft limit·hard limit전체 여유 공간과 개인에게 허용된 양은 다를 수 있으며 soft limit, hard limit, 유예 기간의 의미를 구분한다.

  • quota와 RAID는 서로 다른 목적의 기능이다.

cat /proc/mdstat
df -h
df -i

Linux 소프트웨어 RAID 상태와 파일 시스템의 공간·inode 사용량을 조회한다.

10RAID 10의 고장 위치를 직접 따라가기

• 미러 쌍의 구성두 장치씩 묶은 미러 두 쌍에 데이터를 스트라이핑한 구성을 가정한다.
• 블록의 복사본 배치첫 번째 데이터 블록 A는 장치 1·2에, 다음 블록 B는 장치 3·4에 같은 내용으로 저장한다.
• 첫 멤버 장애네 장치 중 장치 1이 고장나도 A는 장치 2에서 읽을 수 있다.
• 다른 쌍의 추가 장애이어 장치 3이 고장난다면 A와 B 각각의 복사본이 하나씩 남아 배열을 계속 사용할 수 있는 조건이 된다.

  • 그러나 장치 1·2가 함께 고장나면 A의 두 복사본을 모두 잃으므로 같은 두 장치 고장이라도 결과가 다르다.
• RAID 10 배치의 전제이 도식은 미러 쌍 위에 스트라이핑한 배치를 설명하는 예이며 모든 구현의 RAID 10 배치 방식을 대표하지 않는다.
• RAID 5·패리티RAID 5의 단일 패리티와 RAID 6의 이중 패리티도 주어진 고장 수와 데이터·패리티의 유효성이라는 조건 아래 복구한다.
• degradeddegraded 배열이 읽기를 제공한다는 사실은 추가 고장에도 안전하다는 뜻이 아니다.
• 교체 장치 재구축교체 장치 재구축은 남은 장치의 데이터를 많이 읽으므로 부하와 추가 오류를 함께 관찰해야 한다.

11복구 가능성을 상태와 시간으로 확인하기

• 과거 시점의 복원백업은 필요한 과거 시점의 데이터를 별도 보관하고 되돌리는 수단이다.
• RPO·RTORPO는 허용할 데이터 손실 시간 범위, RTO는 복구에 허용할 시간 목표를 뜻한다.
• 배열과 멤버 상태배열 조회에서는 구성 장치 수와 실제 동작 장치 수, 실패 표식, 동기화·재구축 진행을 대조한다.

  • clean 같은 상태와 장치별 오류 이력도 함께 보아야 한다.
• 디스크물리 장치 교체에서는 이름만 따라가면 재부팅이나 연결 순서 변화로 다른 디스크를 뽑을 수 있으므로 장치 식별자와 슬롯 정보를 대조한다.
• 복구 명령의 변경 범위RAID 메타데이터를 지우거나 강제로 조립하는 명령은 관찰 단계가 아니라 복구 판단이 필요한 변경 작업이다.
• 손실·복원 시간 계산업무 데이터가 잘못 삭제된 경우에는 정상 RAID라도 삭제 내용이 복제되므로 삭제 직전 백업을 찾아야 한다. 전날 밤 백업만 있다면 마지막 백업 이후 변경 손실이 RPO와 맞는지 계산하고, 복원·정합성 검사·서비스 연결에 걸린 전체 시간을 RTO와 비교한다.
• 파일 확인과 서비스 복구백업 파일을 읽을 수 있다는 확인과 서비스를 복구했다는 확인도 다르다.
• quotaquota는 개별 계정의 사용을 제한하는 장치로, RAID의 고장 복구나 과거 시점 복원을 제공하지 않는다.
• 설정·키·절차 복구분리된 환경의 복구 검증에는 데이터뿐 아니라 필요한 설정·키·절차도 포함한다.