개념 사전/네트워크 / IPsec과 VPN
개념 사전 · 프로토콜

IPsec

IP Security · IP 보안

은 IP 계층에서 정책에 따라 패킷의 무결성·출처 인증·기밀성 등을 제공하는 체계다. ··와 를 연결하며 실제 보호 범위는 선택한 모드·알고리즘·정책에 달려 있다.

밑줄 용어에 마우스를 올리거나, 키보드로 선택하거나, 터치하면 설명을 볼 수 있습니다.

01무엇이고, 어떤 일을 하나

  • 호스트 또는 보안 게이트웨이 사이의 데이터에 필요한 IP 계층 보호를 적용한다.
  • 선택자와 의 단방향 를 연결해 보호할 트래픽과 키 상태를 구분한다.
  • 순서 번호·무결성 검증·수명 관리로 재전송 공격과 오래된 키 사용을 제한한다.

02어떤 순서로 동작하나

  1. 암호 제안· 교환값·nonce 등을 교환해 키 재료를 도출한다.

  2. 보호된 교환으로 피어 신원을 인증한다. 일반적인 초기 구성에서는 첫 CHILD_SA와 도 합의한다.

  3. 데이터 보호

    합의한 CHILD_SA와 selector에 맞는 트래픽을 보호한다. 협상 메시지와 사용자 데이터의 보호 관계를 나눈다.

  4. 추가·재키잉·삭제

    필요할 때 CREATE_CHILD_SA로 추가 또는 재키잉을 수행한다. INFORMATIONAL은 상태·삭제 등의 관리 교환에 사용한다.

03먼저 알아둘 용어와 구성요소

Security Association이다. 한 방향의 처리에 사용할 알고리즘·키·수명 등의 보안 상태다. 양방향 통신은 보통 별도 들을 사용한다.
Security Parameters Index다. 수신 패킷에 적용할 를 구별하는 식별 값이다.
Security Policy Database다. 트래픽을 으로 보호하거나 우회 또는 폐기할 정책을 표현하는 정보다.
Security Association Database다. 실제 적용할 의 처리 정보를 저장하는 데이터베이스다.
어떤 주소·프로토콜·포트 범위의 트래픽을 로 보호할지 표현하는 선택 조건이다.
Traversal이다. 가 있는 경로에서 을 운반하기 위해 의 캡슐화 등을 사용하는 방식이다.
Perfect Forward Secrecy다. 장기 비밀이 나중에 유출되어도 과거 세션 키의 노출을 제한하도록 키 교환을 구성하는 성질이다.
수신 시퀀스 번호와 창 범위를 추적해 중복·오래된 패킷의 재사용을 검출하는 구조다.
원래 IP 패킷 전체를 새 IP 헤더 안에 넣어 보호하는 모드다.
원래 IP 헤더를 유지하고 그 뒤의 상위 계층 부분을 보호하는 모드다.
IKEv2에서 알고리즘·난수· 값을 교환하여 초기 키 자료를 만드는 교환이다.
IKEv2에서 상대를 인증하고 첫 등의 조건을 구성하는 교환이다.
IKEv2에서 실제 사용자 트래픽을 보호하는 들을 관리하는 단위다.
LEARN THROUGH PRACTICE

IKE 협상·ESP 패킷·암복호화 카운터를 세 단계로 검증하기

트래픽을 으로 보호한 실습에서 협상 성공과 실제 암호화 데이터 처리를 서로 다른 증거로 판독한다.

실습 구성과 전제

  • 이 실습은 crypto isakmp와 Main/Quick Mode를 사용하는 IKEv1 사례다. IKEv2의 교환 순서로 해석하지 않는다.
  • 화면의 3DES·MD5는 과거 실습 구성을 읽기 위한 값이다. 신규 운영 환경의 알고리즘 권장 구성으로 복제하지 않는다.

  1. 보호 대상이 어느 패킷인지 먼저 정한다

    • 를 먼저 만들고 그 외부 끝점 사이의 트래픽을 crypto 로 선택한 구성이다. 보호 대상 선택자가 내부 LAN 주소인지 외부 끝점인지 확인해야 한다.
    • crypto map은 peer·transform set·을 묶어 외부 인터페이스에 적용한다. 이 세 조건이 맞지 않으면 일반 ping과 보호 여부가 어긋날 수 있다.
    text
    show crypto map
show crypto isakmp policy
show crypto ipsec transform-set
show crypto ipsec sa

    실습 설정과 보호 상태를 확인하는 조회 명령이다. 인증 비밀값을 출력하는 설정 복사 명령은 포함하지 않는다.

    확인 기준

    ping 성공만으로 적용을 판단하지 않는다. 선택자·적용 인터페이스와 를 먼저 대조한다.

  2. IKEv1의 Main Mode와 Quick Mode를 식별한다

    • 캡처에는 Identity Protection (Main Mode) 여섯 메시지 뒤 Quick Mode 세 메시지가 나타난다. 앞 교환은 와 인증을, 뒤 교환은 실제 데이터 보호용 협상을 위한 것이다.
    • 교환 패킷이 보인다는 사실과 협상이 성공적으로 완료되었다는 사실은 다르다. 재전송·오류가 없는지와 장비의 상태를 함께 확인한다.
    text
    show crypto isakmp sa
show crypto session

    실습 흐름을 재구성한 명령 예시. 장치·인터페이스 이름은 구성에 맞춰 사용한다.

    9/14 - IPSec over GRE · 실습·개념 참고 화면 9원본 크기로 보기 ↗
    • 191~196번은 Identity Protection (Main Mode)로 표시된다.
    • 197~199번은 Quick Mode로 바뀌며 두 끝점이 양방향으로 교환한다.
    확인 기준

    Main/Quick라는 명칭으로 IKEv1임을 구분한다. 해당 목록을 IKEv2의 ·로 바꾸어 설명하지 않는다.

  3. 운반 링크에 ESP가 나타나는지 본다

    • 보호 후 캡처의 외부 Protocol은 50이며 그 아래 의 와 Sequence가 보인다. 헤더와 내부 IP·를 평문처럼 펼쳐 보던 보호 전 화면과 구별된다.
    • 외부 IP 주소와 패킷 길이 등 운반 메타데이터는 여전히 보인다. 암호화가 통신 상대나 트래픽 양까지 모두 숨긴다는 뜻은 아니다.
    9/14 - IPSec over GRE · 실습·개념 참고 화면 10원본 크기로 보기 ↗
    • IPv4 Protocol은 Encap Security Payload (50)이고 Total Length는 160이다.
    • ESP 트리에 SPI와 Sequence 1이 표시되고 내부 GRE·ICMP 평문 트리는 보이지 않는다.
    확인 기준

    를 발견한 다음 가 장비의 inbound/outbound 중 어떤 방향에 대응하는지 확인한다.

  4. 데이터 처리량은 카운터 증가로 검증한다

    • 장비 출력은 3DES+SHA 두 행과 MD5+3DES 행을 구분한다. 첫 행의 Decrypt는 4이고 Encrypt는 0이다.
    • 이 순간의 한 방향 복호화 기록은 확인되지만 양방향 데이터 성공을 증명하지 않는다. 새 테스트 전후 encap·decap/암복호화 카운터 차이와 상대 장비의 반대 방향 카운터를 비교한다.
    text
    show crypto engine connections active
show crypto ipsec sa

    실습 흐름을 재구성한 명령 예시. 장치·인터페이스 이름은 구성에 맞춰 사용한다.

    9/14 - IPSec over GRE · 명령·상태 출력 11원본 크기로 보기 ↗
    • IPsec과 IKE가 서로 다른 Type 행에 표시되어 있다.
    • 첫 IPsec 행은 Encrypt 0, Decrypt 4이고 다른 IPsec 행의 두 값은 0이다.
    확인 기준

    가 있어도 카운터가 증가하지 않으면 선택자·경로를, 한 방향만 증가하면 반환 경로·상대 ·필터를 확인한다.

실습에서 확인한 동작 원리

  • , , 실제 보호된 트래픽은 별도 증거가 필요하다.
  • 암복호화 카운터는 방향별로 읽어야 하며 존재만으로 양방향 응용 통신까지 성공했다고 볼 수 없다.
관련 개념·전체 실습 화면 이어서 읽기 →
동작·명령 참고 문서

04예제로 따라가기

  • 32비트 순서 번호, ESN 미사용, 창 크기 32를 가정한다. 지금까지 인증된 최대 번호가 100이면 창은 69~100이며 번호마다 이미 받은 패킷인지 비트로 기록한다. 96이 아직 수신되지 않았다면 창 안의 미수신 번호이므로 무결성 검증 후 받아들일 수 있다. 최대 번호 100과 창의 오른쪽 끝은 그대로 유지된다.
  • 다시 온 96은 이미 인증된 수신 비트가 있으므로 replay로 거부한다. 68은 창의 왼쪽 밖이므로 처음 보더라도 너무 오래된 패킷으로 거부한다. 105가 도착해 인증에 성공하면 오른쪽 끝은 105, 왼쪽은 74로 이동한다. 69~73 기록은 빠지고 새로 열린 101~104는 아직 미수신으로 남는다.
  • 아주 큰 번호가 적혀 있어도 무결성 검증에 실패하면 창을 그 번호까지 밀지 않는다. 검증 전 수치만으로 창을 이동시키면 정상 후속 패킷을 차단하는 문제가 생긴다.

05혼동하기 쉬운 점과 확인 기준

  • 연결이 유지되어도 실제 트래픽을 보호할 · 가 없거나 선택자가 다를 수 있다. 제어 채널 성공과 데이터 보호 상태를 각각 읽는다.
  • 의도한 트래픽을 보냈는데 로컬 encaps 카운터가 증가하지 않으면 정책 선택자· 처리··실제 출구가 후보다. 먼저 패킷이 protect 정책의 대상인지 확인한다.
  • 로컬 encaps는 늘지만 상대 decaps는 그대로이면 중간 / 전달, 상대 /, 무결성 실패를 분리한다. 한 카운터만으로 암호 알고리즘 불일치를 확정하지 않는다.

06상세 노트 · 실습 자료

헤더 구조, 설정 예시, 수치 계산과 수업 캡처는 아래 노트에서 이어집니다.

IPsec·AH/ESP·IKE 협상과 수업 VPN 설정 해석수업의 IKEv1·Crypto Map 구성을 복원하고 IKEv2와 구분합니다. 보호 범위·SA·트래픽 선택·NAT-T·재키잉을 실제 출력과 연결해 읽습니다.상세 노트 읽기 →
READ · OBSERVE · CONNECT

함께 보는 학습 자료

아래 공식 자료를 본문의 개념·예제와 함께 읽어 보세요. 자료별로 확인할 위치와 관찰할 내용을 적었습니다.

표준

RFC 4303 §3.4.2~3.4.4: SA와 anti-replay

번호 검사와 인증 성공을 연결해 높은 번호만 보고 수신 창을 먼저 옮기면 안 되는 이유를 확인한다.

읽으면서 확인할 것
  • 등으로 단방향 조회
  • 창 안 미수신·중복 번호 구별
  • 인증 뒤 창 갱신과 별 활성화 조건

공식 문서 · 표준

기초 개념과 동작 설명을 대조한 자료입니다. 제품 버전과 실제 설정에 따른 차이는 본문 및 원문에서 확인하세요.