개념 사전/네트워크 / IPsec과 VPN
개념 사전 · 프로토콜

AH·ESP와 IPsec 모드

AH · ESP · Authentication Header · Encapsulating Security Payload

와 는 에서 데이터 패킷을 보호하는 서로 다른 프로토콜이다. 는 기밀성을 제공하지 않고 의 보호 속성은 선택한 변환에 달리며 transport와 tunnel 모드는 무엇을 안쪽에 넣는지가 다르다.

밑줄 용어에 마우스를 올리거나, 키보드로 선택하거나, 터치하면 설명을 볼 수 있습니다.

01무엇이고, 어떤 일을 하나

  • 데이터의 무결성·출처 인증과 필요한 기밀성 보호를 패킷 형식으로 적용한다.
  • SPI·시퀀스·무결성 검증으로 수신할 SA와 재전송 방지 상태를 연결한다.
  • 종단 간 상위 데이터 보호와 게이트웨이 간 내부 IP 패킷 보호의 배치를 구분한다.

02어떤 순서로 동작하나

  1. 정책과 모드 선택

    보호할 주소·프로토콜·포트를 SPD로 선정하고 적절한 SA를 찾는다. Host-to-host인지 gateway-to-gateway인지에 따라 원래 IP 헤더를 보호 범위 안에 넣을 필요가 달라진다.

  2. 송신 보호

    는 변경되지 않는 IP 헤더 부분 등을 포함한 인증 범위를 처리한다. 는 선택한 변환에 따라 payload 암호화·무결성·패딩·태그를 추가하며 기본적으로 바깥 IP 헤더 전체를 인증 범위로 보호하지 않는다.

  3. 수신 검증

    수신자는 SPI 등의 문맥으로 SA를 찾고 시퀀스 창·무결성·암호문을 처리한다. 인증에 실패한 높은 시퀀스 번호만 보고 replay 창을 앞으로 밀면 정상 패킷을 막을 수 있다.

  4. 내부 정책 확인

    보호를 벗긴 패킷이 합의한 선택자에 맞는지 확인한 뒤 상위 처리나 내부 으로 넘긴다. 복호화 성공은 내부 서비스와 반환 경로가 정상이라는 결론까지 포함하지 않는다.

03먼저 알아둘 용어와 구성요소

원래 IP 헤더 뒤의 상위 내용을 중심으로 보호하는 배치다.
원래 IP 패킷 전체를 안쪽으로 넣고 새 바깥 IP 헤더로 운반한다.
SA 방향별 증가하는 번호로 수신 replay 창의 판정 재료다.
무결성 검증 값이며 선택한 암호화·인증 방식에 따라 형식과 계산 범위가 달라진다.
Extended Sequence Number다. 의 패킷 순서 번호 공간을 확장하는 기능이다.
Integrity Check Value다. 수신자가 보호된 데이터의 변조 여부를 검증하는 계산 결과다.
Initialization Vector다. 선택한 암호 방식이 패킷 처리에 사용하는 초기값이며 요구 조건은 알고리즘별로 다르다.
LEARN THROUGH PRACTICE

IKE 협상·ESP 패킷·암복호화 카운터를 세 단계로 검증하기

트래픽을 으로 보호한 실습에서 협상 성공과 실제 암호화 데이터 처리를 서로 다른 증거로 판독한다.

실습 구성과 전제

  • 이 실습은 crypto isakmp와 Main/Quick Mode를 사용하는 IKEv1 사례다. IKEv2의 교환 순서로 해석하지 않는다.
  • 화면의 3DES·MD5는 과거 실습 구성을 읽기 위한 값이다. 신규 운영 환경의 알고리즘 권장 구성으로 복제하지 않는다.

  1. 보호 대상이 어느 패킷인지 먼저 정한다

    • 를 먼저 만들고 그 외부 끝점 사이의 트래픽을 crypto 로 선택한 구성이다. 보호 대상 선택자가 내부 LAN 주소인지 외부 끝점인지 확인해야 한다.
    • crypto map은 peer·transform set·을 묶어 외부 인터페이스에 적용한다. 이 세 조건이 맞지 않으면 일반 ping과 보호 여부가 어긋날 수 있다.
    text
    show crypto map
show crypto isakmp policy
show crypto ipsec transform-set
show crypto ipsec sa

    실습 설정과 보호 상태를 확인하는 조회 명령이다. 인증 비밀값을 출력하는 설정 복사 명령은 포함하지 않는다.

    확인 기준

    ping 성공만으로 적용을 판단하지 않는다. 선택자·적용 인터페이스와 SA를 먼저 대조한다.

  2. IKEv1의 Main Mode와 Quick Mode를 식별한다

    • 캡처에는 Identity Protection (Main Mode) 여섯 메시지 뒤 Quick Mode 세 메시지가 나타난다. 앞 교환은 SA와 인증을, 뒤 교환은 실제 데이터 보호용 SA 협상을 위한 것이다.
    • 교환 패킷이 보인다는 사실과 협상이 성공적으로 완료되었다는 사실은 다르다. 재전송·오류가 없는지와 장비의 SA 상태를 함께 확인한다.
    text
    show crypto isakmp sa
show crypto session

    실습 흐름을 재구성한 명령 예시. 장치·인터페이스 이름은 구성에 맞춰 사용한다.

    9/14 - IPSec over GRE · 실습·개념 참고 화면 9원본 크기로 보기 ↗
    • 191~196번은 Identity Protection (Main Mode)로 표시된다.
    • 197~199번은 Quick Mode로 바뀌며 두 끝점이 양방향으로 교환한다.
    확인 기준

    Main/Quick라는 명칭으로 IKEv1임을 구분한다. 해당 목록을 IKEv2의 IKE_SA_INIT·IKE_AUTH로 바꾸어 설명하지 않는다.

  3. 운반 링크에 ESP가 나타나는지 본다

    • 보호 후 캡처의 외부 Protocol은 50이며 그 아래 의 SPI와 Sequence가 보인다. 헤더와 내부 IP·를 평문처럼 펼쳐 보던 보호 전 화면과 구별된다.
    • 외부 IP 주소와 패킷 길이 등 운반 메타데이터는 여전히 보인다. 암호화가 통신 상대나 트래픽 양까지 모두 숨긴다는 뜻은 아니다.
    9/14 - IPSec over GRE · 실습·개념 참고 화면 10원본 크기로 보기 ↗
    • IPv4 Protocol은 Encap Security Payload (50)이고 Total Length는 160이다.
    • ESP 트리에 SPI와 Sequence 1이 표시되고 내부 GRE·ICMP 평문 트리는 보이지 않는다.
    확인 기준

    를 발견한 다음 SPI가 장비의 inbound/outbound SA 중 어떤 방향에 대응하는지 확인한다.

  4. 데이터 처리량은 카운터 증가로 검증한다

    • 장비 출력은 3DES+SHA 두 행과 MD5+3DES 행을 구분한다. 첫 행의 Decrypt는 4이고 Encrypt는 0이다.
    • 이 순간의 한 방향 복호화 기록은 확인되지만 양방향 데이터 성공을 증명하지 않는다. 새 테스트 전후 encap·decap/암복호화 카운터 차이와 상대 장비의 반대 방향 카운터를 비교한다.
    text
    show crypto engine connections active
show crypto ipsec sa

    실습 흐름을 재구성한 명령 예시. 장치·인터페이스 이름은 구성에 맞춰 사용한다.

    9/14 - IPSec over GRE · 명령·상태 출력 11원본 크기로 보기 ↗
    • IPsec과 IKE가 서로 다른 Type 행에 표시되어 있다.
    • 첫 IPsec 행은 Encrypt 0, Decrypt 4이고 다른 IPsec 행의 두 값은 0이다.
    확인 기준

    SA가 있어도 카운터가 증가하지 않으면 선택자·경로를, 한 방향만 증가하면 반환 경로·상대 SA·필터를 확인한다.

실습에서 확인한 동작 원리

  • SA, SA, 실제 보호된 트래픽은 별도 증거가 필요하다.
  • 암복호화 카운터는 방향별로 읽어야 하며 존재만으로 양방향 응용 통신까지 성공했다고 볼 수 없다.
관련 개념·전체 실습 화면 이어서 읽기 →
동작·명령 참고 문서

04예제로 따라가기

  • 창 크기 32·인증 최대 번호 100이면 창은 69~100이다.96을 처음 받아 인증에 성공하면 수용할 수 있지만 같은 96의 재수신은 이미 받은 번호로 거부한다.
  • 105가 인증에 성공하면 창은 74~105로 이동한다.68은 처음 관측했더라도 너무 오래된 범위이며 아주 큰 번호의 인증 실패 패킷은 창을 갱신시키지 않는다.
  • over 의 tunnel 배치는 원래 패킷··바깥 헤더를 어떻게 조합했는지에 따라 크기가 달라진다. underlay 에서 고정된 한 숫자만 빼기보다 헤더··패딩·tag를 해당 변환대로 더한다.

05혼동하기 쉬운 점과 확인 기준

  • 는 주소 변환과 충돌할 수 있는 IP 헤더 인증 범위를 갖는다. 환경의 일반적인 -T와 를 똑같은 캡슐화 대상으로 취급하지 않는다.
  • 라는 이름만 보고 항상 동일 암호·동일 태그 길이를 가정하지 않는다. 협상한 변환과 모드· 조건이 실제 패킷 해석을 결정한다.

06상세 노트 · 실습 자료

헤더 구조, 설정 예시, 수치 계산과 수업 캡처는 아래 노트에서 이어집니다.

IPsec·AH/ESP·IKE 협상과 수업 VPN 설정 해석수업의 IKEv1·Crypto Map 구성을 복원하고 IKEv2와 구분합니다. 보호 범위·SA·트래픽 선택·NAT-T·재키잉을 실제 출력과 연결해 읽습니다.상세 노트 읽기 →

공식 문서 · 표준

기초 개념과 동작 설명을 대조한 자료입니다. 제품 버전과 실제 설정에 따른 차이는 본문 및 원문에서 확인하세요.