SNI 대 ALPN: Wireshark PCAP의 TLS 핸드셰이크 분석 및 HTTP/2 협상

많은 "HTTP/2 작동하지 않음" 사고는 실제로 TLS ALPN 협상 문제입니다. 엔드포인트가 HTTP/2를 지원해야 하지만 트래픽이 대체되는 경우 사용자는 "TLS ALPN pcap", "HTTP2 HTTP/1.1로 대체", "ALPN h2 협상되지 않음", "ClientHello ALPN 확장", "ServerHello가 선택한 프로토콜" 및 "내 브라우저가 HTTP/1.1을 사용하는 이유"를 검색합니다.

ALPN 증거가 TLS 핸드셰이크에 있기 때문에 PCAP 수술은 유용합니다. 캡처에 ClientHello 및 ServerHello가 포함된 경우 클라이언트가 h2를 제공했는지, 서버가 이를 선택했는지, 프록시가 TLS를 종료했는지, 연결이 HTTP/2를 협상할 기회가 없었는지 여부를 종종 증명할 수 있습니다.

ALPN이 하는 일

ALPN은 애플리케이션 계층 프로토콜 협상을 의미합니다. 이를 통해 클라이언트와 서버는 TLS 설정 중에 애플리케이션 프로토콜에 동의할 수 있습니다.

일반적인 ALPN 값:

• TLS를 통한 HTTP/2의 경우 'h2'입니다.
• HTTP/1.1의 경우 'http/1.1'입니다.
• 특수 시스템을 위한 기타 프로토콜 식별자입니다.

클라이언트가 'h2'를 제공하지 않으면 서버는 이를 선택할 수 없습니다. 서버가 h2를 선택하지 않으면 서버가 다른 곳에서 HTTP/2를 지원하더라도 연결은 HTTP/2를 사용하지 않습니다.

일반적인 증상

ALPN 실패는 다음과 같이 나타납니다.

• 브라우저는 HTTP/2 대신 HTTP/1.1을 사용합니다.
• gRPC 연결이 실패합니다.
• CDN은 작동하지만 원본은 작동하지 않습니다.
• 역방향 프록시는 프로토콜을 다운그레이드합니다.
• 로드 밸런서는 TLS를 종료하고 HTTP/1.1을 전달합니다.
• 모바일 앱에 프로토콜 오류가 표시됩니다.
• 서버 측정항목에 h2 트래픽이 표시되지 않습니다.
• HTTP/2는 하나의 호스트 이름에서는 작동하지만 다른 호스트 이름에서는 작동하지 않습니다.

이러한 증상은 종종 HTTP 계층에서 디버깅되지만 대답은 TLS 협상에 있을 수 있습니다.

ClientHello 증거

ClientHello는 클라이언트가 ALPN을 제공했는지 여부와 어떤 프로토콜을 광고했는지 표시할 수 있습니다.

유용한 질문:

• ALPN 확장이 있습니까?
• 제안에 'h2'가 포함되어 있나요?
• http/1.1도 포함되어 있나요?
• SNI가 존재하고 정확합니까?
• 어떤 TLS 버전이 제공되나요?
• 프록시가 TLS를 종료하기 전에 캡처가 수행됩니까?

ClientHello에 h2가 없으면 서버는 HTTP/2를 선택할 수 없습니다. 그 이유는 클라이언트 라이브러리 구성, 이전 TLS 스택, 비활성화된 HTTP/2 옵션 또는 새 업스트림 연결을 여는 프록시 클라이언트일 수 있습니다.

ServerHello 증거

서버 측은 클라이언트의 ALPN 목록에서 하나의 프로토콜을 선택해야 합니다.

문제:

• 서버는 'http/1.1'만 선택합니다.
• 서버가 ALPN 응답을 생략합니다.
• ALPN 선택 전에 서버 핸드셰이크가 실패합니다.
• 인증서 또는 SNI 불일치가 기본 가상 호스트로 라우팅됩니다.
• TLS 종결자는 공개 측에서는 h2를 지원하지만 업스트림 측에서는 지원하지 않습니다.

패킷 증거는 서버 지원을 라우팅 및 프록시 동작과 분리할 수 있습니다.

SNI와 ALPN을 함께 사용

SNI와 ALPN은 종종 연결됩니다. SNI가 선택한 호스트 이름에 따라 적용되는 인증서, 가상 호스트 및 프로토콜 설정이 결정될 수 있습니다.

실패 예시:

• 클라이언트는 'h2'를 제안합니다.
• 클라이언트가 잘못된 SNI를 보냅니다.
• 서버가 기본 인증서를 반환합니다.
• 기본 가상 호스트는 HTTP/2를 활성화하지 않습니다.
• 연결은 'http/1.1'로 돌아갑니다.

이 경우 문제는 "HTTP/2가 전역적으로 끊어짐"이 아닙니다. 호스트 이름 라우팅입니다.

프록시 및 로드 밸런서 종료

최신 배포에서는 TLS를 분할하는 경우가 많습니다.

client -> CDN or load balancer -> reverse proxy -> origin

gRPC and ALPN

For gRPC troubleshooting, preserve:

Fallback is not always failure

Debug checklist

Use this workflow:

Final diagnosis

<!-- pcap-localized-evidence-foundation-v1:start -->

“SNI 대 ALPN: Wireshark PCAP의 TLS 핸드셰이크 분석 및 HTTP/2 협상”을 packet evidence로 답하기

direct answer는 analyzer label이나 application message만으로 원인을 정할 수 없다는 것입니다. capture point와 flow direction에서 시작해 마지막 성공 protocol boundary와 첫 실패 boundary를 증명합니다. 다른 reviewer가 근거 packet, gap, interval을 찾고 어떤 evidence가 결론을 반박할 수 있는지 알아야 합니다.

path 위에 capture 배치

client, server, proxy, load balancer, NAT, firewall을 기록합니다. interface, 위치, clock, OS, 관찰 방향을 명시합니다. client capture는 client에 도착한 것을 증명하지만 server가 보내지 않았음을 증명하지 않습니다. server capture도 해당 지점의 출구만 증명합니다. 두 지점 비교 전에 clock offset을 보정하고 flow tuple, TCP sequence, transaction ID를 맞춥니다.

snap length, dropped packets, offload, capture filter, ring buffer, 시작 시각을 확인합니다. host의 bad checksum은 offload artifact일 수 있습니다. 큰 segment는 GRO/TSO 결과이며 wire의 한 packet이 아닐 수 있습니다. 제한된 file에 packet이 없다는 이유만으로 network loss라고 하지 않습니다.

boundary를 순서대로 읽기

경계	성공 evidence	유효한 실패 evidence
Link/IP	direction, address, route 일치	ARP/NDP 부재, ICMP, MTU, asymmetry
TCP	SYN, SYN-ACK, ACK, sequence	retransmission, RST, zero window, timeout
TLS	ClientHello, ServerHello, 진행	alert, SNI/ALPN/certificate 경계
Application	완전한 request와 연결된 response	status, gap, 조기 close
User	response time 또는 failure window	증명된 경계의 stall

성공 evidence가 없는 첫 경계에서 멈춥니다. TCP가 완성되지 않았다면 HTTP부터 해석하지 않습니다. request가 proxy에 도착하고 upstream에 없다면 proxy나 그 경로가 경계입니다. upstream에 도착했지만 timeout 전에 response가 없다면 ACK와 byte progress로 application delay와 network loss를 나눕니다.

observation과 hypothesis 분리

observation은 packet에서 찾을 수 있어야 합니다. “client가 특정 sequence까지 전송했고 sender가 같은 segment를 세 번 반복했으며 이 지점에서 진행하는 ACK가 보이지 않는다.” hypothesis는 “path가 segment를 잃었다”입니다. 다른 capture point나 dropped records가 반박할 수 있습니다. 각 hypothesis에 지지 evidence와 반증 evidence를 씁니다.

retransmission과 duplicate ACK는 책임자를 정하지 않습니다. reordering, loss, capture artifact, receiver delay가 비슷한 label을 만듭니다. direction, sequence, ACK, SACK, RTT, window, application timing을 연결합니다. DNS/DHCP는 transaction ID와 attempts, HTTP는 request/response, TLS는 handshake direction을 맞춥니다.

편집 전에 original 보존

original checksum을 계산하고 변경하지 않습니다. filter, trim, redaction은 working copy에서 수행합니다. input, operation, 시각, 전후 packet count, output checksum, 이유를 기록합니다. timestamp rewrite나 packet 삭제 뒤 copy는 일부 timing 또는 sequence 결론에 사용할 수 없습니다.

address와 identifier는 동일한 alias로 바꿔 endpoint를 추적합니다. 판단에 필요한 port, direction, length는 삭제하지 않습니다. secret mapping은 분리합니다. capture와 export 범위와 PCAP Surgery 개요로 파생 file을 검토합니다.

공개 전 QA

title과 answer가 같은 flow를 다루는가? duration이 clock과 지점을 적는가? 첫 failure boundary가 명확한가? alternative explanation이 있는가? 한 변수로 재시험 가능한가? original이 남는가? 결론 범위를 씁니다. “이 file은 지정 interval의 client 쪽 behavior를 증명하지만 server 내부 execution은 증명하지 않는다.”

검증된 Semrush 일반어 PCAP analyzer는 제품 페이지만 owner입니다. 이 기술 글에 측정하지 않은 volume이나 KD를 만들지 않습니다.

<!-- pcap-localized-evidence-foundation-v1:end --><!-- pcap-localized-flow-verdicts-v1:start -->

flow ledger와 배제 시험

“SNI 대 ALPN: Wireshark PCAP의 TLS 핸드셰이크 분석 및 HTTP/2 협상”에서 방향마다 endpoint alias, 첫/마지막 packet, 전송/확인 bytes, resets, retransmissions, requests, responses를 기록합니다. 같은 hostname이라도 source port, 시작 시각, TCP initial sequence가 다르면 별도 session입니다. NAT나 proxy 전후 flow는 관계를 적고 같은 sequence나 port를 기대하지 않습니다.

label 대신 TCP 계산

receiver의 next expected sequence를 추적합니다. payload length만큼 sequence가 진행하고 SYN과 FIN도 한 번호를 씁니다. 높은 segment 뒤 고정 Duplicate ACK는 loss 또는 reordering을 지지합니다. SACK blocks는 도착 ranges를 보여도 손실 위치는 말하지 않습니다. sender 쪽 retransmission이 receiver에 없다면 중간 path, original segment가 sender capture에 없다면 capture loss나 offload를 시험합니다.

duplicate ACK 뒤 fast retransmit과 침묵 뒤 RTO를 나눕니다. 이전 RTT, advertised window, zero-window probes, burst, transfer size를 비교합니다. overlap, spurious retransmission, flow 중간 capture는 label을 바꾸므로 label 수를 loss 수로 쓰지 않습니다.

boundary로 시간 측정

request first byte, request complete, response first byte, response complete를 사용합니다. TTFB는 자동으로 server time이 아닙니다. response 전 retransmission은 network delay를 더할 수 있고 request ACK 완료 뒤 긴 침묵은 application wait를 지지합니다. 값, unit, clock, point를 씁니다.

두 지점은 양방향 특징 packet을 맞춰 offset을 추정하고 각 file 내부 intervals를 씁니다. clock이 불확실하면 range를 제시합니다. 성공/실패 window는 비슷한 duration과 load로 비교합니다.

protocol 질문

DNS는 ID, name, type, retry resolver를 확인합니다. DHCP는 같은 client identifier의 Discover/Offer/Request/ACK인지 봅니다. TLS는 방향별 마지막 handshake message와 alert를 찾습니다. HTTP는 4xx/5xx 생성자와 upstream flow를 연결합니다. TCP close는 FIN/RST sender와 미확인 bytes를 계산합니다.

결정 시험과 전달

경쟁 hypothesis 둘과 분리 test 하나를 고릅니다. 반대편 capture는 network loss와 measurement loss, test 환경의 offload 비활성화는 artifact, 고정 path의 동일 request는 intermittency, upstream log와 packet boundary는 application delay를 시험합니다. 예상 결과를 먼저 씁니다.

reviewer가 metadata로 계산을 반복하고 같은 경계와 한계에 도달하면 합격입니다. original/derived checksum, filter, packet ranges, trim/redaction 작업을 전달하고 owner, next action, 측정 가능한 close 조건으로 끝냅니다.

재현성 검토

새 connection에서 같은 input과 filter로 세 번 반복합니다. ports와 initial sequence는 달라도 boundary, direction, response pattern은 반복되어야 합니다. 성공과 실패를 모두 보고합니다. 수정은 한 변수만 바꾸고 application message뿐 아니라 예상 packet behavior가 달라졌는지 확인합니다.

derived copy를 다른 장치에서 열어 reviewer가 flow alias, clock, capture point, 마지막 성공, 첫 실패, alternative을 찾게 합니다. redaction 뒤 hostname, query, header, sensitive payload를 다시 검색하고 필요한 length와 direction은 남깁니다. 반대 방향, IPv6, reconnect, 다른 load처럼 시험하지 않은 범위를 씁니다.

결론은 범위 안에서 증명, 계속 재현, 지정 capture 부재로 미결 중 하나입니다. 한 flow만 시험하고 “network 전체 해결”이라고 쓰지 않습니다.

반대 control과 confidence

“{{TITLE}}”을 닫기 전에 반대 예측을 씁니다. network path가 원인이면 capture point를 옮겼을 때 두 지점에 어떤 pattern이 보여야 하는가? server delay라면 request bytes는 ACK되고 response만 없어야 하는가? 결과 전에 기대를 기록하면 사후 해석을 막습니다.

confidence는 evidence에 연결합니다. high는 재현과 두 지점 또는 독립 evidence, medium은 완전한 capture와 미시험 alternative, low는 label이나 대략 timing만 있는 경우입니다. confidence가 hypothesis를 fact로 바꾸지는 않지만 next action을 정합니다.

느리거나 intermittent한 failure는 일반 failure interval보다 오래 측정합니다. raw count 대신 retransmissions per megabyte, failures per connection, 비슷한 load의 latency percentile을 비교합니다. idle, reconnect, DNS cache, TLS session reuse가 두 번째 실행을 바꿀 수 있어 기록합니다.

전달 묶음은 flow table, 다섯 event timeline, first difference, exclusion test, fix result, untested scope로 구성합니다. packet numbers는 derived copy를 가리키고 time map으로 original에 돌아갑니다. 받는 팀이 secrets나 작성자 session 없이 verdict를 재현해야 합격입니다.

<!-- pcap-localized-flow-verdicts-v1:end -->