VPN 프로토콜, 뭘 골라야 하나? 대부분은 안 골라도 된다

VPN 설치했는데 설정 창에 “WireGuard”, “OpenVPN”, “IKEv2”가 쭉 나온다. 뭘 골라야 VPN이 제대로 작동하는 건지, 잘못 고르면 추적이 되는 건지 — 아무것도 모르는 상태에서 이 선택지를 마주하면 그냥 닫고 싶어진다.

결론부터. 대부분은 기본값 그대로 두면 된다. 직접 골라야 하는 상황은 딱 하나 — VPN이 아예 연결이 안 될 때.

프로토콜이 뭔지 30초 설명

프로토콜은 내 기기와 VPN 서버 사이에 암호화된 터널을 만드는 방식이다. 택배 비유를 쓰자면, 같은 물건을 보내도 퀵서비스냐 등기우편이냐에 따라 속도와 보안이 달라지는 것과 비슷하다.

VPN 앱에서 고를 수 있는 프로토콜은 보통 3가지다.

• WireGuard — 2020년에 나온 최신 방식. 빠르고 가볍다.
• OpenVPN — 20년 넘은 베테랑. 느리지만 어디서든 뚫린다.
• IKEv2 — 모바일 특화. Wi-Fi↔LTE 전환에 강하다.

이 세 줄이면 충분하다. 각각의 암호화 알고리즘이나 코드 줄 수 같은 기술 비교가 궁금하다면 VPN 프로토콜 기술 비교: WireGuard vs OpenVPN 글에서 다룬다.

🟢 대부분의 사람: 기본값이 정답

NordVPN, ExpressVPN, ProtonVPN, Surfshark, Mullvad — 유료 VPN은 전부 기본값을 WireGuard 계열로 설정해뒀다. NordVPN은 WireGuard 기반의 “NordLynx”를, ExpressVPN은 자체 개발한 “Lightway”(wolfSSL/DTLS 기반, WireGuard와 별개 프로토콜)를 쓴다. 이름은 다르지만 둘 다 빠르고 안전한 최신 프로토콜이다.

앱을 켜고 연결 버튼만 누르면 된다.

“자동” 옵션이 있다면 그걸 선택하면 된다. 앱이 알아서 상황에 맞는 프로토콜을 고른다. 속도가 느리다거나, 배터리가 많이 닳는다거나, 연결이 끊긴다거나 — 이런 문제가 없는 한 설정을 건드릴 이유가 없다.

솔직히 말해서, 프로토콜 선택보다 VPN을 켜놓고 안 끄는 게 훨씬 더 중요하다. 카페 와이파이에서 VPN 없이 접속하는 게 프로토콜 잘못 고르는 것보다 위험하다.

🟡 VPN이 안 되는 환경: OpenVPN으로 바꿔야 할 때

여기서부터는 직접 설정을 바꿔야 한다.

학교 와이파이, 회사 네트워크, 중국·러시아·UAE처럼 VPN을 차단하는 환경에서는 WireGuard가 막힐 수 있다. 이유는 단순하다. WireGuard는 UDP(User Datagram Protocol — 빠르지만 특징적인 전송 방식)만 사용하는데, 방화벽이 이 트래픽 패턴을 감지하고 차단한다.

이때 OpenVPN TCP 443으로 바꿔본다. TCP 포트 443은 일반 웹사이트 접속(HTTPS)과 같은 포트다. 단순 포트 차단 방화벽은 이걸로 우회된다. 다만 DPI(Deep Packet Inspection — 패킷 내용까지 분석하는 고급 차단)를 쓰는 환경에서는 OpenVPN의 TLS 핸드셰이크 패턴이 일반 HTTPS와 다르다는 걸 감지할 수 있다.

순서는 이렇다:

1. VPN 앱 설정에서 프로토콜을 “OpenVPN TCP”로 변경
2. 연결 시도
3. 그래도 안 되면 — ProtonVPN의 Stealth 모드나 ExpressVPN의 Lightway TCP를 시도

이 방법도 안 되는 강력한 검열 환경(중국 그레이트 방화벽 등)이라면, 프로토콜 선택만으로는 한계가 있다. 난독화(obfuscation — VPN 트래픽 자체를 다른 트래픽처럼 위장하는 기술) 기능이 있는 VPN이 필요한 영역이다.

🔴 OPSEC이 필요한 상황: 프로토콜보다 중요한 것

프로토콜 최적화보다 VPN 서비스 자체의 신뢰도가 더 중요한 환경 — 국가 수준의 감시가 현실적 위협인 상황 — 이라면, 프로토콜 선택은 중요한 문제가 아니다.

이 수준에서는 VPN 서비스의 로그 정책, 서버 소재 관할권, 독립 감사 이력이 프로토콜보다 결정적이다. WireGuard를 쓰든 OpenVPN을 쓰든, VPN 서비스가 로그를 남기면 의미가 없다.

현실적으로 이 위험도에서 VPN만으로 해결되는 건 없다. Tor 병용, OS 단위 보안(Tails, Whonix), 하드웨어 분리까지 고려해야 하는 영역이고 — 이 글의 범위를 벗어난다.

일반 사용자한테는 해당 안 되는 이야기다. VPN 켜놓고 기본값 쓰면 된다.

프로토콜 선택 치트시트

상황	선택	이유
평소 사용 (유튜브, 카페 와이파이, 해외 콘텐츠)	기본값 (자동/WireGuard)	빠르고, 배터리 적게 먹고, 안정적
모바일에서 Wi-Fi↔LTE 자주 전환	IKEv2 또는 기본값	네트워크 바뀔 때 끊김 없이 재연결
학교·회사에서 VPN 차단됨	OpenVPN TCP 443	웹 트래픽으로 위장 가능
중국·러시아 등 강력한 검열	Stealth / Lightway TCP / 난독화	일반 OpenVPN도 막히는 환경
내부고발·활동가 수준 OPSEC	프로토콜보다 서비스 선택이 우선	Mullvad + Tor 병용 고려

자주 묻는 질문

”NordLynx”나 “Lightway”는 뭔가요?

VPN 회사들이 WireGuard를 기반으로 만든 자체 프로토콜 이름이다. NordVPN의 NordLynx는 WireGuard를 감싼 래퍼이고, ExpressVPN의 Lightway는 WireGuard에서 영감받았지만 wolfSSL 기반으로 독자 개발한 별도 프로토콜이다. 둘 다 빠르고 안전하며, 각 회사가 프라이버시 문제를 자체적으로 해결했다.

앱에서 이 이름이 보인다면 그냥 “WireGuard 계열이구나” 하고 기본값으로 쓰면 된다.

IKEv2는 언제 쓰나요?

모바일에서 Wi-Fi와 LTE를 자주 왔다갔다 하는 사람한테 유리하다. IKEv2는 MOBIKE라는 기능이 있어서, 네트워크가 바뀌어도 VPN 연결이 끊기지 않고 자동으로 재연결된다.

다만 최근 WireGuard도 로밍 성능이 좋아졌기 때문에, 체감 차이는 크지 않을 수 있다. WireGuard 기본값에서 끊김이 잦다면 IKEv2를 시도해보는 정도.

PPTP나 L2TP는요?

쓰면 안 된다. PPTP는 암호화가 이미 깨졌고, L2TP/IPsec도 NSA가 약화시켰다는 의혹이 있다. 2026년 기준으로 이 프로토콜을 기본 제공하는 VPN이 있다면 그 서비스 자체를 의심하는 게 맞다.

결론

VPN 프로토콜 선택은 대부분의 사람한테 신경 쓸 필요 없는 문제다. 유료 VPN 앱이 알아서 최적값을 골라주고 있으니까.

건드려야 하는 순간은 하나. VPN이 아예 연결이 안 될 때 OpenVPN TCP 443을 시도하는 것. 그 외에는 앱 켜고 연결 버튼 누르면 된다.

프로토콜보다 중요한 건 VPN을 실제로 켜놓는 거다. 카페에서, 공항에서, 호텔에서 — VPN 없이 접속하는 게 프로토콜 잘못 고르는 것보다 훨씬 위험하다.