· 프로토콜 해설 · 약 6분

VMess와 VLESS 차이: 암호화·UUID·전송 방식 한눈에 보기

VMess와 VLESS의 암호화, 사용자 인증, 전송 방식 차이와 클라이언트에서 선택할 때 확인할 점을 간단히 정리했습니다.

이 글의 핵심

공유 링크를 받았다면 접두어로 프로토콜을 확인하고 클라이언트에서 유형을 임의로 바꾸지 마세요. VMess와 VLESS 모두 사용자 식별에 UUID를 자주 사용합니다. VMess에는 프로토콜 자체 암호화 옵션이 있으며, 일반적인 VLESS의 encryption=none 설정은 별도로 구성하는 연결 보안 계층에 의존합니다. 프로토콜, 전송 방식, 연결 보안이 각각 어떤 항목에 해당하는지 알면 가져온 설정을 확인하고 오류 메시지에 따라 문제를 찾기 쉽습니다.

VMess와 VLESS의 암호화 및 인증 차이

클라이언트의 노드 편집 화면에서 가장 헷갈리기 쉬운 것은 두 가지 ‘보안’ 설정입니다. 첫 번째는 VMess의 데이터 암호화 방식처럼 프록시 프로토콜 자체에 해당합니다. 두 번째는 클라이언트와 노드 사이의 연결을 보호하는 TLS 같은 설정입니다. 두 설정은 하나의 스위치가 아닙니다. VMess에서도 TLS를 함께 사용할 수 있으며, 일반적인 VLESS 설정의 encryption=none도 TLS를 끈다는 뜻이 아닙니다.

확인 항목VMessVLESS
공유 링크 접두어vmess://vless://
사용자 인증 정보일반적으로 UUID를 사용해 프로토콜 인증일반적으로 UUID를 사용하며 서버에서 이를 기준으로 사용자 확인
프로토콜 내부 암호화데이터 구간에 AES-128-GCM, ChaCha20-Poly1305 등을 사용할 수 있으며 노드 설정이나 클라이언트의 자동 선택 옵션에 따라 처리일반적인 설정은 encryption=none이며, 해당 프로토콜에서 별도로 암호화하지 않는다는 뜻입니다
연결 보안TLS를 별도로 설정할 수 있음일반적으로 TLS와 함께 사용합니다. 해당 기능을 지원하는 Xray 설정에서는 REALITY도 사용할 수 있습니다.

UUID는 보통 하이픈 4개를 포함한 36자 형식으로 표시됩니다. 서버 주소나 TLS 인증서가 아닙니다. 두 기기가 같은 주소와 포트로 접속하더라도 UUID를 잘못 입력하면 서버가 요청을 거부할 수 있습니다. 복사할 때 하이픈을 유지하고 앞뒤에 공백이 붙지 않도록 하세요. 도움을 요청하기 위해 화면을 캡처할 때는 UUID 전체, 공유 링크, 구독 주소를 가리세요.

‘암호화’가 어느 항목인지 먼저 확인

VLESS 노드에 encryption=none과 security=tls가 함께 표시되어 있다면 두 설정을 모두 유지하세요. 앞의 항목은 프로토콜 내부 암호화를, 뒤의 항목은 외부 연결에 TLS를 사용한다는 뜻입니다. 두 값이 같아 보이도록 어느 한쪽을 바꾸지 마세요.

전송 계층 확인하기: TCP, WebSocket, gRPC, TLS

클라이언트에서는 보통 TCP, WebSocket, gRPC를 ‘전송 방식’ 항목에서 설정합니다. TCP는 기반 전송 프로토콜이고 WebSocket과 gRPC는 그보다 상위 계층의 전송 방식입니다. 클라이언트 화면에서 나란히 표시되는 이유는 모두 프록시 데이터를 상대편에 전달하는 방식을 정하기 때문입니다. TLS는 연결 보안 항목에 설정합니다. 포트가 443이라는 사실만으로 어떤 전송 방식을 사용하는지 알 수 없으며 TLS가 활성화되었다고 단정할 수도 없습니다.

VLESS 설정에는 flow가 표시될 수도 있습니다. UUID의 일부도 아니고 WebSocket이나 gRPC의 이름도 아닙니다. 기존 설정에 흐름 제어 값이 지정되어 있다면 클라이언트 코어가 해당 조합을 지원하는지 확인하세요. 기존 설정이 비어 있다면 다른 노드의 값을 복사하지 마세요.

클라이언트 선택하기: 노드 요구 사항과 코어 확인

v2rayN은 데스크톱 클라이언트로, 노드 요구 사항에 따라 사용할 수 있는 코어를 선택할 수 있습니다. v2rayNG는 Android 클라이언트이며 Xray 코어를 사용합니다. v2flyNG도 Android 클라이언트이며 v2fly 코어를 사용합니다. 클라이언트에 프로토콜 이름이 표시된다는 것은 해당 유형을 인식했다는 뜻일 뿐입니다. 전송 방식, 보안 계층, 흐름 제어 조합을 지원하는지는 별도로 확인해야 합니다.

기존 구독과 선택 가능한 노드

기존 노드 설정에 맞춰 가져오기

권장

vmess://로 시작하는 링크를 받았다면 VMess를 유지하고, vless://로 시작하는 링크를 받았다면 VLESS를 유지하세요. 노드에서 Xray의 특정 기능을 요구한다면 해당 코어를 선택하세요. 클라이언트의 프로토콜 이름을 바꿔도 서버 프로토콜은 바뀌지 않습니다.

추천 대상: 사용 가능한 노드가 있거나, 구독을 처음 가져오거나, 기기를 변경하는 경우

설정된 두 노드를 각각 테스트

구독에 VMess와 VLESS가 모두 포함되어 있다면 각 프로토콜의 전체 설정을 가져온 뒤 연결 결과를 비교하세요. 한쪽 설정을 복사해 프로토콜이나 접두어만 바꾸지 마세요. 그러면 프로토콜 차이가 아니라 매개변수 불일치를 테스트하게 됩니다.

추천 대상: 서버에서 두 가지 접속 방식을 모두 제공해 실제 사용 결과를 비교하려는 경우

구독 주소와 개별 공유 링크 가져오기

먼저 구독 주소인지 공유 링크인지 확인

데스크톱: v2rayN
  • 구독 주소: v2rayN 6.60 메뉴를 기준으로 설명합니다. ‘구독 그룹’ → ‘구독 그룹 설정’을 열어 주소를 추가하고 저장한 다음, ‘구독 그룹’ 메뉴로 돌아가 구독을 업데이트하세요.
  • 개별 링크: 링크 전체를 복사하고 ‘서버’ 메뉴에서 ‘클립보드에서 URL 일괄 가져오기’를 선택하세요. 가져온 노드를 열어 프로토콜, 전송 방식, 연결 보안을 확인하세요.
Android: v2rayNG
  • 구독 주소: 사이드 메뉴에서 ‘구독 그룹 설정’을 열고 오른쪽 위의 ‘+’를 눌러 그룹을 추가한 뒤 저장하세요. 메인 화면으로 돌아가 오른쪽 위 메뉴에서 구독을 업데이트하세요.
  • 개별 링크: 링크를 복사한 다음 메인 화면 오른쪽 위의 ‘+’를 누르고 ‘클립보드에서 가져오기’를 선택하세요. 버전에 따라 메뉴 이름이 조금 다를 수 있습니다. 가져온 뒤 새 노드가 현재 목록에 표시되는지 확인하세요.

구독 주소는 여러 노드를 가져오는 데 사용하고, 개별 공유 링크는 노드 하나를 추가할 때 사용합니다. 구독 업데이트에 성공했는데도 원하는 노드가 보이지 않는다면 먼저 현재 그룹을 확인한 다음 업데이트 로그를 살펴보세요.

가져온 뒤 문제 해결하기: 오류를 확인하고 한 번에 하나씩 변경

노드가 목록에 표시된다는 것은 클라이언트가 설정을 읽었다는 뜻이지, 서버가 연결을 허용했다는 뜻은 아닙니다. 원본 설정은 보관하고 가장 최근 실패의 코어 로그를 확인하세요. 오류가 어느 단계에서 발생했는지에 따라 주소, 연결 보안, 인증 항목을 차례로 확인하세요. 한 번에 한 항목씩만 변경해야 재시험으로 어떤 단계가 영향을 줬는지 알 수 있습니다.

프로토콜을 바꿔도 연결되지 않는다면 어디부터 확인해야 하나요?

먼저 기존 프로토콜로 되돌리세요. 로그에 연결 시간 초과나 연결 거부가 표시되면 기존 노드의 서버 주소와 포트를 먼저 확인하고 현재 네트워크에서 해당 접속 지점에 연결할 수 있는지 확인하세요. 연결이 인증 단계까지 도달하지 않았을 수 있으므로 이때 UUID를 바꾸는 것으로는 해결되지 않는 경우가 많습니다.

VMess 인증 실패가 표시되는데 UUID가 맞아 보인다면 어떻게 해야 하나요?

기존 공유 링크를 다시 가져와 UUID를 대조한 다음 시스템의 자동 시간 설정을 켜고 시간을 동기화하세요. VMess 인증은 시스템 시각의 오차에 민감하며 시간대만 변경해도 시각이 보정되지는 않습니다. 최신 VMess AEAD 설정은 일반적으로 alterId=0을 사용합니다. 기존 설정에 다른 값이 있다면 임의로 여러 값을 시도하지 말고 노드 관리 담당자에게 호환성을 확인하세요.

포트에는 연결되지만 TLS 인증서 이름이 일치하지 않는다고 표시되나요?

노드 편집 화면을 열어 SNI가 노드 제공자가 지정한 서버 이름과 일치하는지 확인하세요. 연결 주소가 IP이고 인증서는 도메인에 발급된 경우 SNI에 해당 IP를 입력하지 않아도 됩니다. 인증서 검증은 유지하세요. 항목이 기존 설정과 일치하는데도 실패한다면 관리 담당자에게 인증서 설정을 확인해 달라고 요청하세요.

목록의 두 노드가 모두 연결된다면 어느 쪽이 더 빠른지 어떻게 비교하나요?

같은 기기와 네트워크, 같은 테스트 대상을 사용해 번갈아 측정하세요. 각 노드를 최소 3회 테스트하고 지연 시간의 중앙값과 같은 파일의 다운로드 시간을 각각 기록하세요. 속도 측정 포트에 응답이 있다고 해서 웹 페이지나 다운로드도 원활하다는 뜻은 아닙니다. 두 노드의 경로나 서버가 다르면 결과는 현재 더 잘 작동하는 노드를 고르는 데만 활용할 수 있으며 VMess나 VLESS 자체의 성능 차이로 볼 수는 없습니다.

v2rayN 다운로드