macOS에서 VPN이 안 될 때 원인이 회선 자체인 경우는 드뭅니다. 대부분은 설치 파일이 허용되지 않았거나, 네트워크 확장이 승인되지 않았거나, 구독 링크를 등록한 뒤 업데이트가 실행되지 않은 경우입니다. 이 글은 실제 작업 순서대로 설치, 허용, 승인, 등록, 확인을 진행하며 각 단계에서 보여야 하는 결과와 그렇지 않을 때 먼저 확인할 지점을 설명합니다.
시스템 내부 설정을 바꾸거나 보호 기능을 꺼 둘 필요가 전혀 없습니다. 시스템 보호를 먼저 끄라고 안내하는 글은 건너뛰어도 됩니다.
설치 전에 세 가지를 준비하세요
시작하기 전에 세 가지를 준비해 두면 이후에 오가는 시간을 절반으로 줄일 수 있습니다.
관리자 계정. 클라이언트 설치와 네트워크 확장 승인에는 관리자 권한이 필요합니다. 표준 계정에서는 '허용' 버튼 자체가 나타나지 않는 경우가 있는데, 클라이언트가 고장 난 것이 아니라 시스템이 해당 계정에 팝업을 보내지 않기 때문입니다. 먼저 현재 계정이 관리자인지 확인하고 시작하세요.
구독 링크. 사용자 패널에 로그인해 다운로드 및 구독 항목에서 구독 링크를 복사합니다. 이 링크에는 토큰이 들어 있어 계정 자격 증명과 같습니다. 단체 채팅방에 보내거나 스크린샷에 남기지 마세요.
용도. 이 Mac에서 모든 트래픽을 프록시로 보낼지, 규칙에 따라 나눌지 먼저 정하세요. 모드는 언제든 바꿀 수 있지만 처음에 잘못 고르면 나중에 확인 과정에서 회선 문제로 오해하기 쉽습니다.
- ✅ 현재 계정이 관리자이고 시스템 설정의 '개인정보 보호 및 보안'을 열 수 있음
- ✅ 구독 링크를 이 기기에 복사해 두었고 메신저를 거치지 않음
- ✅ 분할 라우팅 확인용으로 중국 본토 사이트와 해외 사이트를 하나씩 준비
- ❌ 회사 프로파일로 관리되는 Mac에 그대로 설치하면 네트워크 확장이 정책으로 차단될 수 있음
- ❌ 클라우드나 포럼에서 받은 설치 파일은 출처를 알 수 없어 서명을 확인할 수 없음
설치 파일 허용: 세 가지 차단과 대처법
내려받은 설치 파일은 보통 dmg입니다. 열어서 앱을 '응용 프로그램' 폴더로 옮기고, 다운로드 폴더에서 바로 실행하지 마세요. 격리 속성은 파일을 따라다니기 때문에 다운로드 폴더에 두면 정리 도구에 지워지기 쉽고 이후 업데이트에서도 문제가 생기기 쉽습니다.
처음 실행하면 대부분 시스템이 막고 'Apple에서 악성 소프트웨어가 있는지 확인할 수 없기 때문에 열 수 없습니다'라는 메시지를 띄웁니다. 설치 파일이 손상된 것이 아니라 시스템의 출처 확인 절차입니다. 시스템 설정 → 개인정보 보호 및 보안을 열고 페이지 아래에서 방금 차단된 항목을 찾아 '그래도 열기'를 누른 뒤 Finder에서 다시 실행하면 확인 버튼이 있는 팝업으로 바뀝니다.
두 번째 메시지는 '손상되었기 때문에 휴지통으로 이동해야 합니다'입니다. 대부분 다운로드가 불완전했거나 파일 속성을 바꾸는 다운로드 도구를 쓴 경우입니다. 다시 내려받으면 됩니다. 인터넷에 도는 터미널 '복구' 명령은 격리 검사를 전역에서 끄는 것이라 주 사용 기기에서는 권하지 않습니다. 그것은 문제가 아니라 경고만 없앨 뿐입니다.
세 번째는 개인정보 보호 및 보안 페이지에 해당 기록이 아예 없는 경우입니다. 앱이 실행되지 않아 시스템이 판단 단계까지 가지 못했다는 뜻입니다. 순서대로 확인하세요. 정말 '응용 프로그램'으로 옮겼는지, dmg가 온전히 마운트되었는지, 보안 소프트웨어가 먼저 차단하지 않았는지.
설치 파일이 온전한지는 용량보다 서명으로 판단하는 편이 확실합니다. 앱을 마우스 오른쪽 버튼으로 눌러 '정보 가져오기'를 선택하거나 터미널에서 codesign -dv를 실행해 서명 정보를 확인하세요. 서명이 없거나 공식 서명과 다른 패키지는 설치를 계속하지 마세요.
네트워크 확장 승인: 두 개의 스위치
macOS의 VPN 클라이언트는 대부분 일반 앱이 아니라 시스템 네트워크 확장 형태로 동작합니다. 그래서 첫 연결 때 확인 절차가 두 번 더 생기고, 이 확인은 특정 시점에만 나타나므로 놓치면 직접 다시 처리해야 합니다.
첫 번째: VPN 구성 추가 팝업
처음 연결을 누르면 시스템이 클라이언트의 VPN 구성 추가를 허용할지 묻고, 비밀번호나 Touch ID 확인을 요구합니다. 여기서 취소를 누르면 클라이언트 화면은 계속 조작할 수 있지만 상태가 '연결 중'에 멈춘 채 스스로 복구되지 않습니다.
두 번째: 네트워크 확장 스위치
시스템 설정 → 일반 → 로그인 항목 및 확장 → 네트워크 확장을 열고 클라이언트 항목이 켜져 있는지 확인하세요. macOS 버전에 따라 위치가 조금 다르고 '개인정보 보호 및 보안'에 나타날 수도 있습니다. 이 항목을 끄면 연결이 즉시 끊기고 아무런 이유도 표시되지 않습니다.
승인이 제대로 되지 않았을 때 나타나는 전형적인 증상은 세 가지입니다. 메뉴 막대 아이콘 색만 바뀌고 계속 '연결 중'에 머무름, 연결된 지 몇 초 만에 끊겨 미연결로 돌아감, 시스템 설정 → 네트워크에 회색 경고 표시가 붙은 VPN 구성이 생김.
처리 순서는 정해져 있습니다. 클라이언트 종료 → 시스템 설정 → 네트워크에서 남은 VPN 구성 삭제 → 클라이언트 다시 실행 → 허용 절차를 처음부터 다시 진행. 연결 버튼을 반복해서 눌러도 시스템이 승인 팝업을 다시 보내주지 않으며, 남은 구성만 쌓입니다.
시스템 무결성 보호를 끄거나 방화벽을 전역으로 내려서 연결 문제를 '해결'하려 하지 마세요. 이 두 가지를 끄면 문제는 가려질 뿐이고 이후 원인 파악이 몇 배 어려워지며, 영향을 받는 것은 클라이언트 하나가 아닙니다.
구독 등록: 링크, QR 코드, 수동 입력
클라이언트를 막 설치하면 비어 있습니다. 노드는 구독 링크에서 가져와야 합니다. 세 가지 방법 중 상황에 맞는 하나를 고르고 섞어 쓰지 마세요.
방법 1: 구독 링크 붙여넣기
클라이언트의 구독 또는 구성 항목에서 링크로 가져오기를 선택하고 붙여넣은 뒤 확인합니다. 가져오기에 성공하면 곧바로 노드 목록을 한 번 받아오고, 목록에는 지역별로 묶인 항목이 나타나야 합니다. 목록이 비어 있다면 링크가 메신저에서 잘리지 않았는지 먼저 확인하세요. 복사할 때 몇 글자가 빠지는 것이 가장 흔한 원인입니다.
방법 2: QR 코드
QR 코드는 같은 링크를 그림으로 표현한 것이라 패널에서 바로 스캔할 때 적합합니다. Mac에서는 스마트폰으로 스캔해 다시 컴퓨터에 붙여넣는 쪽이 오히려 한 단계 더 많습니다. 링크를 클라이언트에 바로 붙여넣는 편이 빠르고 실수도 적습니다.
방법 3: 단일 노드 수동 추가
단일 노드 파라미터를 받은 경우에만 이 방법을 씁니다. 프로토콜마다 입력할 필드가 다릅니다. Shadowsocks는 비밀번호와 암호화 방식, VMess는 UUID와 구버전의 alterId, VLESS는 UUID와 선택 항목인 flow, Trojan은 비밀번호만, Hysteria2와 TUIC는 QUIC 기반이라 인증 정보와 혼잡 제어 관련 파라미터가 필요합니다. 한 글자만 틀려도 연결되지 않으므로 파라미터를 손으로 옮겨 적는 것이 전체 과정에서 가장 실수가 잦은 단계입니다.
구독 링크에는 토큰이 들어 있어 링크를 얻은 사람이 해당 계정의 트래픽 한도를 사용할 수 있습니다. 유출이 의심되면 사용자 패널에서 구독 주소를 재설정하고 클라이언트로 돌아와 다시 가져오세요. 이전 링크는 다른 기기에서 쓰던 것까지 즉시 무효가 됩니다.
가져온 뒤에는 한 번 직접 업데이트해야 합니다
서버에서 노드를 조정해도 클라이언트는 자동으로 알지 못합니다. 클라이언트에서 구독 업데이트를 한 번 누르고 노드 수와 지역이 바뀌었는지 확인하세요. 대부분의 클라이언트는 정기 업데이트를 지원하고 간격은 직접 정할 수 있지만, 기기를 바꾸거나 초기화한 직후에는 직접 누르는 편이 좋습니다.
가져오기 성공 여부는 기준이 분명합니다. 노드 목록이 지역별로 묶여 나타나고, 항목을 선택할 수 있고, 선택하면 상태 표시줄에 현재 노드 이름이 보여야 합니다. 셋 중 하나라도 빠지면 회선을 의심하기 전에 구독을 다 받아오지 못했을 가능성을 먼저 보세요.
연결 확인: 네 단계 점검
연결됐다고 해서 통하는 것은 아닙니다. 아래 네 단계를 거치면 문제를 '회선이 나쁘다'는 뭉뚱그린 결론 대신 구체적인 계층으로 좁힐 수 있습니다.
- 출구 지역 확인. 연결 후 사이트의 '내 IP' 페이지를 열어 인식된 국가와 지역이 선택한 노드와 같은지 봅니다. 다르면 트래픽이 프록시를 타지 않은 것이므로 클라이언트의 시스템 프록시 또는 TUN 스위치를 다시 확인하세요.
- DNS 조회가 어디로 가는지 확인. 조회가 여전히 로컬 통신사에서 이루어지면 해외 사이트 접속 시 가깝지만 잘못된 주소로 해석되어, 느렸다 빨라졌다 하거나 이미지가 절반만 로드되는 증상이 나타납니다. 분할 규칙에서 DNS 요청도 프록시 쪽으로 넘겨야 합니다.
- 분할 규칙 검증. 중국 본토 사이트와 해외 사이트를 각각 열어 전자는 직접 연결, 후자는 프록시를 타는지 확인합니다. 흔한 실수는 특정 최상위 도메인을 통째로 직접 연결에 넣어, 그 도메인 아래의 대상 사이트가 모두 프록시를 거치지 않게 만드는 것입니다.
- IPv6 점검. 로컬 네트워크가 IPv4와 IPv6를 함께 내려보내는데 클라이언트가 IPv4만 처리하면 일부 사이트는 IPv6로 그대로 나가 '웹페이지는 열리는데 영상은 멈추는' 어긋남이 생깁니다. 클라이언트에서 IPv6를 끄거나, 규칙이 두 프로토콜을 동일하게 처리하도록 하세요.
확인은 두 가지만 봅니다. 출구 지역이 맞는지, DNS가 로컬로 되돌아가지 않는지. 이 두 가지가 정상인 다음에 회선 품질을 의심하세요. 순서를 바꾸면 노드만 헛되이 갈아타게 됩니다.
증상 대조: 연결이 안 될 때 먼저 볼 곳
아래 표는 증상에서 원인을 역으로 짚어 보는 순서이며, 흔한 것에서 드문 것 순으로 배열했습니다. 한 줄씩 대조해 보면 헛된 시도는 대부분 건너뛸 수 있습니다.
| 증상 | 흔한 원인 | 처리 순서 |
|---|---|---|
| 클라이언트는 연결됨으로 표시되는데 브라우저에서 페이지가 열리지 않음 | 시스템 프록시가 설정되지 않았거나 규칙이 대상을 직접 연결로 지정 | 클라이언트의 시스템 프록시와 TUN 스위치를 먼저 확인하고, 다음으로 규칙 일치 여부 확인 |
| 연결 후 몇 초 만에 자동으로 끊김 | 네트워크 확장 승인이 완료되지 않았거나 관리 정책에 의해 차단됨 | 클라이언트를 종료하고 남은 구성을 삭제한 뒤 다시 승인 |
| 특정 사이트만 열리지 않고 나머지는 정상 | 분할 규칙 오류 또는 해당 사이트 자체의 지역 제한 | 같은 지역의 다른 노드로 다시 테스트한 뒤 규칙을 점검 |
| 웹페이지에 인증서 오류가 표시됨 | 클라이언트의 복호화 기능이 시스템에서 신뢰되지 않거나 시스템 시간 오차가 큼 | 먼저 시간을 맞추고, 해당 기능이 필요 없으면 끄기 |
| 구독 업데이트 후 노드 목록이 비어 있음 | 링크가 잘렸거나 패널에서 토큰이 재설정됨 | 패널로 돌아가 링크를 다시 복사한 뒤 다시 가져오기 |
| 업로드와 다운로드가 모두 느리고 노드를 바꿔도 나아지지 않음 | 로컬 네트워크 혼잡 또는 선택한 회선 유형이 현재 시간대에 맞지 않음 | 회선 유형(전용 / 중계)을 바꿔 같은 대상으로 다시 측정 |
시스템 업그레이드와 삭제
macOS 메이저 버전으로 업그레이드하면 네트워크 확장 승인 상태가 초기화될 수 있습니다. 업그레이드 후 첫 연결이 계속 '연결 중'에 머문다면 시스템 설정에서 확장 스위치를 다시 확인하면 됩니다. 클라이언트를 다시 설치하거나 구독을 다시 가져올 필요는 없습니다.
삭제는 절차를 끝까지 밟아야 합니다. 클라이언트 종료 → 시스템 설정 → 네트워크에서 해당 VPN 구성 삭제 → 로그인 항목 및 확장에서 확장 제거 → 마지막으로 앱 삭제. 앱만 휴지통으로 옮기면 남은 구성이 네트워크 목록에 그대로 남고, 다음에 다른 클라이언트를 설치할 때 이름이 겹쳐 새 구성이 밀려날 수 있습니다.
기기를 바꿔도 다시 구매할 필요는 없습니다. 같은 구독 링크를 새 기기에서 가져오면 되고, 계정에 기기 수 제한이 없습니다. 이전 기기는 위 절차대로 정리해 두세요. 두 구성이 동시에 시스템 프록시를 잡으려 하면 '두 기기 모두 좋았다 나빴다' 하는 것처럼 보입니다.
순서를 고정하세요
전체 흐름의 순서는 정해져 있습니다. 설치 → 허용 → 승인 → 등록 → 확인. 막힐 때는 이 순서대로 거슬러 올라가 권한을 먼저 보고, 그다음 규칙을 보고, 마지막에 회선을 의심하세요. macOS에서 '연결이 안 된다'는 상황은 대부분 앞의 두 단계에서 멈추는데, 하필 그 두 단계는 명확한 오류를 보여주지 않습니다.
macOS에서는 권한 문제가 다수를 차지하고, 증상은 모두 '네트워크가 안 통한다'처럼 보입니다. 설치 파일 허용과 네트워크 확장 승인을 먼저 제대로 해 두어야 이후의 구독과 분할 규칙도 의미가 있습니다.