TMG Android L2TP VPN 접속 끊어지는 현상 해결

내가 무슨 SE도 아닌데... 업무 관계상 Microsoft Forefront TMG(Threat Management Gateway) 서버를 종종 다루고 있다.

이전 ISA(Internet Security and Acceleration) 서버의 64비트용 업그레이드 버전이라 볼 수 있는데,

Threat Management라니... 좀 거시기 하지만 보안 관련 의미는 아무튼 확실하게 각인시킬 수 있는 이름이긴 한 것 같다.

이전의 ISA는 이름에서 풍기는 이미지가 좀 식상하고 모호했는데 말이다.

이 TMG 서버는 방화벽이나 웹 퍼블리싱 용도 뿐만 아니라 VPN 서버로도 사용할 수 있다.

그런데 도메인에 소속된 TMG의 경우에는 곧바로 Active Directory에서 인증을 받을 수 있지만

별도 작업그룹으로 떨어져 있는 경우에는 RADIUS 서버를 통해 Active Directory에서 인증을 받을 수 있다.

RADIUS 서버는 물론 Windows 상에서 IAS(인터넷 인증 서비스)를 올리면 되는데

이게 Windows Server 2008부터는 IAS가 없고 그대신 NPS(네트워크 정책 및 액세스 서비스)로 이름이 바뀌었다.

기능은... 별반 차이는 없다. (참고: http://www.fatofthelan.com/technical/using-windows-2008-for-radius-authentication/)

서론은 대충 접고,

어쨌든,

이 TMG VPN 서버에 개인 인증서를 이용한 L2TP/IPSec(CRT/RSA) 설정으로 접속을 하려고 할 때

Android 스마트폰 단말기에서 접속을 하면 연결까지는 정상적으로 잘 되는데

잠시 뒤(3~4초, 길어도 10초 이내) 아무런 오류도 없이 그냥 끊어지는 현상이 있다.

방화벽 정책에 의해 차단되는 것도 아니고 스마트폰의 버전 문제도 아니었다.

또, Android 이외의 기종으로는 접속 테스트를 해보지 않아 다른 기종에서도 동일하게 발생하는 문제인지는 모르겠다.

이 현상은 L2TP가 아닌 PPTP로 접속할 때는 발생하지 않았고,

또 TMG 서버의 이전 버전인 ISA 2006 서버에서도 없던 현상이었다. (모두 확인, 직접 테스트까지 다 해 봤음. 헥헥... 제길.)

TMG 오리지널 버전에서도 있는 문제였고,

SP1에서도 똑같은 문제가 있었고,

SP2를 깔아도 전혀 개선되지 않는 문제였다. (사실 지금 현재까지 최신버전은 SP2이다.)

검색을 해봤다.

http://social.technet.microsoft.com/Forums/en-US/Forefrontedgegeneral/thread/665c40eb-d4d2-43e6-ba29-5d1e624a4ff2

비슷한 문제를 호소하는 해외의 사례들도 많았다.

결국,

이 문제가 어찌어찌하여 공식 Microsoft 지원 페이지에까지 올라가게 된 것 같았다.

http://support.microsoft.com/kb/2722729/en-us

우습게도, 딱 케이스가 내가 겪은 경우 하나란다. TMG를 VPN으로 쓰고, L2TP 접속을 Android 단말에서 할 때. 쳇.

TMG 서버의 Mprddm.dll이라는 파일이 그 문제를 일으키고 있는 놈이란다.

찾아봤더니 저렇다. 2010년에 처음 설치할 때 만들어 진 그대로다.

즉, SP1, SP2 등 이후에 발표된 TMG 관련 업데이트들도 모두 위 파일은 업데이트하지 않았던 거다.

어쨌든, 이제는 핫픽스가 있어서 설치하면 해결될 수 있단다.

그런데 핫픽스를 바로 다운로드할 수는 없고 메일 주소를 입력하면 메일로 링크를 보내준단다. -_-a

메일을 받아보니

링크에 URL 뒤 괄호까지 링크가 걸려 있어서 링크를 클릭하면 에러가 나지만,

URL 부분만 잘 복사해서 넣어주면 다운로드가 잘 된다.

골 때리는 것은, 다운로드받은 위 실행파일을 실행하면 아주 깨알같이 알아보기도 힘든 설치 마법사 같은 게 나온다.

한글 윈도우에서만 발생하는 현상일까? 흐미... 아무튼 우여곡절 끝에 실행 완료하고 나면

위 그림과 같이 .msu 패치 업데이트 파일이 하나 만들어진다. 저걸 설치하면 끝.

설치 후에 다시 Mprddm.dll 파일을 봤더니 뭔가 바뀌었다. 2012년 7월 버전으로.

...

이제 L2TP 접속 잘 된다. 유후~

죽일 넘의 MS... 저런 명백한 오류 사항이 있으면 빨리빨리 업데이트 좀 해놓지. 안드로이드라고 쌩까는 거냐?

[2013-03-07]

추가: 첨부파일로 올렸다. 여기서 받아서 설치하면 된다.

Windows6.1-KB2722729-v2-x64.msu