WGS84와 OSGB36: GPS와 OS 지도가 어긋나는 이유

측지계란 무엇인가

지구는 매끈한 도형이 아닙니다. 그래서 모든 좌표계는 먼저 타원체 — 매끄러운 대역 도형 — 를 고르고, 그것을 정확히 어디에 놓을지 정합니다. 그렇게 고정된 타원체가 바로 측지계입니다. WGS84는 지구 전체에 맞도록 크기와 중심을 잡은 타원체를 씁니다. 위성은 지구 전체를 도니까요. OSGB36은 Airy 1830을 씁니다. 1936년의 과제는 세계가 아니라 영국을 지도로 만드는 일이었으므로, 영국 본토에 최대한 밀착하도록 크기를 정하고 기울였습니다. 어느 쪽도 틀리지 않았습니다. 서로 다른 질문에 대한 답일 뿐이고, 그래서 땅 위의 같은 지점이 각각 다른 숫자를 받습니다.

차이는 얼마나 큰가?

WGS84 위도/경도를 OSGB36인 것처럼 다루면, 점이 대략 50~120미터 어긋난 자리에 찍힙니다. 이 어긋남은 지역에 따라 서서히 변합니다. 반올림 오차 수준이 아닙니다. 밭 두어 개, 강의 반대편, 다른 암벽입니다. GPS 앱이 보여주는 국가 그리드 좌표가 위성의 원본 출력값이 아닌 이유도 여기 있습니다. 어딘가에서 무언가가 먼저 측지계 변환을 돌렸습니다. 남는 질문은 어떤 변환이었는지, 그리고 얼마나 정확했는지뿐입니다.

Helmert 변환 — 세상을 옮기는 일곱 개의 숫자

가장 널리 쓰이는 변환은 Helmert 변환입니다. 좌표 프레임 전체를 세 축으로 평행이동하고, 세 축으로 회전시키고, 축척을 조정합니다. 공표된 일곱 개의 숫자입니다. 영국에 적용한 Ordnance Survey의 전국 Helmert 값은 약 3미터 정확도입니다. 한계는 일곱 숫자가 엉성해서가 아닙니다. OSGB36 자체가 미세하게 뒤틀려 있기 때문입니다. 이 측지계는 1930년대 장비로 산봉우리에서 산봉우리로 삼각측량해 만들어졌고, 그렇게 누적된 늘어남은 하나의 강체 이동·회전·축척으로는 되돌릴 수 없습니다. 우리 그리드 좌표 도구는 바로 이 변환을 쓰며 정확도를 솔직하게 밝힙니다. 여섯 자리 좌표 사각형 안에는 넉넉히 들어옵니다.

OSTN15 — 측량급 해답과 그 대가

이 뒤틀림을 넘어서려면 영국을 강체로 다루기를 그만둬야 합니다. OSTN15는 Ordnance Survey의 공식 변환으로, 전국을 덮는 1 km 격자에 동서 방향과 남북 방향 이동량을 담았습니다. 삼각측량의 국소 왜곡을 흡수하는 고무판 같은 것입니다. 확정 좌표를 약 0.1 m 수준으로 재현하며, 전문 GNSS 장비와 GIS 소프트웨어가 이 방식을 씁니다. 대가는 격자 파일 자체입니다. 소프트웨어와 함께 배포해야 하는 수 메가바이트의 이동량 데이터입니다. 토지 경계와 공학 작업에서는 타협의 여지가 없습니다. 반면 산에서 100 m 사각형을 읽어내는 일이라면 3미터짜리 Helmert 답이 맞는 도구입니다. 즉시 계산되고, 오프라인에서도 되고, 입력으로 들어오는 GPS 측위값보다 정밀합니다.

실제로 무엇이 달라지나

걷기, 지오캐싱, 구조 출동 — 국가 그리드 좌표를 출력한다고 말하는 요즘 도구는 모두 대신 변환을 이미 돌렸습니다. 실질적인 질문은 그것이 Helmert 급(미터 단위)인지 OSTN15 급(센티미터 단위)인지뿐입니다. 휴대폰을 쓰는 사람에게는 GPS 측위 자체의 오차에 비해 그 차이가 보이지 않습니다(GPS 정확도 페이지에서 직접 확인해 보세요). 측량, 지도 데이터 처리, 법적 효력이 필요한 일이라면 OSTN15를 요구하세요. 그리고 좌표가 100미터쯤 어긋난 것처럼 보일 때, 이제 가장 먼저 물어야 할 질문을 압니다. 어떤 측지계인가?