위도 및 경도로 주어진 위치에 피타고라스 공식을 사용하는 것은 정사각형에 대한 공식을 사용하여 원의 면적을 계산하는 것만 큼 의미가 없습니다.
작은 규모 의 매끄러운 표면은 평면처럼 보이지만 피타고라스 공식의 정확도는 사용 된 좌표에 따라 다릅니다 . 이러한 좌표가 구 (또는 타원체)에서 위도 및 경도 인 경우
경도 선을 따른 거리는 상당히 정확합니다.
적도의 거리는 상당히 정확합니다.
다른 모든 거리는 위도와 경도의 차이에 대략 비례하여 잘못됩니다.
오차는 거리 계산의 시작점과 끝점에 따라 다릅니다. 그러나 구와 타원체는 축을 중심으로 원형 대칭을 갖기 때문에 오차 는 경도 의 차이 에만 의존하므로이 오차 를 연구하기 위해 원점을 Prime Meridian에 두어야합니다. 구면과 타원체는 남북 반사에서 대칭이므로 남반구의 원점 만 연구하면됩니다. 그러한 지점에 대해 [피타고라스 계산] / [참 거리]와 같은 상대 오차의 등고선지도를 그릴 수 있습니다.
지구의 평균 반경을 사용하는 피타고라스 공식은
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
여기서 dx 는 경도의 차이이고 dy 는 위도의 차이 (도)입니다. (경도 값의 차이는 모듈러스 360을 줄여서 반 자오선을 넘을 때 올바른 dx 값을 제공합니다 . 그렇게하지 않으면 인위적으로 큰 오류가 발생하여 피타고라스 공식 자체에 대해서는 아무것도 알 수 없습니다.)
다음 그림은 -70에서 0까지의 위도 10도 단위로 WGS 84 타원체의 정확한 거리와 비교 한 상대 오차를 보여줍니다. 가로 좌표는 경도의 차이이고 세로 좌표는 대상의 위도입니다. 밝은 영역의 오류는 비교적 작습니다. 등고선은 1, 1.01, 1.02, 1.05, 1.1, 1.2, 1.5, 2 등입니다 (모퉁이의 순수한 흰색 영역은 오류가 이러한 윤곽의 범위를 벗어난 곳입니다) .) 빨간 점은 원점을 나타냅니다.
세로 흰색 띠는 기대의 정확성을 증명합니다 (1) : 피타고라스 거리는 경도 차이가 작을 때 정확합니다. 낮은 위도의 수평 흰색 밴드는 기대치를 확인합니다 (2) : 적도 근처에서 수평 거리가 상당히 정확합니다. 그렇지 않으면 광대 한 어두운 지역에서 볼 수 있듯이 피타고라스 공식은 다른 모든 거리에서 나쁩니다.
최대의 정량적 추정을 할 수 있습니다주변 포인트 쌍 (예 : 서로 수백 킬로미터 이내)에 대해 오류가 발생했습니다. 반경에 적절한 값을 사용하는 척도는 자오선을 따라 적용되지만 위도 원을 따라 오차가 발생합니다. 예를 들어 위도 40도에서 시컨트는 1.31이므로 피타고라스 공식은 동서 방향으로 약 31 %의 거리를 제공합니다. (이는 오른쪽 위의 등고선 플롯에서 위도 -40 도의 원점에 대해 분명합니다. 여기서 빨간 점의 바로 서쪽에있는 영역은 1.2와 1.5 사이의 윤곽선입니다.) 다른 모든 방향의 짧은 거리는 0 % 내지 31 %의 양만큼 너무 크다; 거리가 멀수록 거리가 멀어 질 수 있습니다 (등고선 그림에서 볼 수 있듯이).