정규화와 표준화의 차이점은 무엇입니까?

직장 상사가 정규화에 대해 들어 본 적이 없으므로 직장에서 이것을 논의했습니다. 선형 대수에서 정규화는 벡터를 길이로 나누는 것으로 나타납니다. 통계에서 표준화는 평균을 빼고 SD로 나눈 것을 말합니다. 그러나 그들은 다른 가능성과도 상호 교환 가능한 것처럼 보입니다.

어떤 종류의 범용 점수를 만들 때 , 다른 수단과 다른 SD를 가진 가지 다른 메트릭을 구성하면 정규화, 표준화 또는 다른 것입니까? 한 사람은 각 메트릭을 가져 와서 SD로 개별적으로 나누는 것이 문제라고 말했습니다. 그런 다음 둘을 합산하십시오. 그러면 두 지표를 모두 판단하는 데 사용할 수있는 범용 점수가 산출됩니다.$2$

예를 들어, 지하철을 타고 일하는 사람들의 수 (NYC)와 일을 위해 운전 한 사람들의 수 (NYC)가 있다고 가정합니다.

자동차 ⟶

교통 변동을 신속하게보고하기 위해 범용 점수를 생성하려는 경우 기차를 타는 사람들이 더 많기 때문에 및 평균 ( y ) 만 추가 할 수 없습니다 . 뉴욕에는 8 백만 명의 사람들이 있으며 관광객들도 있습니다. 그것은 수백만의 사람들이 매일 기차에서 수십만 명의 사람들을 자동차로 타는 것입니다. 따라서 비교하기 위해 비슷한 규모로 변환해야합니다.$\text{mean}(x)$$\text{mean}(y)$

만약 $\text{mean}(x) = 8,000,000$

및 $\text{mean}(y) = 800,000$

& y 를 정규화 한 다음 합계 하시겠습니까? x & y 를 표준화 한 다음 합계 하시겠습니까? 아니면 각각을 SD로 나누고 합산 하시겠습니까? 변동 할 때 총 트래픽 변동을 나타내는 숫자에 도달하기 위해.$x$$y$$x$$y$

참조 할 기사 나 장은 대단히 감사하겠습니다. 감사!

또한 내가하려는 일의 또 다른 예가 있습니다.

당신이 대학 학장이고 입학 요건을 논의하고 있다고 상상해보십시오. 최소한 특정 GPA와 특정 시험 점수를 가진 학생들을 원할 수 있습니다. 둘이 같은 규모에 있다면 두 개를 합쳐서 "7.0 이상을 가진 사람은 누구나 입학 할 수 있습니다"라고 말하면 좋을 것입니다. 그렇게하면 예비 학생이 4.0 GPA를 가지고 있다면 3.0 시험 점수만큼 낮아도 입학 할 수 있습니다. 반대로, 누군가 3.0 GPA를 가졌다면 4.0 시험 점수를받을 수 있습니다.

그러나 그렇지 않습니다. ACT는 36 포인트 규모이며 대부분의 GPA는 4.0입니다 (일부는 4.3, 예, 성가시다). ACT와 GPA를 추가하여 일종의 보편적 점수를 얻을 수 없기 때문에 어떻게 점수를 추가하여 보편적 점수를 만들 수 있습니까? 그리고 학장으로서, 특정 임계 값보다 높은 점수를 가진 사람을 자동으로 수락 할 수 있습니다. 또는 점수가 최고 95 % 이내 인 모든 사람을 자동으로 수락 할 수도 있습니다.

이것이 정규화입니까? 표준화? 아니면 그냥 SD로 나눈 다음 합산합니까?

정규화는 값을 [0,1] 범위로 조정합니다. 이는 모든 매개 변수가 동일한 양의 스케일을 가져야하는 경우에 유용 할 수 있습니다. 그러나 데이터 세트의 특이 치는 손실됩니다.

$\mu$$\sigma$

대부분의 응용 프로그램에는 표준화가 권장됩니다.

비즈니스 세계에서 "정규화"는 일반적으로 값의 범위가 "0.0 ~ 1.0으로 정규화 됨"을 의미합니다. "표준화"는 일반적으로 값의 평균이 표준 편차의 수를 측정하기 위해 값의 범위가 "표준화 됨"을 의미합니다. 그러나 모든 사람들이 그것에 동의하지는 않습니다. 정의 를 사용하기 전에 설명하는 것이 가장 좋습니다 .

어쨌든, 당신의 변환은 유용한 무언가를 제공해야합니다.

열차 / 차의 예에서 평균과 표준 편차가 몇 개인 지 알면 어떤 값을 얻습니까? "표준화 된"측정 값을 xy 플롯으로 서로 플롯하면 상관 관계가 표시 될 수 있습니다 (오른쪽의 첫 번째 그래프 참조).

http://en.wikipedia.org/wiki/Correlation_and_dependence

그렇다면 그게 당신에게 의미가 있습니까?

두 번째 예에서 GPA를 한 스케일에서 다른 스케일로 "동일"시키려면이 스케일의 공통점은 무엇입니까? 즉, 어떻게 최소값을 동일하게, 최대 값을 동일하게 변환 할 수 있습니까?

다음은 "정규화"의 예입니다.

정규화 링크

GPA 및 ACT 점수를 교환 가능한 형태로 얻은 후에는 ACT 점수와 GPA 점수를 다르게 평가하는 것이 합리적입니까? 그렇다면 어떤 가중치가 당신에게 의미가 있습니까?

편집 1 (2011 년 5 월 3 일) =========================================== =

먼저 위의 whuber가 제안한 링크를 확인 하겠습니다 . 결론은 두 변수 문제 모두에서 한 변수와 다른 변수의 "동등성"을 생각해 내야한다는 것입니다. 그리고 한 변수를 다른 변수와 구별하는 방법. 다시 말해, 이것을 간단한 선형 관계로 단순화 할 수 있더라도 한 변수를 다른 변수와 구별하려면 "가중치"가 필요합니다.

다음은 두 가지 변수 문제의 예입니다.

다중 속성 유틸리티

마지막 페이지에서 표준화 된 열차 교통량 U1(x)과 표준화 된 자동차 교통량 U2(y)이 " 추가적으로 독립적" 이라고 말할 수 있으면 다음과 같은 간단한 방정식으로 벗어날 수 있습니다.

U(x, y) = k1*U1(x) + (1 - k1)*U2(y)

여기서 k1 = 0.5는 표준화 된 자동차 / 기차 교통량에 무관심 함을 의미합니다. k1이 높을수록 열차 교통량 U1(x)이 더 중요합니다.

그러나이 두 변수가 "추가적으로 독립적"이 아닌 경우 더 복잡한 방정식을 사용해야합니다. 한 가지 가능성은 1 페이지에 나와 있습니다.

U(x, y) = k1*U1(x) + k2*U2(y) + (1-k1-k2)*U1(x)*U2(y)

두 경우 모두 합당한 유틸리티 U(x, y)를 만들어야합니다.

동일한 일반 가중치 / 비교 개념이 GPA / ACT 문제에 적용됩니다. "표준화"가 아니라 "표준화"된 경우에도 마찬가지입니다.

마지막 문제입니다. 나는 당신이 이것을 좋아하지 않을 것을 알고 있지만 "추가적으로 독립적"이라는 용어의 정의는 다음 링크의 4 페이지에 있습니다. 덜 괴짜 정의를 찾았지만 찾을 수 없었습니다. 더 나은 것을 찾기 위해 주위를 둘러 볼 수 있습니다.

부가 적으로 독립적

링크 인용 :

Intuitively, the agent prefers being both healthy and wealthy
more than might be suggested by considering the two attributes
separately. It thus displays a preference for probability
distributions in which health and wealth are positively
correlated.

이 응답의 상단에 제안 된대로 xy 플롯에 표준화 된 열차 교통량과 표준화 된 자동차 교통량을 플로팅하면 상관 관계가 표시 될 수 있습니다. 그렇다면 위의 비선형 유틸리티 방정식 또는 이와 유사한 것이 붙어 있습니다.

대답은 간단하지만 마음에 들지 않을 것입니다. 두 점수에서 1 표준 편차를 동일하게 평가하는 경우 표준화를 사용하는 방법입니다 (참고 : 실제로 는 모집단의 SD 추정값 으로 나누어 져 있기 때문에 학습 하고 있습니다 ).

그렇지 않다면 표준화가 좋은 첫 단계가 될 것입니다. 그 후에는 잘 선택된 요인을 곱하여 점수 중 하나에 더 많은 가중치를 부여 할 수 있습니다.

GPA / ACT 또는 기차 / 차량 문제를 해결하려면 기하 평균을 사용하지 않겠습니까?

n√ (a1 × a2 × ... × an)

a*분포의 값은 어디에 있고 분포 n의 인덱스입니다.

이 기하 평균은 각 값이 스케일을 나누고 평균 값에 동일하게 기여하는지 확인합니다. 기하 평균 에서 더보기

필자의 분야 인 데이터 과학에서 정규화는 데이터 다운 스트림을 쉽게 비교할 수있는 데이터 변환입니다. 정규화에는 여러 유형이 있습니다. 스케일링 중 하나입니다. 데이터를 기록하거나 원하는 다른 작업을 수행 할 수도 있습니다. 모든 정규화가 데이터를 다른 것으로 변환하기 때문에 사용하는 정규화 유형은 원하는 결과에 따라 다릅니다.

다음은 정규화 예제로 간주되는 것 중 일부입니다. 스케일링 정규화 Quantile 정규화