손실 함수와 오류 함수의 차이점은 무엇입니까?


31

"손실"이라는 용어는 "오류"와 동의어입니까? 정의에 차이가 있습니까?

또한 "손실"이라는 용어의 기원은 무엇입니까?

주의 : 여기에 언급 된 오류 기능은 일반 오류와 혼동되어서는 안됩니다.


1
내 질문은 이것과 관련이 있지만 만족스러운 stats.stackexchange.com/questions/179026/…을
Dan Kowalczyk

1
관련 스레드에 대해 불만족스러운 점을 표시 할 수 있으면 도움이 될 것입니다.
S. Kolassa-복원 Monica Monica

1
특히 오류 기능을 다루지 않고 주로 손실 유형에 중점을 둡니다.
Dan Kowalczyk

답변:


57

예측 적 또는 추론 적 모델의 맥락에서, 용어 "오류"는 일반적으로 그 값의 예측 또는 기대로부터의 실제 값으로부터의 편차를 지칭한다. 전적으로 예측 메커니즘과 관찰중인 수량의 실제 동작에 의해 결정됩니다. "손실"은 특정 크기 / 방향의 오차를 얻는 것이 얼마나 나쁜지에 대한 정량화 된 측정 으로, 부정확 한 예측으로 인해 발생하는 부정적인 결과에 영향을받습니다.

오차 함수는 예측과 관측 가능한 값의 편차를 측정하는 반면, 손실 함수 는 오차에 대해 작동하여 오차의 부정적인 결과를 정량화합니다. 예를 들어, 일부 상황에서는 오차의 제곱이 오차의 제곱 에 비례하는 것으로 정량화되는 오차 제곱 이 있다고 가정하는 것이 합리적 일 수 있습니다 . 다른 맥락에서 우리는 특정 방향에서의 오류에 의해 더 부정적인 영향을받을 수 있으며 (예를 들어, 거짓 양성 대 거짓 음성) 비대칭 손실 함수를 채택 할 수 있습니다.

오차 함수는 순전히 통계적인 객체이고, 손실 함수는 오차의 부정적인 결과를 정량화하기 위해 결정 이론적 객체입니다. 후자는 의사 결정 이론과 경제에 사용됩니다 (일반적으로 그 반대-추 기소 유틸리티 기능을 통해).


예 : 귀하는 폭도에 대한 불법 베팅 팔러를 운영하는 범죄자입니다. 매주 당신은 이익의 50 %를 Mob 보스에게 지불해야하지만, 당신이 그 장소를 운영하기 때문에, 보스는 당신에게 이익의 진정한 회계를주기 위해 당신에게 의존합니다. 당신이 좋은 주가 있다면 당신은 당신의 이익을 저조하여 반죽에서 그를 뻣뻣하게 할 수 있지만, 보스에게 지불하는 경우, 그가 의심하는 것이 실제 이익이라고 생각하면, 당신은 죽은 사람입니다. 그래서 당신은 그가 얻을 것으로 예상되는 금액을 예측하고 그에 따라 지불합니다. 이상적으로는 당신이 그에게 그가 기대하는 것을 정확하게주고 나머지를 지킬 것이지만, 당신은 잠재적으로 예측 오류를 만들고 그를 너무 많이 지불하거나 너무 적게 지불 할 수 있습니다.

You have a good week and earn π=$40,000 in profit, so the boss is owed 12π=$20,000. He doesn’t know what a good week you had, so his true expectation of his share is only θ=$15,000 (unknown to you). You decide to pay him θ^. Then your error function is:

Error(θ^,θ)=θ^θ,

and (if we assume that loss is linear in money) your loss function is:

Loss(θ^,θ)={if θ^<θ(sleep wit' da fishes)θ^πif θ^θ(live to spend another week)

This is an example of an asymmetric loss function (solution discussed in the comments below) which differs substantially from the error function. The asymmetric nature of the loss function in this case stresses the catastrophic outcome in the case where there is underestimation of the unknown parameter.


2
Very clear, thank you for your response. I will accept an answer after others have a chance.
Dan Kowalczyk

4
This new example seems to come from personal experience...
Dan Kowalczyk

2
The example is terrific.
Greenstick

While the example is fun an infinite loss is pretty meaningless. The optimal solution in this case would always be to give your boss all of the money you earned. I suggest changing this for the answer to be truly excellent.
Alex bGoode

1
There seem to be differing views on the example, so for the moment I'll leave it as is, but I am open to an edit if it proves to be unpopular. Having said that, the purpose in the present context is to show the OP an example of a highly asymmetric loss function, to stress the difference with the error function. The fact that the optimal solution is to give the boss all the money does not make the example "meaningless" - it just means that the optimal solution is to give the boss all the money.
Reinstate Monica
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.