SVM 알고리즘에서 왜 벡터 w가 분리 초평면과 직교 하는가?


13

저는 머신 러닝 초보자입니다. SVM에서 분리 초평면은 로 정의됩니다 . 왜 우리는 벡터를 말한다 분리 초평면 직교?y=wTx+bw


3
비슷한 질문에 대한 답변 (신경망)이 여기에 있습니다 .
bogatron

@bogatron-나는 당신에게 완전히 동의합니다. 그러나 내 사람들은 SVM 전용 답변입니다.
untitledprogrammer

2
그렇지 않다는 것을 제외하고. 귀하의 답변은 정확하지만 SVM에만 해당되는 것은 없습니다. 는 단순히 초평면을 정의하는 벡터 방정식입니다. wTx=
bogatron 2016 년

답변:


10

기하학적으로, 벡터 w는 정의 된 선에 직교합니다 . 이것은 다음과 같이 이해 될 수 있습니다.wTx=b

먼저 취하십시오 . 이제 갖는 소실 내부 곱을 갖는 모든 벡터 가이 방정식을 만족시키는 것이 명백하다 . 즉, w에 직교하는 모든 벡터는이 방정식을 만족시킨다.b=0xw

이제 벡터 a를 통해 초평면을 원점에서 멀리 변환합니다. 평면에 대한 방정식은 이제 . 즉, 오프셋 에 대해, 벡터 가 벡터 에 투영 된 것을 알 수 있습니다.(xa)Tw=0b=aTwaw

일반성을 잃지 않으면 서 우리는 평면에 수직을 선택할 수있다.이 경우 길이 는 가장 짧은 직교를 나타내는 길이 원점과 초평면 사이의 거리.||a||=|b|/||w||

따라서 벡터 는 분리 초평면과 직교한다고한다.w


5

이유 우리가 그런 식으로 그것을 정의하기 때문에 하이퍼면에 수직이다 :

3D 공간에 (하이퍼) 평면이 있다고 가정합니다. 하자 즉,이 평면에 포인트가 P 0 = X 0 , y를 0 , Z 0 . 따라서 원점 ( 0 , 0 , 0 ) 에서이 점 까지의 벡터 는 단지 < x 0 , y 0 , z 0 > 입니다. 평면에 임의의 점 P ( x , y , z ) 가 있다고 가정하십시오 . P에 합류하는 벡터00=엑스0,와이0,0(0,0,0)<엑스0,와이0,0>(엑스,와이,) : 다음으로 주어진다 P - P 0 = < X - X 0 , Y - Y 0 , Z - Z 0 > 평면이 벡터에있는 것을 유의해야한다.0

0= <엑스엑스0,와이와이0,0>

이제하자 N 면에 수직 (직각) 벡터합니다. 따라서 : N( P - P 0 ) = 0 따라서 : NP - NP 0 = 0 참고 - NP 0은 단지 숫자와 같음 에 우리의 경우는, 반면 N 그냥 P^

^(0)=0
^^0=0
^0^입니다 . 따라서 정의상 w 는 초평면과 직교합니다.엑스

2

결정 경계를 엑스+=0 으로 정의하십시오 . 결정 경계에 있는 점 엑스엑스 고려하십시오 . 이것은 우리에게 두 가지 방정식을 제공합니다.

엑스+=0엑스+=0

.(엑스엑스)=0엑스엑스엑스엑스.(엑스엑스)엑스엑스


0

초평면과 직교하는 벡터의 대수적 정의 사용 :

 엑스1,엑스2

(엑스1엑스2)=(엑스1+)(엑스2+)=00=0 .
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.