SVM 알고리즘에서 왜 벡터 w가 분리 초평면과 직교 하는가?

저는 머신 러닝 초보자입니다. SVM에서 분리 초평면은 로 정의됩니다 . 왜 우리는 벡터를 말한다 분리 초평면 직교?$y = w^T x + b$$w$

기하학적으로, 벡터 w는 정의 된 선에 직교합니다 . 이것은 다음과 같이 이해 될 수 있습니다.$w^{T} x = b$

먼저 취하십시오 . 이제 갖는 소실 내부 곱을 갖는 모든 벡터 가이 방정식을 만족시키는 것이 명백하다 . 즉, w에 직교하는 모든 벡터는이 방정식을 만족시킨다.$b = 0$$x$$w$

이제 벡터 a를 통해 초평면을 원점에서 멀리 변환합니다. 평면에 대한 방정식은 이제 . 즉, 오프셋 에 대해, 벡터 가 벡터 에 투영 된 것을 알 수 있습니다.$(x − a)^{T} w = 0$$b = a^{T} w$$a$$w$

일반성을 잃지 않으면 서 우리는 평면에 수직을 선택할 수있다.이 경우 길이 는 가장 짧은 직교를 나타내는 길이 원점과 초평면 사이의 거리.$\vert\vert a \vert\vert = \vert b \vert /\vert\vert w\vert\vert$

따라서 벡터 는 분리 초평면과 직교한다고한다.$w$

이유 우리가 그런 식으로 그것을 정의하기 때문에 하이퍼면에 수직이다 :$w$

3D 공간에 (하이퍼) 평면이 있다고 가정합니다. 하자 즉,이 평면에 포인트가 P 0 = X 0 , y를 0 , Z 0 . 따라서 원점 ( 0 , 0 , 0 ) 에서이 점 까지의 벡터 는 단지 < x 0 , y 0 , z 0 > 입니다. 평면에 임의의 점 P ( x , y , z ) 가 있다고 가정하십시오 . P에 합류하는 벡터$P_0$$P_0 = x_0, y_0, z_0$$(0,0,0)$$<x_0,y_0,z_0>$$P (x,y,z)$$P$및 : 다음으로 주어진다 → P - → P 0 = < X - X 0 , Y - Y 0 , Z - Z 0 > 평면이 벡터에있는 것을 유의해야한다.$P_0$

$$\vec{P} - \vec{P_0} = <x-x_0, y-y_0, z-z_0>$$

이제하자 N 면에 수직 (직각) 벡터합니다. 따라서 : N ∙ ( → P - → P 0 ) = 0 따라서 : N ∙ → P - N ∙ → P 0 = 0 참고 - N ∙ → P 0은 단지 숫자와 같음 ㄴ 에 우리의 경우는, 반면 N 그냥 승 및 → P$\hat{n}$

$$\hat{n} \bullet (\vec{P}-\vec{P_0}) = 0$$ $$\hat{n} \bullet \vec{P}- \hat{n} \bullet \vec{P_0} = 0$$ $-\hat{n} \bullet \vec{P_0}$$b$$\hat{n}$$w$$\vec{P}$입니다 . 따라서 정의상 w 는 초평면과 직교합니다.$x$$w$

결정 경계를 $w^Tx + b = 0$ 으로 정의하십시오 . 결정 경계에 있는 점 $x_a$ 및 $x_b$ 고려하십시오 . 이것은 우리에게 두 가지 방정식을 제공합니다.

$$\begin{equation} w^Tx_a + b = 0 \\ w^Tx_b + b = 0 \end{equation}$$

$w^T.(x_a - x_b) = 0$$x_a - x_b$$x_b$$x_a$$w^T.(x_a - x_b)$$w^T$$x_a - x_b$

초평면과 직교하는 벡터의 대수적 정의 사용 :

$\forall \ x_1, x_2$

$$w^T(x_1-x_2)=(w^Tx_1 + b)-(w^Tx_2 + b)=0-0=0 \ \small\Box.$$