신경망이 예측을 그렇게 좋게 만드는 것은 무엇입니까?


12

나는 신경망을 처음 접했고 신경망이 분류 문제에 그렇게 좋은 이유를 수학적으로 이해하려고합니다.

작은 신경망의 예를 들자면 (예를 들어, 입력 2 개, 숨겨진 레이어에 2 개 노드, 출력에 2 개 노드), 선형 조합을 통해 대부분 시그 모이 드 출력에 복잡한 기능 만 있으면됩니다 S 자형의.

그렇다면 어떻게 예측을 잘할 수 있습니까? 최종 함수가 일종의 커브 피팅으로 이어 집니까?

답변:


6

신경망은 분류에 능숙합니다. 어떤 상황에서는 예측으로 이어지지 만 반드시 그런 것은 아닙니다.

신경망이 분류에 능숙한 수학적 이유는 보편적 근사 정리 입니다. 신경망은 컴팩트 한 부분 집합에서 실제 실제 값 함수와 비슷할 수 있다고 말합니다. 근사치의 품질은 뉴런의 수에 따라 다릅니다. 또한 뉴런을 기존 레이어에 추가하는 대신 추가 레이어에 뉴런을 추가하면 근사화 품질이 더 빨라집니다.

여기에 역 전파 알고리즘 의 잘 알려지지 않은 효과 가 추가되면 설정을 통해 실제로 UAT가 약속 한 기능이나 가까운 것을 배울 수 있습니다.


0

신경망에서 우리는 모든 것을 고차원으로 고려하고 작은 변화로 분류하는 초평면을 찾습니다.

아마도 그것이 작동한다는 것을 입증하기는 어렵지만 직감에 따르면 분류 할 수 있다면 편안한 비행기를 추가하고 데이터 사이를 이동하여 지역 최적을 찾을 수 있습니다 ...


0

신경망을 사용하면 단순히 데이터를 분류 할 수 있습니다. 올바르게 분류하면 나중에 분류 할 수 있습니다.

작동 원리

Perceptron과 같은 간단한 신경망 은 데이터를 분류하기 위해 하나의 결정 경계를 그릴 수 있습니다 .

예를 들어 간단한 신경망으로 간단한 AND 문제를 해결한다고 가정합니다. x1과 x2를 포함하는 4 개의 샘플 데이터와 w1과 w2를 포함하는 가중치 벡터가 있습니다. 초기 가중치 벡터가 [0 0]이라고 가정하십시오. NN 알고리즘에 따라 계산 한 경우. 마지막에는 가중치 벡터 [1 1] 또는 이와 유사한 것이 있어야합니다.

여기에 이미지 설명을 입력하십시오

그래픽에 집중하십시오.

입력 값을 두 개의 클래스 (0과 1)로 분류 할 수 있습니다. 확인. 그러면 어떻게해야합니까? 너무 간단합니다. 첫 번째 합계 입력 값 (x1 및 x2).

0 + 0 = 0

0 + 1 = 1

1 + 0 = 1

1 + 1 = 2

그것은 말한다 :

sum <1.5이면 클래스는 0입니다

sum> 1.5이면 클래스는 1입니다.


0

신경망은 다양한 작업에서 뛰어나지 만, 왜 정확한지 이해하려면 분류와 같은 특정 작업을보다 쉽게 ​​수행하고 더 깊이 잠수 할 수 있습니다.

간단히 말해서 기계 학습 기술은 과거 예제에 따라 특정 입력이 속하는 클래스를 예측하는 함수를 학습합니다. 신경망을 차별화하는 것은 데이터의 복잡한 패턴까지도 설명 할 수있는 이러한 함수를 구성 할 수있는 능력입니다. 신경망의 핵심은 Relu와 같은 활성화 기능으로 다음과 같은 몇 가지 기본 분류 경계를 그릴 수 있습니다.Relu의 분류 경계 예

신경망은 수백 개의 이러한 Relus를 함께 구성함으로써 다음과 같이 임의로 복잡한 분류 경계를 만들 수 있습니다.여기에 이미지 설명을 입력하십시오

무슨 일이 신경 네트워크 작업을하게 뒤에이 글에서 필자는 직관을 설명하려고 : https://medium.com/machine-intelligence-report/how-do-neural-networks-work-57d1ab5337ce

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.