다중 출력 회귀 분석을위한 신경망

34 개의 입력 열과 8 개의 출력 열이 포함 된 데이터 세트가 있습니다.

문제를 해결하는 한 가지 방법은 34 개의 입력을 가져 와서 각 출력 열에 대해 개별 회귀 모델을 작성하는 것입니다.

이 문제를 신경망을 사용하는 하나의 모델로만 해결할 수 있는지 궁금합니다.

Multilayer Perceptron을 사용했지만 선형 회귀와 같은 여러 모델이 필요합니다. Sequence to Sequence가 실행 가능한 옵션 일 수 있습니까?

TensorFlow를 사용하고 있습니다. 코드가 있지만 다층 퍼셉트론 이론에서 누락 된 것을 이해하는 것이 더 중요하다고 생각합니다.

MLP에서 하나의 출력 노드가 있으면 하나의 출력을 제공한다는 것을 이해합니다. 출력 노드가 10 개인 경우 멀티 클래스 문제입니다. 10 개의 출력 중 확률이 가장 높은 클래스를 선택합니다. 그러나 제 경우에는 동일한 입력에 대해 8 개의 출력이있을 것입니다.

입력 세트에 대해 무언가 (X, Y, Z)의 3D 좌표를 얻을 수 있습니다. 마찬가지로 입력 = {1,10,5,7} 출력 = {1,2,1}입니다. 따라서 동일한 입력 {1,10,5,7}에 대해 X 값 Y 값 및 Z에 대한 모델을 만들어야합니다. 한 가지 솔루션은 MLP를 사용하여 3 가지 모델을 갖는 것입니다. 그러나 하나의 모델을 가질 수 있는지 알고 싶습니다. 그래서 seq2seq 사용에 대해 생각했습니다. 인코더는 일련의 입력을 받고 디코더는 일련의 출력을 제공하기 때문입니다. 그러나 tensorflow의 seq2seq가 부동 소수점 값을 처리 할 수없는 것 같습니다. 그래도 나는 틀릴 수 있습니다.

당신이 묘사하는 것은 정상적인 다차원 선형 회귀입니다. 이러한 유형의 문제는 일반적으로 피드 포워드 네트워크 (MLP 또는 문제의 성격에 맞는 다른 아키텍처)로 해결됩니다.

모든 신경망 프레임 워크는 이와 같은 작업을 수행 할 수 있습니다.

그렇게하는 열쇠는 마지막 레이어에 선형 활성화 (즉, 활성화가 전혀 없음)가 있어야한다는 것을 기억하는 것입니다.

요구 사항에 따라 입력 레이어의 모양은 벡터 (34) 및 출력 (8,)입니다.

업데이트 : 회귀 문제에 사용되는 일반적인 손실 함수는 평균 제곱 오차 (MSE)입니다. 다음 은 Keras를 사용한 다차원 회귀의 예입니다 . 네트워크는 MLP가 아니지만 아이디어를 설명하려면 괜찮을 것입니다.

이것을 파이썬에서 매우 간단하게 구현할 수 있습니다.
X는 훈련 x, y, z 좌표의 모음입니다.
Y는 테스트 x, y, z 좌표의 모음입니다.

from sklearn import cross_validation                     
from sklearn.neural_network import MLPRegressor   

model = MLPRegressor(solver='lbfgs',alpha=0.001,hidden_layer_sizes=(150,))
cross_validation.cross_val_score(model, X, Y,scoring='mean_squared_error')

생각보다 훨씬 쉽습니다. 출력 레이어를 단일 스칼라 대신 벡터로 설정할 수 있습니다. 물론 여기에는 마법이 없으며 데이터를 준비하는 것이 좋습니다 (배치 정규화를 수행하므로 모든 출력은 0과 1 사이의 값이됩니다).

Keras를 사용하는 경우이를 수행하는 방법은 최종 출력 레이어로 고밀도 레이어를 추가하는 것입니다. model.add(Dense(8, activation='linear'))