Coursera에서 기계 학습 스탠포드 코스를하고 있습니다.
로지스틱 회귀에 관한 장에서 비용 함수는 다음과 같습니다.
비용 함수의 미분을 얻으려고했지만 완전히 다른 것을 얻었습니다.
파생 상품은 어떻게 얻습니까?
중개 단계는 무엇입니까?
Coursera에서 기계 학습 스탠포드 코스를하고 있습니다.
로지스틱 회귀에 관한 장에서 비용 함수는 다음과 같습니다.
비용 함수의 미분을 얻으려고했지만 완전히 다른 것을 얻었습니다.
파생 상품은 어떻게 얻습니까?
중개 단계는 무엇입니까?
답변:
Andrew Ng의 Coursera Machine Learning 과정 페이지에서 학생들이 제공 한 메모 외부에서 사용할 수없는 (이 파생 내용 포함) 과정 노트에서 적응했습니다 .
다음에서 위첨자 개별 측정 또는 훈련 "예"를 나타냅니다.
S 자형 함수의 미분은
이 답변에 대한 크레딧은 Antoni Parellada의 의견에서 나옵니다.이 페이지에서 더 눈에 띄는 곳이 될 것이라고 생각합니다 (다른 답변이 많지 않을 때 도움이되었으므로). 또한 이것은 완전한 파생이 아니라 에 대한 명확한 진술입니다 . (전체 파생에 대해서는 다른 답변을 참조하십시오).
어디에
또한 대한 의 기울기를 계산하려는 사람들을위한 Python 구현입니다 .
import numpy
def sig(z):
return 1/(1+np.e**-(z))
def compute_grad(X, y, w):
"""
Compute gradient of cross entropy function with sigmoidal probabilities
Args:
X (numpy.ndarray): examples. Individuals in rows, features in columns
y (numpy.ndarray): labels. Vector corresponding to rows in X
w (numpy.ndarray): weight vector
Returns:
numpy.ndarray
"""
m = X.shape[0]
Z = w.dot(X.T)
A = sig(Z)
return (-1/ m) * (X.T * (A - y)).sum(axis=1)
미적분학에 능숙하지는 않지만 비용 함수를 조정하고 파생 상품을 계산하는 방법을 찾아야하는 사람들에게는 미적분 재 학습 단축 법이 자동으로 제공되는이 온라인 도구입니다 규칙의 단계별 설명과 함께 파생.