'학습 학습'과 '도메인 적응'간에 차이가 있습니까?
나는 컨텍스트에 대해 잘 모르지만, 우리는 일부 데이터 세트 1을 가지고 그것을 훈련하고, 그 후에 우리는 처음부터 다시 학습하지 않고 모델을 적응시키고 싶어하는 또 다른 데이터 세트 2를 가지고 있습니다. '도메인 적응'은이 문제를 해결하는 데 도움이됩니다.
Convolutional Neural Networks 분야에 따르면 :
'학습 학습'과 '도메인 적응'간에 차이가 있습니까?
나는 컨텍스트에 대해 잘 모르지만, 우리는 일부 데이터 세트 1을 가지고 그것을 훈련하고, 그 후에 우리는 처음부터 다시 학습하지 않고 모델을 적응시키고 싶어하는 또 다른 데이터 세트 2를 가지고 있습니다. '도메인 적응'은이 문제를 해결하는 데 도움이됩니다.
Convolutional Neural Networks 분야에 따르면 :
답변:
'학습 학습'과 '도메인 적응'의 차이점이 무엇인지에 대해서는 연구원들 사이에 약간의 의견 차이가있는 것 같습니다.
{0}부터 :
영역 적응 개념은 전이 학습과 밀접한 관련이 있습니다. 전이 학습은 다른 작업 또는 도메인과 관련된 기계 학습 문제의 클래스를 나타내는 일반적인 용어입니다. 문헌에는 전이 학습에 대한 표준 정의가 아직 없습니다. 일부 논문에서는 도메인 적응과 상호 교환이 가능합니다.
{1}에서 :
참고 문헌 :
{0} 리, 제나라. "문학 조사 : 자연어 처리를위한 도메인 적응 알고리즘" 컴퓨터 과학과 뉴욕 시립 대학교 대학원 센터 (2012) : 8-10. https://scholar.google.com/scholar?cluster=2828982016930721315&hl=ko&as_sdt=0,22 ; https://pdfs.semanticscholar.org/532e/3d5b1b5807771b77cac60fe8594b506fcff9.pdf ; http://nlp.cs.rpi.edu/paper/qisurvey.pdf ( 거울 )
{1} Pan, Sinno Jialin 및 Qiang Yang. "전학 학습에 대한 설문 조사." 지식과 데이터 공학에 관한 IEEE 거래 22, no. 10 (2010) : 1345-1359. https://scholar.google.com/scholar?cluster=17771403852323259019&hl=ko&as_sdt=0,22 ; http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.158.4126&rep=rep1&type=pdf ( 거울 ) (2.6k 인용)
Hal Daume의 기사 [1]에서 :
표준 분류 설정은 입력 분포 p (X) 및 레이블 분포 p (Y | X)입니다. 도메인 적응 : 훈련과 시험 사이에 p (X)가 변할 때. 전이 학습 : 훈련과 시험 사이에 p (Y | X)가 변할 때.
다시 말해 DA에서 입력 분포는 변하지 만 레이블은 동일하게 유지됩니다. TL에서 입력 분포는 동일하게 유지되지만 레이블은 변경됩니다.
전이 학습에 관한 문헌에는 여러 가지 용어 불일치가 있습니다. 전이 학습 및 도메인 적응과 같은 문구는 유사한 프로세스를 참조하는 데 사용됩니다. 도메인 적응은 목표 학습자의 성능을 향상시키기 위해 정보를 전송하는 수단에 대해 하나 이상의 소스 도메인을 적응시키는 프로세스이다. 도메인 적응 프로세스는 소스의 분배를 대상의 분배에 더 가깝게하기 위해 소스 도메인을 변경하려고 시도합니다. 도메인 적응 설정에서 소스 도메인과 대상 도메인은 서로 다른 한계 분포 p (X)를 갖습니다. Pan의 설문 조사에 따르면, Transfer Learning은 소스 및 대상 도메인의 조건부 분포 p (Y | X)에 차이가있는 경우도 포함 할 수있는 더 넓은 용어입니다. 대조적으로
"전송 학습"이 더 일반적인 용어이고 "도메인 적응"은 "전송 학습"의 시나리오라고 생각합니다.
[1] 도메인 적응을위한 양도 가능한 관심. http://ise.thss.tsinghua.edu.cn/~mlong/doc/transferable-attention-aaai19.pdf
[1]에 따르면, 도메인 적응은 NLP에서의 전이 학습입니다. "NLP 도메인에서의 전송 학습은 때때로 도메인 적응이라고도합니다."
[1] Pan, SJ 및 Q. Yang. "전이 학습에 관한 설문 조사."지식 및 데이터 공학에 관한 IEEE 거래 22, no. 10 (2010 년 10 월) : 1345–59. https://doi.org/10.1109/TKDE.2009.191 또는 https://www.cse.ust.hk/~qyang/Docs/2009/tkde_transfer_learning.pdf