Supervised   Learning

 

신경망 (Neural Network) 에서 학습기가 분류 (classification) 하려는 대상이 자갈과 모래라는 것을 미리 알고서 훈련예 (training example) 로서 학습시켜 어떤 대상이 자갈에 속하는지 모래에 속하는지를 분류하는 것이 지도학습 (supervised learning)이다. 반면에 분류하려는 대상에 대한 어떤 정보도 주어지지 않고 학습기로 하여금 그것이 자갈인지 또는 모래인지 또는 그 밖의 어떤 것인지를 분류하는 것이 자율학습 (unsupervised learning) 이다 (패턴인식 (Pattern Recognition)에서의 분류는 학습 (Learning) 과 같은 의미이다) ....................... (홍대식 1998)

지도학습 (supervised learning) 은 훈련 데이터로부터 함수를 만들어내는 기계 학습 (Machine Learning) 기술이다. 훈련 데이터는 입력 대상 (전형적으로 벡터)의 쌍과 원하는 출력으로 구성된다. 함수의 출력은 연속값 (소위 regression) 일 수 있고 또는 입력 대상의 분류명 (소위 classification) 을 예상할 수도 있다. 지도학습기 (supervised learner) 의 일은 단지 소수의 훈련예 (즉  입력쌍과 목표 출력) 들만을 보고서 유효한 입력대상을 위한 함수의 값을 예측하는 것이다. 이를 위해서 learner 는 이성적인 (reasonable) 방법으로 현재의 데이터로부터 보이지 않는 상황까지 일반화해야 한다. 지도학습의 주어진 문제 (예를들면 필기체 문자를 인식하도록 학습하는 것) 를 해결하기 위해서는 다음의 step 들을 고려하여야 한다.

  1. 훈련예들의 유형 (type) 을 결정한다. 다른 것을 하기전에 엔지니어는 예로서 사용되는 데이터가 어떤 종류의 데이터 인지를 결정해야 한다. 예를들면, 이것이 단 하나의 필기체 문자인지, 전체 필기체 단어인지, 전체 필기체 문장인지 와 같은 것이다.
  2. 훈련 집합을 모은다. 훈련집합은 함수가 실세계에서의 특징을 보일 필요가 있다. 그래서 전문가에 의해서든 측정을 해서 얻어지든, 입력대상 집합이 모아지고 동등한 출력이 모아져야 한다.
  3. 학습함수 (learned function) 의 입력 특징 (feature) 표현 을 결정한다. 학습함수의 정확성은 입력대상이 어떻게 표현되느냐에 크게 좌우된다. 보통 입력대상은 feature vector 로 바뀌고, 대상을 묘사하는 특징적인 수를 포함한다. Feature 의 갯수는 차원의 한계 (curse of dimensionality) 때문에 너무 커서는 안되지만, 출력을 정확히 예상할 수 있을 정도로는 충분히 커야 한다.
  4. 학습함수의 구조와 동등한 학습 알고리즘을 결정한다. 예를들면 엔지니어는 신경망 (Neural Network) 을 사용할건지, 의사결정 트리 (Decision Tree) 를 사용할 것인지를 선택할 수 있다.
  5. 설계를 완성한다. 그리고 나서 모아진 훈련집합 상에서 훈련 알고리즘을 작동시킨다. 학습알고리즘 의 인수 (parameter) 들은 subset (소위 validation set) 에서의 성능을 최적화 함으로써, 또는 cross-validation 을 통해 조정될 수 있다. Parameter 조정과 학습 후에, 알고리즘의 성능은 훈련집합에서 분리된 test set 상에서 측정될 수 있다. ....... (Wikipedia : supervised learning)

example :

역전파 (Back-propagation)

베이즈 추론 (Bayesian Inference)

사례기반 추론 (Case Based Reasoning)

의사결정 트리 (Decision Tree)

나이브 베이즈 분류 (Naive Bayesian Classification)

Support Vector Machine 

계산학습이론 (Computational Learning Theory)

버전공간 (Version Space)

term :

신경망 (Neural Network)   지도학습 (Supervised Learning)   자율학습 (Unsupervised Learning)   신경망 (Neural Network)   패턴인식 (Pattern Recognition)   기계 학습 (Machine Learning)