개의 문자로 표현된 패턴들이 클래스 
에 속하는 패턴 집합으로 분할된다. 클래스 
에서의 모집단은 
이다. 각 패턴은 
개의 변수를 가지며, 각 변수는 
개의 값들을 가진다. (여기서는 단순화 시켜서, 모든 변수들이 
개의 값들을 가지는 것으로 한다). 효율적인 decision tree 를 생성하기 위한
ID3 방법은 다음과 같은 단계를 거친다.ID3 (Interactive Dichotomizer 3)
ID3 : 이재규 외 : ID3 는 Ross Quinlan 이 개발한 학습방법으로서 어떤 개념에 관한 예와 반례로써 훈련집합 (Training Set) 이 주어졌을 때 이로부터 개념을 구별할 수 있는 의사결정 트리 (Decision Tree) 형태의 분류규칙을 생성시킨다. 여기서 분류하고자 하는 개념들을 클래스 (Class) 라 하고, 이 클래스에 관한 예는 해당 클래스를 한정된 수의 특성 (Property, Attribute) 으로써 묘사된다 .....
ID3 approach : Yoh-Han Pao : 패턴인식과 분류에 대한 ID3 접근은 비수치 속성이나 변수값 (nonnumeric attributes or feature values) 을 가지는 패턴들을 분류하기 위한 효율적인 식별 트리 (discrimination tree) 를 생성하기 위한 과정이다. 식별 트리는 규칙들을 모아놓은 (a body of rules) 형태로서 표현될 수 있기 때문에, ID3 는 기계학습이나 규칙획득을 위한 귀납추론으로 생각되기도 한다 ....
일반적인 경우, 개의 문자로 표현된 패턴들이 클래스 에 속하는 패턴 집합으로 분할된다. 클래스 에서의 모집단은 이다. 각 패턴은 개의 변수를 가지며, 각 변수는 개의 값들을 가진다. (여기서는 단순화 시켜서, 모든 변수들이 개의 값들을 가지는 것으로 한다). 효율적인 decision tree 를 생성하기 위한
ID3 방법은 다음과 같은 단계를 거친다.
Step 1. 엔트로피의 초기값을 계산한다. ...
Step 2. decision tree 의 root node 가 될 변수를 선택한다. ....
Step 3. decision tree 의 다음 level 을 만든다. .....
Step 4. Step 1에서 3 까지 반복한다. ....