???? ?? (Decision Tree)

1
???? ?? (Decision Tree)

• ???? ??
• A method for approximating discrete-valued target
  functions.
• Search a completely expressive hypothesis space
• Disjunction of conjunctions of constraints on the
  attribute values of instances
• ?? ??? ?? ? ??? ? ?? ??? ??? ?
• ????(entropy), ?? ??(information gain)
• ??? ??
• ?? ???? ??(error)? ?? ??
• ?? ??(attribute) ?? ?? ???? ?? ??

2

• ?? ??? ??

3

• ??? ?? ?? (ID3? ??)

4

• ????

5

• ?? ?? (Information Gain)
• ?? A? ?? ??? ??(partitioning)????, ???? ????? ???
• ?? A? ?? ???? ???? ????? ??

6

• ?? ?

7
(No Transcript)
8
(No Transcript)
9
?? ?? (Inductive Bias)
ID3 C-E
?? ?? ?? ?? ?? ?? ?? ??? ?? ??? ?? ??? ??? ??? ?? ??? ???
?? ?? ?? ?? ?? ?? ?? ?? ??