一切的开始
多分类学习
将二分类学习方法推广到多分类。
一对一策略 OvO
给定数据集 $D = { (x_1, y_1), (x_2, y_2), …,(x_m, y_m)}$，其中 $y_i \in { C_1, C_2, …, C_N }$ 即有N个分类结果；
将这N个类别两两配对，从而产生 $C_N ^2 = \frac{N(N-1)}{2}$ 个二分类任务。对于每一个二分类任务，使用 $C_i$ 和 $C_j$ 训练一个分类器，该分类器把 $D$ 中的 $C_i$ 类样例作为正例，$C_j$ 作为反例；
测试时测试所有训练好的 $\frac{N(N-1)}{2}$ 个分类器，最终把产生的最多的类别作为分类结果。
一对其余策略 OvR
每次只选择一个类作为正例，其余的作为反例，一共训练 $N$ 个分类器；
在测试时若仅有一个分类器预测为正类，则对应的类别标记作为最终分类结果。