o******1
发帖数: 1046 | 1 对于multi-class classification，一般有两种解决方案，即one-versus-all(ova)和
one-versus-one(ovo)。前者比较好理解，后者在training阶段有点搞不清楚。
举个简单的例子，有三种class/label，red, blue, green。分别有100，50和150个
sample各自属于red，blue和green。那在做red versus blue的training的时候，那150
个green labeled samples如何处理呢？是直接扔掉，还是随机地分配给red/blue呢？
谢谢！ |
s******y
发帖数: 8 | |
o******1
发帖数: 1046 | 3 多谢多谢！
【在 s******y 的大作中提到】
: 每次training只取两组结果，其余的都不要
|
E**********e
发帖数: 1736 | 4 为是么不直接multiple class regression?
：对于multi-class classification，一般有两种解决方案，即one-versus-all(ova)和
：one-versus-one(ovo)。前者比较好理解，后者在training阶段有点搞不清楚。 |
o******1
发帖数: 1046 | 5 用在svm上的。multi-class classification法对于svm好像很难formulate出被优化的
objective function。其实linear regression也很难做multi-class，一般只有纯
logistic regression才用它吧。
)和
【在 E**********e 的大作中提到】
: 为是么不直接multiple class regression?
:
: ：对于multi-class classification，一般有两种解决方案，即one-versus-all(ova)和
: ：one-versus-one(ovo)。前者比较好理解，后者在training阶段有点搞不清楚。
|
E**********e
发帖数: 1736 | 6 现成的package也包含multiple class SVM啊
：用在svm上的。multi-class classification法对于svm好像很难formulate出被优化的
：objective function。其实linear regression也很难做multi-class，一般只有纯 |
o******1
发帖数: 1046 | 7 我猜那些package只是能用svm来解多class问题，但是背后的算法还是基于：2-class +
ovo(or ova, or dagsvm, etc)。
有抛弃2-class，直接multi-class的svm吗？
化的
【在 E**********e 的大作中提到】
: 现成的package也包含multiple class SVM啊
:
: ：用在svm上的。multi-class classification法对于svm好像很难formulate出被优化的
: ：objective function。其实linear regression也很难做multi-class，一般只有纯
|
d******e
发帖数: 7844 | 8 goolge "multiclass hinge loss"或者“multiclass SVM”至少能搜到四五种
multiclass的hinge loss的variant
【在 o******1 的大作中提到】
: 用在svm上的。multi-class classification法对于svm好像很难formulate出被优化的
: objective function。其实linear regression也很难做multi-class，一般只有纯
: logistic regression才用它吧。
:
: )和
|
o******1
发帖数: 1046 | 9 多谢多谢！
我又搜了一下，的确有一些基于k-class的单一的objective function方法，比如
Vapnik, Weston & Watkins, Bredensteiner and Bennett。
有一篇16年的文章，比较了各种multi-class svm方法http://www.jmlr.org/papers/volume17/11-229/11-229.pdf。结论是建议把ova和 Weston & Watkins SVM作为default的两种方法。如果考虑计算时间，就用ova；否则WW svm很不错。
【在 d******e 的大作中提到】
: goolge "multiclass hinge loss"或者“multiclass SVM”至少能搜到四五种
: multiclass的hinge loss的variant
|
