大边界分类方法中的一致性函数应用
摘要:支持向量机( SVM)由于使用hinge loss函数而自然地表现出稀疏性。然而,SVM无法直接估计条件类别概率。本文中,我们提出并研究了一类连续可微的凸函数作为hinge函数的模拟函数。这个连续函数是通过使用最大熵原理推导得到的,并由一个温度参数进行表征。它在逻辑回归中桥接了hinge函数和logit函数。温度为零时的连续函数趋于hinge函数,而其期望误差极小化的极限是hinge损失的期望误差的极小化值。我们将在大边界分类中使用这种连续函数称为C-learning,并提出了用于训练正则化C-learning模型的高效坐标下降算法。
作者:Zhihua Zhang, Guang Dai and Michael I. Jordan
论文ID:1204.2049
分类:Machine Learning
分类简称:stat.ML
提交时间:2012-04-11