多层感知器训练时间中利用重尾现象:UCI甲状腺疾病数据库案例研究

摘要:多层感知机的权重的随机初始化使得我们可以将其训练过程模拟成一种拉斯维加斯算法,即一个随机化算法,在达到某个所需的训练误差时停止,其执行时间是一个随机变量。我们利用这种模拟方法对一个众所周知的模式识别基准数据集进行了案例研究:UCI甲状腺疾病数据库。通过实证证据显示,训练时间的概率分布呈现出重尾现象,即长时间执行的概率质量很大。利用这个事实,我们采用了两种简单的重新启动策略来减少训练时间成本。第一种策略假设完全了解分布,相对于没有重新启动的训练,期望时间减少了40%。第二种策略假设没有任何知识,减少的范围为9%至23%。

作者:Manuel Cebrian and Ivan Cantador

论文ID:0704.2725

分类:Neural and Evolutionary Computing

分类简称:cs.NE

提交时间:2011-11-09

PDF 下载: 英文版 中文版pdf翻译中