条件概率密度的神经贝叶斯估计器
摘要:用神经网络和贝叶斯解释网络输出作为后验概率的方法,描述一种估计条件概率密度f(t|x)的鲁棒算法。网络使用历史事件或模拟事件进行训练,定义了基础概率密度f(t,x)。训练完成后,网络可以在新的未知示例x上预测目标变量t的概率分布。事件级别的平滑函数f(t|x)的知识在最大似然拟合或预测任务中非常有用。对分布不需要任何假设,并且自动处理非高斯分布的尾部。从中可以轻松地推导出中位数、均值、左右标准差、矩和任何t的函数的期望值等重要量。 该算法可以看作是逐事件展开,可实现统计上最佳的重建。该方法的最大优点在于处理复杂问题时,测量值x与输出t之间的相关性相对较弱。为确保最佳的泛化特性并避免过度拟合,网络通过扩展版本的权重衰减进行正则化。正则化参数是通过贝叶斯统计得到的关系在网络的在线学习过程中确定的。 一些玩具蒙特卡洛测试和高能物理学和计量经济学的初步应用示例也进行了讨论。
作者:Michael Feindt (University of Karlsruhe)
论文ID:physics/0402093
分类:Data Analysis, Statistics and Probability
分类简称:physics.data-an
提交时间:2007-05-23