MMBAttn: 最大均值与逐位注意力在CTR预测中的应用
摘要:使用基于注意力的方法来提高CTR预测中特征重要性的估计。通过使用最大池化和平均池化操作以及比特注意机制,我们提出了一种增强CTR预测中特征重要性估计的方法。传统上,最大池化和平均池化等池化操作被广泛用于从特征中提取相关信息。然而,这些操作可能会导致信息丢失,阻碍准确确定特征重要性。为了解决这个挑战,我们提出了一种利用比特注意结构强调特征中所有比特之间关系的新型注意架构,以及最大和平均池化。通过考虑比特级别的细粒度交互作用,我们的方法旨在捕捉传统池化操作可能忽视的复杂模式和依赖关系。为了验证所提出方法的有效性,我们对三个公共数据集进行了实验。实验结果表明,所提出的方法显著提高了基准模型的性能,达到了最先进的结果。
作者:Hasan Saribas, Cagri Yesil, Serdarcan Dilbaz, Halit Orenbas
论文ID:2308.13187
分类:Information Retrieval
分类简称:cs.IR
提交时间:2023-08-28