多头自注意力在双曲空间下的点击率预测
在推荐系统中,了解用户行为背后的复杂功能交互,对预测用户点击广告或商品的概率至关重要.人们一直努力寻找稀疏和高维原始特征的低维表示形式及有意义的组合.其中深度交叉网络可以显式地在每一层进行特征交叉,但其"一视同仁"地对待所有交叉特征,未考虑不同特征对结果的影响,造成一些有用信息被消除.因此提出了多头自注意力神经网络在双曲空间下的点击率预测模型.在双曲空间下,模型不再使用内积而使用洛伦兹距离违背三角不等式程度来度量特征之间的相似性与相关性,从而避免了维度灾难.实验表明,就模型准确性而言,其在点击率预测数据集上均优于深度交叉网络.
双曲空间;多头自注意力;洛伦兹距离
44
TP181(自动化基础理论)
国家自然科学基金项目60572153,60972127
2021-11-24(万方平台首次上网日期,不代表论文的发表时间)
共6页
127-132