NPA: Neural News Recommendation with Personalized Attention

Chuhan Wu, Fangzhao Wu, Mingxiao An, Jianqiang Huang, Yongfeng Huang, Xing Xie

Tsinghua University, Microsoft Research Asia, USTC, Peking University

http://cn.arxiv.org/pdf/1907.05559v1

新闻推荐非常重要，这有助于用户找到感兴趣的新闻，避免信息过载。不同的用户通常兴趣不同，即使同一个用户，兴趣也具有多样性。因此，不同的用户可能会点击同一篇文章，但是他们的注意力可能分布在不同的方面。

这篇文章，提出一种基于个性化注意力（NPA）的神经新闻推荐模型。该方法的核心在于新闻表示模型和用户表示模型。在新闻表示模型中，作者们利用卷积神经网络基于标题来学习新闻文章的隐含表示。

在用户表示模型中，基于他们点击的新闻文章来学习用户的隐含表示。由于不同的单词和不同的新闻文章在表示新闻和用户时所隐含的信息可能不同，作者们提出利用单词级别的和新闻级别的注意力机制来使得模型注意到重要单词和新闻文章。

此外，同样的新闻和同样的单词对于不同的用户带来的信息是不同的。因此，作者们提出一种个性化注意力网络，该网络利用用户id的embedding来生成单词和新闻级别的注意力query向量。

作者们在MSN新闻中收集的真实新闻推荐数据集上进行了大量实验，结果表明了作者们所提方法在新闻推荐中的有效性。

对于同一个新闻，不同用户关心的点可能不同，比如

NPA模型结构图示如下

其中新闻编码有三个组成部分，第一部分为词嵌入

第二部分为卷积神经网络

第三部分是个性化注意力网络

个性化注意力模块结构图示如下

用户编码简介如下

最终点击预估方式如下