基于注意力机制的推荐算法研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:docsecurity02
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的蓬勃发展和大数据时代的到来,各行各业迎来了信息化的革新,人们的生活也因此得到了极大的便利。现如今,储存在各类网站中的数据量呈爆炸式增长,但如何在海量的信息中寻找到需要的那部分却成为了困扰用户的一大问题。因此,推荐系统作为一种有效的信息过滤手段应运而生。近年来,推荐系统受到了广泛研究,其中基于图神经网络的推荐模型是近年的研究热点,但现有的模型仍存在着一些不足之处。首先,现有的基于图神经网络的推荐模型在信息传递的过程中往往直接将所有邻居的信息进行传递,而没有筛选出对当前节点更为重要的信息,进而导致学习得到的用户和物品嵌入向量不能够很好的表达用户兴趣和物品属性。其次,在会话推荐中,现有的模型通常把一个物品看作一个整体处理,没有对特征粒度的深度信息进行挖掘和建模;同时,现有的会话推荐模型往往只在单一的空间内使用注意力机制,导致对会话序列建模不充分。本文开展了深入的研究工作,提出了相应的新的推荐模型以解决以上提到的不足,并在相关的真实数据集上进行了实验以验证本文所提出推荐模型的有效性。本文的主要研究工作如下:1.调研图神经网络、卷积神经网络、注意力机制等相关领域科研文献,深入研究了现有的推荐模型,分析并总结了现有研究中存在的问题与待改进之处。2.为了解决现有的基于图神经网络的推荐模型中的信息传递算法通常把当前用户或物品的所有邻居同等对待,而没有筛选出其中更加重要的信息进行传递的问题,本文提出了一种新的基于图注意力的信息传递算法——GAMP。GAMP算法使用注意力机制对当前用户或物品的邻居进行区别对待,关注于对当前任务更为重要的信息,从而更好地学习用户和物品的嵌入向量表示。3.基于图神经网络与GAMP算法,提出了一种新的基于图注意力的深度推荐模型——GADN。该模型通过显式地对高阶用户-物品关系进行建模,使用GAMP算法学习了用户和物品的高阶嵌入向量表示,从而有效地对用户的偏好信息和物品的属性信息进行建模,进而提高了模型的推荐准确率。4.针对现有研究中对会话深度特征学习能力不足的问题,将卷积神经网络引入至会话推荐中,提出了横纵卷积模块。通过将用户最近点击的物品嵌入序列拼接成为矩阵的方式,使用横向卷积核与纵向卷积核分别捕获会话中相邻物品间的深度特征与特征粒度的物品与物品间关系的深度特征,从而增强了模型的表达能力。并进一步结合门控图神经网络与多头注意力机制,提出了一种多头注意力卷积图神经网络会话推荐模型——MACG,提高了会话推荐的推荐准确率。5.本文提出的推荐模型与多种先进的推荐模型在多个公开数据集上进行了对比实验并对实验结果加以分析,验证了本文提出的推荐模型的有效性。
其他文献
2002年,匈牙利数学家A.Csaszar引入了广义拓扑空间的概念,对广义拓扑空间中的点集性质、子空间性质等做了研究,并在这个拓扑空间中取得了无数成果。广义拓扑实际上是一个半拓扑。因此,2015年胡西超等人将广义拓扑重新命名为上半拓扑,进而也引入下半拓扑的概念并且得到了关于下半拓扑空间中的一些基本结果。此后,不少研究者积极投入,将拓扑再重新剖分成左半拓扑和右半拓扑,并得到这两类半拓扑上的一系列结果
文字图像生成是一种跨模态的交叉性任务,文本描述的逐词含义和图像子区域语义信息之间的内容关联性与一致性,是此任务关注的核心问题。生成对抗网络在图像生成领域的成功使得文本图像生成模型有了新的驱动力,从不同角度进行技术革新的文本图像生成模型层出不穷。文本图像生成主要围绕三大技术问题:语义理解、图像生成和语义一致性。本文以这三大问题为方向,探究现如今基于生成对抗网络的文本图像生成模型的优势与不足之处,分别
数学应用题(MWP)的自动求解问题一直是机器智能研究领域的难点和重点,早在二十世纪六十年代就有学者投身该领域的研究,近年来机器学习的快速发展,大量研究人员通过新技术来解决数学应用题。解决该问题需要涉及多方面的技术,需要把人类语言描述的题目转换为机器可读懂得句子,机器可以通过这些信息进行计算推理得到正确答案。是自然语言理解和自动推理相结合的综合性问题。本文选择了一种先分类再解题的方法来解决数学应用题
随着互联网的快速发展,人们越来越难以在各类信息海洋中快速定位自已所需要的信息,为了帮助用户能更快捷方便的从海量信息中找到自己所需求的信息,推荐系统已经成为关键的一部分了。为用户进行个性化推荐一直是推荐系统研究的热点,但是当面对一个刚进入系统的用户时,系统没有该用户的任何数据,即为“冷启动用户”,此时推荐系统不能进行个性化推荐。用跨域推荐来缓解冷启动问题是目前的研究热点,这一方法为解决冷启动提供了新
近年来,越来越多的学者们致力于非线性偏微分方程解的研究,获得了许多相关问题的重要结果.特别地,解的存在性和不存在性作为研究解的各项性质的重要基础,引起了学者们的广泛关注.随着对非线性偏微分方程的深入研究,分数阶偏微分方程在实际应用和理论分析中的重要性与日俱增.本文研究三类非线性偏微分方程解的存在性和不存在性.首先,在三维空间的情形下,研究一类非线性广义Boussinesq方程局部弱解的存在性.基于
在脑肿瘤临床诊疗过程中,由于医疗资源的稀缺与诊断效率的低下,迫切需要高精度的医学图像分割工具进行辅助诊疗。随着深度学习与神经网络技术的快速发展,使用卷积神经网络来进行脑肿瘤图像分割已经成为当下的主流,但是其对于脑肿瘤信息的利用并不充分,导致精度与效率并不完善。基于此,本文围绕着如何充分利用脑肿瘤信息开展研究。具体而言,本文基于脑肿瘤数据来构建深度学习神经网络模型,用于脑肿瘤图像分割任务,主要工作如
随着计算机计算能力的增强,高维时间序列预测在各领域中的应用也随之更加广泛。宏观经济数据预测是最具重要意义的方向之一。宏观经济数据的许多重要变量,如失业率、消费者物价指数等,影响着每个人的生产生活,也影响着国家稳定和社会发展。同时,宏观经济预测可以为政府、银行和工业部门提供有价值的信息,帮助制定相应的政策。例如,经济萧条的相关预测可以为政府部门制定宽松的财政政策提供合理指导意见。因此,宏观经济变量的
随着光纤技术的发展,光子晶体光纤被提出来,因其具有比传统光纤更优异的光学特性及设计灵活特点,其被广泛用于光纤通讯、光纤传感、非线性光学、高功率激光传输和光纤激光器等领域。负曲率反共振空芯光纤(negative curvature anti-resonance hollow core fibers,NC-AR-HCFs)属于空芯光纤的一种,由于大部分光功率在空气芯中传播,可以利用低非线性、高损伤阈值
在当今的物联网应用中,物联网的功耗高问题始终制约着大规模应用的长期部署,终端设备的处理器模块和无线通信模块是主要耗能部分,达到了毫瓦级别。对于通信模块,低功耗的被动通信方式——反向散射通信给功耗问题带来了新的解决思路,但其通信距离短,大大限制了应用范围。LoRa反向散射通信系统利用了LoRa信号chirp扩频调制技术增大了反向散射的通信距离,但是其系统需要处理器模块进行信号处理与控制,功耗仍居高不
合作现象在社会和生物系统中普遍存在,理解合作的演化动力学可以为克服社会困境和优化多智能体系统提供洞见。演化博弈理论为个体之间的策略动态交互提供了一个强有力的理论框架,一直吸引着生物学、数学、社会科学以及计算机科学领域的研究人员的关注。经典演化博弈主要研究博弈环境不变的演化情况,近年来,研究者们越来越关注博弈环境发生变化的情况。在已有的研究中,往往只考虑了单轮博弈的情况,博弈环境决定个体决策的改变,