基于流形学习的半监督学习及其相关应用

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:sgqeye
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
半监督学习一直是机器学习与计算机视觉中重要且富有挑战的研究课题。传统方法在给定样本的特征与标签后,通过不同的训练策略学习从特征空间到标签空间的映射关系,最终获得优化后的决策函数。然而在实际应用中,由于安全或成本问题,很多时候我们只能获取部分有标记样本或某一类样本的部分标记。半监督学习目的是寻找如何能有效地利用少量有标记样本与大量未标记样本参与训练,使得最终的决策函数性能可以接近甚至达到全标记的效果。根据未标记样本分布,半监督学习大致可分为两种:(i)每一类中都存在大量无标记样本与少量的有标记样本,针对这种样本分布的学习方法称为经典半监督学习。(ii)样本中仅存在少量正类(负类)样本与大量无标记样本,这种分布样本的学习称之为正样本无标签学习。本文首先介绍了研究背景、领域的发展历史及主流方法,随后针对经典半监督学习与正样本无标签学习的样本分布特点,创新性地提出了两种鲁棒性较高的算法。大量的对比实验结果证明本文提出的方法在多个真实测试集上的表现均优于现有最好方法。最后本文针对实际工业中遇到的问题,结合半监督学习与深度学习,提出了一种全新的利用深度网络预测信号传播的实现方案。本文的主要研究内容和创新点如下总结如下:1.传统的半监督学习致力于如何有效地利用大量的未标记样本来提升训练效果,然而由于其标签信息的缺失,未标记样本的分布通常是不准确的。同时,之前的工作很少有提出如何更有效利用少量有标记样本的研究。本文借鉴人类认知的学习过程,在仅引入少量标记成本的条件下,为有标记样本提供“特权信息”以指导特征空间的决策函数,而在验证过程中仅使用常规特征进行预测。本文提出的方法仅在引入少量的附加标记成本下,使得预测精度比已有的半监督方法提升明显。2.传统的正样本无标签学习由于模型结构的限制,无法处理大规模数据。本文将正样本无标签学习与深度学习相结合,设计了一种可处理大规模数据,且端到端的训练方法可以将提取特征与训练分类器结合到一起。同时提出了一种新的损失函数“MNRE”,可以结合目前现有的正样本无标签学习的损失函数和流形正则项共同训练网络,使得最终的网络结果不仅考虑到样本在统计意义上的分布,还兼顾样本间的结构信息。该方法在多个大型数据集上与现有的最好方法相比有明显提升。3.目前的半监督学习仅适用于图像或文本场景,并没有信号传播的相关应用研究。本文结合实际项目应用,设计了一种适用于预测信号传播的半监督深度网络“SSig-Net”。SSig-Net可以同时输入有标记与无标记样本进行训练,从而提升模型的跨场景预测能力。同时本文针对信号的传播特性,将传统的滑动平移卷积修改为放射式卷积,使得卷积层的操作更符合信号传播的规律。大量的实际对比实验证明了该方法适合于信号传播模型且对预测精度的提升有着很大帮助。
其他文献
9月19日,中央企业党委书记培训班在学院开学,国资委副主任金阳同志出席开班仪式并作动员讲话。国资委企干二局局长姜志刚、党建局局长刘汉滨等领导出席了开班仪式。开班仪式由
机器学习与数据挖掘是研究从数据中提取知识的理论和技术,目前这些理论与技术在世界主要经济领域中日益得到广泛应用。分类模型是机器学习和数据挖掘最重要的研究内容之一。在
随着电子商务的发展和Agent技术的使用,交易者之间的自动协商成为电子商务需要解决的主要问题之一.本文介绍了连续双边谈判模型中Agent所使用的议价策略,该策略使用启发式规
基于RFID技术的资产管理,是对重要资产对象标注RFID标签使其成为管理对象,并将目标数据入库(数据库),使其成为可以识别的目标,并在不同的管理单元和监控点部署目标识别和数据
研究了优化超声提取白菊花多糖的工艺。以白菊花多糖含量为考察指标,利用响应面法确定白菊花多糖的最佳超声提取条件。超声提取的最佳工艺为:提取温度81℃,液料比26mL/g,时间48min
造纸过程中排出的白水中含有纤维、填料等物质,直接排放不仅会造成纤维和水资源的浪费、增加生产成本,还会污染水资源、破坏环境。多圆盘过滤机作为白水回收设备,因具有结构紧凑、占地面积少、无需添加化学品、不会对水造成“二次污染”、维护方便等优点,近年来得到广泛应用。然而,国产多圆盘过滤机存在白水回收效率低、自动化程度低等缺点,制约其推广应用。本文在陕西省科技统筹创新工程计划项目(2016KTCQ01-35
欢迎读者朋友来到“寒假快乐岛”。大家要成功闯过智慧想象、考眼力、迷宫、动动手等关隘之后,快乐才能属于你!闯关之前,先来3分钟放松。     hspace="15" vspace="5" align="">
2007年发生的“次债危机”使得金融危机产生,并向实体经济领域蔓延。近几年来世界经济形势继续恶化,美国贸易保护主义冒头,阻碍世界经济一体化发展。严重的经济衰退使商业银行的贸易融资业务大规模的萎缩。同时,我国商业银行的贸易融资业务刚刚兴起几十年,在很多方面还不够成熟,许多都是借鉴国外的商业银行,所以随着外国商业银行的入驻我国,在贸易融资产品的创新和贸易融资业务的后续管理方面都处于不利地位。本文对XX