随着互联网的飞速发展,网络中产生了大量短文本,这些短文本涉及的内容与领域多元化,逐渐成为使用频繁且公认的沟通方式。电子商务评论、信息检索、智能问答系统均是海量短文本的产生源,如何从中挖掘有效信息,是近年来广泛研究的课题。文本分类是文本挖掘的有效方法,由于短文本长度短、词语特征稀疏等特点,导致长文本分类方法不再适用。国内外学者针对短文本分类问题进行了大量的研究与探索,主要采用的方法大致可分为两类:1)基于外部语料库、知识库特征扩展的方法,此类方法复杂耗时,在特征扩展过程中容易引入噪音,造成分类效果提升有限。2)基于神经网络的方法,此类方法采用一种随机初始化词向量或预训练词向量作为输入,文本长度短,特征不充分。本文分别针对上述两类方法的不足,开展以下两方面的研究工作:第一,针对短文本词语特征稀疏,使用外部语料进行特征扩展引入噪音的问题,提出一种基于主题模型的短文本分类算法,该方法无需外部语料。首先,在双词主题模型的基础上提出快速双词主题模型,将迭代中单次采样复杂度由O(K)降低到O(1),且给出单个词语对应主题的求解算法;然后,使用快速双词主题模型对短文本建模,将文本中一小段滑动窗口内的两个同主题词语组成词对特征;最后,用主题分布作为另一部分特征,将词语、同主题词对、主题分布特征结合后进行分类。在Weibo数据集上的结果表明基于快速双词主题模型的特征扩展与分类算法可有效提升短文本分类的准确率,召回率和F1值。第二,针对短文本词语特征稀疏,提出一种结合卷积神经网络与随机森林的短文本分类算法(CNN-RF)。首先,使用不同方式预训练两组词向量,分别作为两个卷积-池化层的输入,得到两个池化层特征图;然后,对两个池化层特征图进行卷积操作得到第二层卷积特征图;最后,模型训练过程分为两个阶段:1)Softmax预训练:将Softmax分类器接入到第二层卷积特征图,训练并保存模型参数;2)随机森林训练:保持预训练阶段模型参数不变,将分类器改为随机森林,使用第二层卷积特征训练随机森林,增强模型的泛化能力。在三个公开数据集上的结果表明,CNN-RF可有效提升短文本分类的准确率,召回率和F1值。