全球范围内,运用大数据推动经济发展使得数据特征维数呈几何式增加,众多领域数据的特性促使特征选择成为解决维数灾难、提高算法泛化能力的有效手段之一。同时多种类别数据的特征以组结构形式存在,基于传统方法对系数添加组结构惩罚项来实现特征选择的方法日益成熟。该文针对组Lasso(Least Absolute Shrinkage and Selection Operator)回归模型一组内所有变量同时选择或舍弃的局限性,对重叠组Lasso与分层组Lasso进行研究。首先,考虑到特征间相互重叠的问题,引入了重叠组Lasso逻辑回归模型,根据重叠系数分解机制,将组内重叠变量分解为潜在变量,以形成新的特征向量,采用组坐标下降法求解模型参数,通过仿真实验与疾病特征基因选择实验,验证重叠组Lasso较组Lasso的优越性。其次,针对组Lasso罚向量自回归模型中特征共用时滞的缺陷,引入分层组Lasso滑动平均向量自回归模型,以达到实现系数分层稀疏的同时,捕捉时间序列特征误差项在不同时期的依存关系。并通过两段式估计以及邻近梯度下降法求解参数,通过对流层散射通信传输电平预测与脑电信号特征分类实验,证明该模型在预测和特征选择方面有一定优势,且特征更稀疏。最后,为解决加入外生变量的向量自回归模型参数空间二次增长的问题,设计了基于内外生变量的分层组Lasso罚向量自回归模型。该模型采用邻近梯度下降法求解参数,有效地刻画特征间关系,内外生变量学习不同时滞,缩减参数维度。通过大气污染物预测与脑电信号特征选择实验,证明该模型在高维时间序列的预测上可获得更低的归一化均方误差值以及更易识别多通道脑电信号特征。