高光谱图像是新型的遥感数据,其良好的光谱诊断能力使得它非常适合对照自然背景发现人工目标。因此,高光谱图像目标检测成为目标识别领域的一个研究热点。而核机器学习能够通过核映射的形式使得众多的模式识别方法具有非线性数据处理能力,这对处理高光谱图像这类复杂数据具有非常重要的意义。本文在深入分析高光谱图像数据特点的基础上,通过对核函数方法理论的研究,针对高光谱图像目标检测中面临的高数据维、窗口分析方式、核方法的应用等问题,做了以下几方面的研究。在研究高光谱图像数据降维技术的基础上,基于空间变换的思想,提出一种快速核Fisher鉴别分析算法。该方法不仅解决了基于核方法的Fisher鉴别分析存在的奇异性问题,而且较大幅度地降低了求解最优鉴别矢量的计算量,提高了计算速度。在研究传统算法分析窗口方式的基础上,提出一种基于嵌套窗口分析的高光谱图像小目标检测算法。它通过三层窗口更好地突出目标信息而最大限度的抑制背景信息,并将这种方法应用与线性RX算法和非线性核特征向量空间分解算法之中,取得了良好的检测效果。通过对核函数方法的研究,提出一种基于核空间的约束能量最小化算法。该算法经由核函数将输入数据映射到特征空间,在特征空间内实行约束能量最小化算法,充分利用了核函数的非线性优势,更好地分离了目标与背景信息。