高速发展的移动通信技术使得人们追求高传输速率和高可靠性的通信系统,而多输入多输出(MIMO, Multiple-Input Multiple-Output)技术通过收发端设置多根天线,在保证系统可靠传输的情况下大幅度地提高通信系统的信道容量和频带利用率。空间调制(SM, Spatial Modulation)技术作为一个很有潜力的新颖的多天线传输方案,吸引了业界学者的广泛注意。本文以此为背景,针对空间调制的最优最大似然(ML, Maximum Likelihood)检测算法的计算开销较高的问题,着重研究了低复杂度的SM检测算法,主要工作如下：首先,本文针对SM系统,通过计算机模拟仿真对ML检测、最大比合并(MRC,Maximum-Ratio Combining)检测、改进的最大比合并(MMRC, Modified MRC)检测、多段(MS, Multiple-stage)检测、基于距离排序(DBD, Distance-based ordered)检测等常用的SM检测算法的性能进行比较研究,同时得到了一些重要的推论,为以后的学术研究打下了良好的基础。其次,本文根据二进制二次规划的全局最优条件,针对采用QPSK星座调制的SM信号,提出了一种新的最优的ML简化算法。新算法在保证最优检测性能的情况下,明显降低了传统ML算法的计算复杂度,尤其在大天线空间调制系统中具有更广泛的应用价值。最后,本文从传统ML算法的优化准则出发,针对任意星座调制的SM信号,改进了MMRC算法检测激活天线序号的可靠性准则,提出了一种新的低复杂度次优检测算法。性能仿真与复杂度分析表明：新算法的可靠性准则检测天线序号的性能优于MMRC准则与DBD准则,而且计算复杂度较低。