MIMO检测是MIMO技术中的关键研究领域之一,是接收机正确接收信号的重要环节。现有的检测算法不能在检测性能与算法复杂度之间进行较好的折中与自适应。本论文研究基于置信度传播(BP)的MIMO检测算法,讨论了MIMO信道和VBLAST结构的因子图模型,提出了六种低复杂度高性能的检测算法,并能在复杂度和性能之间进行折中,同时具有渐近最优性。另外,本论文也针对提出的BP检测算法,利用统计物理和信息几何学中的有关工具,从优化模型的角度讨论了BP算法与ML算法的关联,探讨了其内在机制。最后,本论文还针对LDPC编码的MIMO系统,设计了基于BP的联合译码与检测算法。首先,本论文对MIMO信道和VBLAST结构建立了因子图模型和成对的马尔卡夫随机域模型,讨论了其图模型属于完全图的特点。然后分别针对两种图模型,探讨了相应的标准BP检测算法,说明了算法中的消息设计和消息更新准则,给出了其性能仿真结果。其中,基于成对的马尔卡夫随机域模型的标准BP算法具有较低的复杂度,但检测性能仅能与线性检测器相当。而采用对数似然比设计的基于因子图的标准BP算法,能近似达到最优的检测性能,但其复杂度比ML算法还较高,不具有工程实用性。然后,本论文针对基于因子图的标准BP检测算法,分析了对因子图模型中的边进行筛选的思路,提出了基于单边和部分边的BP-MIMO检测算法,并且针对部分边的情况,分析了采用固定边数和由信道条件动态决定边数两个情况。仿真结果表明,本文提出的基于边选择的BP算法,能以低复杂度达到较高的检测性能,同时具有渐近最优性,能在复杂度与性能之间进行自适应。为了进一步增强BP-MIMO算法的性能,还提出了采用线性检测器来对BP算法中的消息进行初始化的方案。对提出的所有算法,还进行了复杂度和收敛性的分析与比较。其中,收敛性以平均互信息量为指标,其仿真结果验证了本文提出的算法对信息处理的近似无损性。再者,本论文对基于BP的检测算法进行了理论分析,利用了统计物理中的Bethe自由能和信息几何学中的有关工具,从优化模型的角度讨论了BP算法与ML算法的关联。BP算法的不动点与Bethe自由能最小点具有一致性,基于这个结果,我们对ML算法设计了条件优化模型,并用Bethe自由能作为中介,分析了BP算法的优化模型和ML算法的条件优化模型的内在联系。分析结果表明,BP算法的拉格朗日函数和ML算法的拉格朗日函数的伪对偶函数具有一致性。最后,本论文针对采用LDPC编码的MIMO系统,考虑了基于BP的联合译码与检测问题。首先对LDPC编码的VBLAST (?)结构建立了图模型,然后提出了联合译码与检测中的软信息设计与传递准则。仿真结果表明,提出的联合译码与检测算法相比传统的译码和检测方案,具有更优异的性能。