随着高速数据传输逐渐成为社会生活的基本需求,第五代移动通信系统(简称5G)的研发成为了全球的焦点。为了支持5G标准下高速数据传输率,大范围的频谱带宽是必不可少的。然而,大带宽调制信号经过射频功率放大器后会产生显著的频谱扩散,将会在接收机端对接收信号造成严重干扰。传统带外失真抑制方案已经难以满足这种大带宽调制信号的传输需求,亟需提出新的方案。针对这一问题,本文提出了几种适用于大带宽调制信号的新型带外失真模型,不但针对接收机端的失真分量进行抵消,而且针对发射机端,联合带外失真抑制和带内数字预失真模型,完成了全频段的线性化。针对接收机端,首先,利用双带建模的思想以及分解矢量旋转模型的优点,提出了一种减小系统处理带宽以及降低系统复杂度的带外失真抑制模型,并讨论了模型在抑制带宽及频点上的可控性,成功实现了15dB带外失真抑制。接着,进一步对模型进行改进,提升模型精度,完成了50dB抑制幅度,满足了高精度带外失真抑制的场景需求。最后,针对系统对于不同失真幅度的抑制要求,提出了一种具有抑制幅度可控性的带外失真抑制方案,灵活使用硬件资源。针对发射机端,提出一种针对超大调制带宽的非连续双载波聚合信号的带内数字预失真模型。并结合带内数字预失真算法以及带外失真建模,提出一种带内与带外联合抑制的线性化方案。该方案继承了带内数字预失真技术的优势,同时又去除了传统方法需要借助射频滤波器抵消带外失真的限制,完成了全频段线性化。实验结果表明,带内与带外的相邻信道功率比均优于-50 dBc,归一化均方误差达到了-39.4 dB,显示了良好的效果。综上,本文针对面向5G宽带功率放大器的带外失真抑制进行研究,提出了三种应用于接收机端的带外失真抑制模型。并且,将此模型应用于发射机端,结合带内数字预失真技术,解决了大调制带宽场景下的全频段线性化问题,具有广阔的应用前景。