作为当前以及未来通信系统的重要技术手段,协作通信能够有效的提升系统的数据传输性能。而且未来的通信系统将是包含海量节点的异构超密集网络,这也为协作通信提供了非常理想的条件和平台。由于协作通信与网络性能之间存在折中关系,所以不同的通信系统都具有特定的最优协作方案和最优的协作程度。在实际通信系统中,由于协作传输与系统性能还受到非理想电路的影响,所以如何在考虑非理想电路的基础上建立最优的协作方案并确定协作程度对于数据传输至关重要。本文主要研究不同协作通信网络的能效优化理论,提出能效最优的传输方案,详细研究成果总结如下:(1)从器件级协作的角度,考虑非理想电路情况,在满足数据速率约束的条件下,通过激活天线子阵列、天线单元的发射功率和系统传输时间的联合优化,提出混合大规模多天线系统能效最优的协作传输策略和资源分配方案。通过仿真表明,相比于传统的资源分配方案,特别在低数据速率传输情况下,所提出的方案能够取得接近一倍的显著能效增益。并且在非理想电路下,相比于持续传输方案,突发传输模式对于数据流的传输具有更好的系统能效性能;(2)从单节点协作的角度,考虑物理层网络编码和全双工联合传输方案,在非理想电路条件下研究具有数据速率约束的双向单中继系统的能效最优化问题。通过建立最优发射功率和传输时间之间的关系式,将非凸域的优化难题转换为等价的线性域凸优化问题,在保证收敛性和全局最优性的条件下求解能效优化问题,得出时隙-功率联合的最优分配算法。仿真结果显示,相比于单一的优化策略,所提出的方案够取得更好的系统能效性能,特别是在高数据速率传输情况下,系统能效性能增益能够达到二倍以上;(3)从多节点协作的角度,针对具有不同需求的混合多业务突发传输场景,在双向多中继系统中建立包含子载波配对、中继选择和速率分配的能效最优化模型,推导出映射双向注水方案最大化系统的能效性能,提出最优的混合多业务资源分配方案。数值仿真结果显示所提出的方案不仅能收敛获得最优的系统能效性能,还能适用于不同组网场景的数据传输。本文先后从器件级协作、单节点协作和多节点协作的角度,研究了大规模协作多天线系统、全双工/半双工双向中继系统的能效最优化问题。针对不同的通信系统,通过优化协作建立策略、发射功率和系统传输时间等得到能效最优的资源分配方案,为实际协作网络的能效组网提供重要的理论参考。