设备到设备(D2D)通信因为其短距离直接通信可以降低时延等优势已经成为未来5G关键技术之一。然而,大量的D2D用户通过与蜂窝用户共享资源进行通信时,使用同频段的用户之间会造成严重的干扰,因此,当蜂窝网络中引入密集D2D用户时,其干扰协调是一个值得研究的重点问题。另外,在通信质量不佳的环境中通过引入空闲的蜂窝用户作为中继协助通信也是当前D2D技术研究的热点之一。在本文中以蜂窝与D2D混合网络作为研究对象,主要研究了密集场景下和中继协助下的D2D通信干扰协调问题。本论文主要工作包括:针对密集场景下D2D通信所带来的严重同频干扰问题,本文给出了一种基于分组的资源分配方案和基于自适应粒子群算法的功率控制,来提高系统吞吐量和D2D用户的接入量。在资源分配方面,基于距离选取分组中心,在通过干扰值来确定每个D2D的分组,最后,通过信干噪比最大原则为每个分组确定复用的蜂窝用户的资源。在功率控制方面,提出一种自适应粒子群算法,确保蜂窝用户和D2D用户的服务质量同时,降低每条链路用户之间的干扰。通过仿真结果表明,本文所提的算法能保证93%以上的D2D用户接入到蜂窝网络中,对比随机算法系统频谱效率提升了一倍多。针对将中继技术引入D2D通信所带来的干扰问题,本文提出了一种联合中继选择、功率控制与资源分配的D2D干扰协调方案。首先通过对系统目标函数的分析将其等价为功率控制、中继选择与资源分配的两阶段优化问题。在功率控制问题上,将原有的子问题转换为线性分数规划问题,通过Dinkelbach算法得到最优发射功率。在中继选择与资源分配的问题上将其转化为图论中最佳匹配问题,采用了KM算法得出其最优匹配。通过仿真结果表明,在D2D之间最大距离为70m时,采用本文所提的中继协助算法对比无中继算法系统吞吐量提高了31%。