无线信道的衰落对数据传输有着巨大的影响,多输入多输出(Multiple Input Multiple Output,MIMO)技术能够提供可观的分集增益,获得更高的数据传输速率,提高系统性能,从而成为一项热点技术,学术界和工业界对此进行了大量的研究和开发。然而,MIMO技术要求配备多天线,相比较于基站等大型设备,移动终端对尺寸、能耗和成本等方面有着严格的约束,因此MIMO技术在移动终端的应用有着一定的局限性。在此背景下,选取中继节点参与数据传输的协作通信技术受到了广泛关注。协作通信可以在一定空间范围内,利用空闲节点作为中继节点转发数据,形成虚拟天线阵列(Virtual Antenna Array,VAA),从而在不配备多天线的情况下获取分集增益。另外,中继节点转发将数据传输分为两个阶段,可以有效的缩短传输距离,从而降低信号衰减。采取协作通信,选取中继节点转发数据可以有效提升系统性能,但与此同时,因为中继节点参与通信,传统的发送节点到接收节点的两点传输模式,变成了发送节点对中继节点、中继节点对接收节点的多点传输模式,使得传输更加复杂、冲突概率加剧、干扰范围扩大,从而也会降低系统性能,甚至使得协作通信的优势无法发挥。因此,如何在协作通信中高效调度数据传输、选取中继节点、采取适当的传输策略显得尤为重要,这就需要设计一系列全新的适用于协作的中继节点选取算法和传输机制。本文针对协作通信的特点和中继网络的结构,详细研究了协作通信中的数据传输调度问题,设计了一种最优中继节点选取算法的协作(Media Access Control,MAC)机制,改进了网络性能理论分析模型,提出了基于拍卖理论的中继节点分配算法、提出了博弈理论下的协作传输策略以及利用中继节点采取概率网络编码(Network Coding,NC)的协作通信重传机制,为协作通信中的中继节点选取和协作传输机制中的数据传输策略提供了新的有效解决途径。本文创新性工作为:首先,本文通过分析无线网络中的传输出错导致丢包对网络性能的影响,利用中继节点转发数据带来的信噪比增益,从而降低出错概率。在此基础上,提出了一种最优的中继节点选取算法,考虑中继节点能带来的传输速率提升和出错概率下降,选取最优的中继节点参与协作通信。另外,为了有效调度数据传输,选取最优中继节点,设计了一种适用于协作通信的MAC协议。最后,改进了经典的网络饱和吞吐量理论分析模型,用于分析协作通信中的网络性能。通过仿真实验,证明了该方法的有效性以及分析模型的正确性。在多跳无线网络中,中继节点参与通信会明显扩大数据传输的干扰范围。这种情况下,协作通信一方面可以利用分集增益,提高发送节点到接收节点的信干噪比(Single-Interference-Noise-Ratio,SINR)。另一方面,因为中继节点转发数据可能会干扰其他的数据传输,从而降低其他节点的SINR而不利于网络性能。为了综合考虑中继节点带来的增益和干扰,合理分配协作资源,提出了基于拍卖理论的中继节点分配模型。该模型中,将中继节点传输数据带来的增益和干扰分别定义为价值(Value)和成本(Cost),只有价值大于成本时,才会进行拍卖,从而保证了采取协作通信是有益的。考虑集中式和分布式不同网络结构的特点,分别设计了集中式和分布式中继节点分配算法。集中式算法通过中心节点采取最大权重匹配一次性完成中继节点分配;分布式算法通过多轮拍卖进行中继节点分配,每一轮分配一个中继节点。通过仿真实验,证明了该方法综合考虑了协作带来的增益和干扰,能有效的分配中继节点,提升网络性能。另外,在多跳网络中,中继节点还会带来额外的竞争。一方面,采取协作通信会提高传输速率,但同时可能导致多条业务流选取同一个中继节点,从而产生竞争降低传输效率。因此,引入了博弈理论,分析建立了采取不同传输策略下各个业务流的收益函数,根据纳什均衡定义,证明了纳什均衡的存在并推导了纳什均衡解。在此基础上,提出了一种基于纳什均衡的协作传输策略,考虑不同传输策略的互相影响,最大化各个业务流的收益,同时有效避免不必要的竞争。通过仿真实验,验证了基于纳什均衡的协作传输策略的有效性,提升了网络性能。在无线网络中,接收方因为传输出错而无法成功接收数据包,需要发送方重传。现有的自动重传机制(Automatic Repeat Request,ARQ),一次最多只能恢复一个数据包。然而,因为无线传输的广播特性,接收方无法成功接受的数据包有可能被其他节点可以成功接收,这意味着除了发送节点,其他节点也可以帮助重传数据包。另外,现有研究表明,采取网络编码技术,可以一次传输融合了多个数据包的编码包。受此启发,选取合适的节点作为中继节点,采取网络编码发送编码包,可以一次传输并恢复多个数据包,从而提高重传效率,提升网络性能。因此,提出了一种中继节点采取概率网络编码的协作通信重传机制,为了合理激励节点采取网络编码帮助其他节点恢复数据,采取Stackelberg博弈,建立了以数据传输成功概率为目标的收益函数,证明了Stackelberg均衡的存在性和唯一性。通过仿真实验,验证了提出的方法可以有效激励中继、采取最优概率进行网络编码重传数据包,提升网络性能。