大规模多输入多输出(MIMO，Multiple Input Multiple Output)系统的基站端配置有数量巨大的低功率天线，天线数目远超过同时调度的单天线用户终端的数量，基站和用户之间通过时分双工(TDD，Time Division Duplex)方式进行通信。与传统的MIMO技术相比，大规模MIMO能够获得空前的频谱利用率和能量效率提升。在大规模MIMO多小区系统中，随着基站端天线数目的不断增大，快衰落、热噪声及小区内用户间的干扰可以忽略不计，由不同小区中用户的导频复用带来的小区间干扰（导频污染）成为了限制系统性能的主要因素。本文研究大规模MIMO系统中的多用户传输技术。　　首先，本文研究大规模MIMO多小区多用户TDD系统中的上行导频污染问题，推导出当基站天线数趋向无穷大时，系统下行链路的等效信干噪比性能，由此得到一个仅与大尺度衰落因子有关的系统可达速率的渐近结果。基于此渐近结果，以最大化系统可达和速率为目标，提出了三种低复杂度的导频调度方案，即使得小区间相互干扰较小的用户采用相同的导频，而相互干扰较大的用户采用正交的导频，从而减小导频污染的影响，提升系统的整体性能。仿真结果表明，本文提出的三种导频调度算法能够在有效减小导频污染的影响。　　接着，本文研究空间相关性信道模型下大规模MIMO多小区系统中的导频复用问题，从空间域的角度区分位于同一时频资源块上的用户。利用统计的二阶信道协方差信息，推导出了一种多小区多用户系统的下行遍历可达速率的表达式。进而，分析不同小区中的用户复用同一导频训练序列时，进行无速率损失的数据传输的信道条件，并提出了一种基于信道空间正交性的贪婪的多小区导频调度方案。仿真结果表明，满足空间正交性条件的用户，可以在完全消除导频污染的情况下复用同一导频序列。　　最后，本文研究单小区大规模MIMO系统中的天线选择技术。分析了一个简单的单小区两用户系统中独立同分布信道模型下的基站端天线选择技术，给出了一个递减和递增的次优天线选择算法来验证天线选择的可行性和优势。在此基础上，进一步研究在空间相关性信道模型中，利用统计的二阶协方差矩阵信息，进行基站端天线选择和用户调度的技术，并提出了递增和递减的联合天线选择与用户调度算法。仿真表明，在大规模MIMO系统中，使用所有的天线阵列是没有必要且成本巨大的，合适的天线选择和用户调度算法能够在减小硬件实现成本和复杂度的同时，有效提升系统性能。