自组织网络(Self-Organizing Network,SON)是伴随长期演进系统(Long Term Evolution,LTE)发展而引出的一套完整的网络规范,其设计理念是实现无线网络的自主功能,包括自配置、自优化和自愈合等主要方面,适用于当前的超密集异构网络部署场景。在当前的超密集异构网络环境下,日益增长的数据流量需求和逐渐复杂的网络部署结构,给网络的性能优化带来了巨大的挑战。网络超密集异构部署导致越区切换频繁、异构小区切换失败率高;业务动态范围大导致切换参数配置需要动态调整,网络参数与切换性能的关系急需理论分析与策略优化。同时,超密集异构网络还面临着移动数据流量的爆炸性增长、海量的终端设备连接以及频谱资源濒临匮乏等问题,设备间通信的流程机制有很大的改进空间。因此,针对上述问题,本文在超密集异构的网络部署背景下,结合自组织网络的设计思想,开展了如下研究工作:针对超密集异构网络部署场景,研究了异构网络移动性管理策略。首先针对切换过程中的无线资源控制协议、无线链路监测、测量上报、切换执行等关键策略进行了讨论。此外,还对异构网络理论分析中广泛应用的随机几何理论进行了研究,重要分析了泊松点过程、随机路点模型等重要工具的原理和应用,为后续的工作奠定了基础。针对超密集异构网络下跨层切换失败概率高这一瓶颈问题,提出了一种基于随机几何统计分析结果的切换参数自优化策略。以基于随机几何的切换参数闭式解为指导,对跨层切换过程中的失败概率、乒乓概率进行预测,通过设置阈值的形式,实现切换的预判决。然后,在传统切换判决策略的基础上,综合考虑接收信号强度、驻留时间、基站负载等多方面因素对切换性能的影响,结合模糊综合分析法,计算切换参数的权重。最后以参数权重为输入,采用灰色关联度分析法,计算候选基站与最优基站之间的关联程度,选择关联度最高的网关进行切换。仿真表明,本文提出的切换策略,从降低切换失败概率、降低乒乓概率、提升数据速率三方面,大大提升了切换的性能。在超密集异构网络的设备间通信技术方面,本文以优化终端直通(Device to Device,D2D)的发现流程、实现高效节能的发现过程增强为目标,提出了 D2D发现资源的自配置策略。针对当前流程中配置发现请求的监听、发送资源池时没有考虑潜在的关联关系、发现过程漫长且耗能较高的问题,结合实际的D2D通信场景,基于历史连接信息对网络与用户设备(User Equipment,UE)间的发现流程进行了优化。首先,通过授权过程中的字段和信令添加,以改进的信任关系列表(Advanced Trust Relationship List)趔进行了 Relay UE、Remote UE历史连接次数的记录。经过基站处理,得到Relay UE和Remote UE的优先级列表。在发现过程中,通过基站预先按照优先级列表,为当前的发现过程进行资源池分配,实现了发现资源的自配置。仿真结果表明,本文提出的发现资源自配置策略能够有效降低系统能耗,提升发现效率。综上所述,本文针对超密集异构网络中跨层切换和设备间通信发现等重要流程,进行了自优化、自配置的策略设计。通过问题研究、模型建立、流程设计和仿真分析证明,所提策略可获得理论上的性能增益。