铁路无线通信系统作为车地通信信号的传输载体,是列车运行控制系统的关键组成部分,是保障列车行车安全的重要基础设施,也是未来建设智能化、信息化铁路的核心装备。GSM-R是目前全球铁路行业中应用最广泛的铁路无线通信系统,投入运行至今已超30年时间。然而,受制于其窄带通信技术特性,GSM-R难以满足未来高速铁路系统针对高冗余度数据的可靠传输、实时多媒体视频监控等业务的要求。因此,国际铁路联盟(UIC)提出发展基于LTE-R的下一代高速铁路无线通信系统。相较于GSM-R,LTE-R基于长期演进技术,具备高带宽、低时延和高速率等优点,但同时更加开放的空中接口,全IP化、扁平化的网络结构使LTE-R容易面临数据窃听、篡改、假冒欺骗、DoS攻击等安全风险。攻击者可以利用系统和协议的弱点,非法接入LTE-R网络,实现对列控、调度信息等机密数据的监听、篡改等操作,危害行车安全。因此,如何实现对接入车载单元(OBU)的身份认证以及空口数据/信令的机密性和完整性保护,满足LTE-R系统接入安全需求以及车地认证的实时性要求成为了相关领域的研究热点。此外,秉承LTE宽带通信技术所具备的优势,LTE-R除了能够满足列车安全运行的基本通信需求之外,还具备向车载旅客提供移动通信和网络服务的能力,然而,高速铁路环境下移动通信面临着大规模乘客群体瞬时接入网络以及频繁的越区切换引起的信令拥塞等问题,严重影响用户的通信服务体验。因此,研究设计LTE-R网络下,面向乘客用户的群体接入以及切换认证算法成为了当前又一热点方向。本文对基于LTE-R的安全、高效车地认证机制展开研究,主要包含以下内容:(1)回顾与研究相关的数论基础和密码学知识,包括数论基础中群、域、椭圆曲线和双线性对及相关的数学困难问题,密码学中的消息认证码、数字签名技术。然后,介绍了密码算法和协议安全性分析的一系列方法,包括可证明安全和自动化协议分析工具ProVerif。此外,简单介绍了LTE的网络结构以及EPS-AKA协议。(2)针对LTE-R网络无线接入过程潜在的一系列安全隐患,提出一种基于混合密码体制的安全车地通信认证密钥协商方案。方案共包含初始认证、重认证和切换认证三个协议,能够实现对接入车载单元的身份隐私保护以及车地通信的双向身份鉴权,同时,还能有效防范DoS攻击、重放攻击、重定向攻击及中间人攻击。然后,利用ProVerif对提出的协议进行了安全性验证,并与同类协议进行了效率比较,结果表明:所提方案能满足预期安全目标,并且在计算和通信效率上较同类协议更具优势,能够确保LTE-R网络接入安全以及满足车地信令交互的的实时、高效性要求。(3)针对高速铁路环境下移动通信面临大规模乘客群体瞬时接入网络以及频繁的越区切换引起的信令拥塞等问题。提出将中继服务器(MRN)引入到LTE-R网络,并基于该网络结构设计面向乘客用户的无证书聚合签名群体认证方案。方案包含初始接入认证和切换认证两个协议,得益于MRN的引入以及无证书聚合签名批量验证的高效性,所提方案能够解决上述问题,实现大规模用户对LTE-R网络的快速接入认证以及高效的切换认证。此外,在随机预言机模型下,证明了所构造的无证书聚合签名算法具备不可伪造性。同时,利用ProVerif对方案进行了安全性分析和验证,结果表明所提方案在相互认证、密钥安全及抵抗各类攻击等方面都具备良好表现。最后,与目前3GPP标准认证协议和其他同类方案相比,提出的方案在计算效率和信令开销方面具备明显优势。