近年来,随着移动终端的普及,无线通信已经步入了大数据时代。日益减少的频谱资源难以满足用户飞速增长的通信带宽需求。为了解决频谱资源耗尽问题,基于可见光的拍赫兹通信已经受到研究者的广泛关注。在可见光通信中,成像通信是一种新型的通信方式。基于广泛使用的阵列光源屏幕与集成在电子设备中的图像传感器,MIMO成像通信链路可以轻易搭建起来。但成像通信中也引入了一系列技术难点。结合深度学习,本文主要研究了稀疏光源MIMO成像通信与密集光源MIMO成像通信中的关键通信技术,并设计相应通信系统验证通信性能。首先,本文详细分析与介绍了成像通信的收发端特性,阐明了成像通信的优势与面临的技术难点。分析了影响成像通信系统通信性能的因素,主要包括:采样频偏与混帧、透视失真、空间串扰、颜色串扰和非线性等。同时介绍了深度学习的相关理论,为后续关键通信技术讨论奠定了基础。对稀疏光源MIMO成像通信,其发送端光源稀疏排列。为了进一步增加成像通信系统的信息传输能力,联合颜色强度域上的颜色强度调制(Color intensity modulation,CIM)以及空间域中的MIMO调制,设计和构建多维高阶联合调制CIM-MIMO成像通信系统。针对图像传感器帧率不稳定带来的采样频偏与混帧问题,结合奈奎斯特采样定理及外加辅助光源的方式设计了两倍过采样的同步算法。针对透视失真,设计了基于霍夫圆检测和透视失真矫正的ROI检测算法。为了减轻颜色串扰与非线性影响,我们将解调问题转化为分类问题,设计了基于深度学习的解调算法。通过离线实验验证,当通信距离为0.6m时,系统误码率为4.79 × 10-5,低于FEC门限。当发送端采用刷新速率为60fps和大小为16× 16的LED稀疏光源阵列屏,接收端采用录制帧率为120fps的手机图像传感器时,系统通信速率可达70.56Kb/s,单帧信息量为1.176Kb。对密集光源MIMO成像通信,其发送端光源密集排列。增加调制块数量是进一步提高通信速率最为有效的方式。但随着调制块大小的减小,信号检测与解调难度增大。相较于信号强度,图像传感器对不同的图案模式更为敏感,本文设计了一种基于颜色模式的调制方式(Color Pattern Modulation,CPM)。在信号检测中,结合全卷积网络设计了一种高精度的调制块检测算法,并通过基于ESRGAN网络的图像超分辨算法进行信号增强。在信号解调过程中,通过结合通道注意力机制提高了卷积神经网络的解调性能。最后,设计和实现了相应的通信系统。当发送端采用分辨率为1920×1080的智能手机LCD屏幕,通信距离为17.5cm时,系统误码率为1.17 × 10-4,系统通信速率可达124.4Kb/帧,达到了国际先进水平。