层状硫属化合物是一个体系庞大的家族，由于其独特的晶格和能带结构，表现出丰富的奇异物性，一直以来是凝聚态物理领域广泛研究的材料。当其硫族元素与不同族元素结合时，可以形成不同的晶格结构，从而衍生出不同的物理性质。其中，M2X3(M=Bi，Sb;X=Se，Te)是研究最为广泛的3D拓扑绝缘体材料。与传统绝缘体不同，拓扑绝缘体拥有绝缘的体态和受拓扑保护的金属表面态，表现出一些奇异的量子效应，如弱反局域化效应、量子自旋霍尔效应等等。除拓扑绝缘体外，金属也可以拥有拓扑性质，即拓扑半金属。其中，2D MX2(M=Pt，Pd;X=Se，Te)体系是最近新发现的第二类Dirac拓扑半金属材料。与第一类Dirac半金属不同，第二类Dirac半金属具有倾斜的Dirac锥，表现出奇异的物理性质，如沿特定方向的负磁阻效应、极大的电子迁移率等。除了3D和2D材料外，三硫属化合物MX3(M=Ti，Zr,Nb，Ta;X=S，Se，Te)体系表现出准1D的链状结构。由于其特殊的晶体结构，MX3在光吸收、迁移率和热电性质上都表现出明显的各向异性。以上材料拥有的奇特性质都使得层状硫属化合物在光电器件、传感器、量子计算等领域有着广阔的应用前景。　　压力作为一个基本的热力学参量，可以有效的调节物质的晶格常数和电子态。层状硫属化合物在高压下可以诱导出许多新奇的物理现象，如超导电性，电子拓扑相变及结构相变等。这些高压下的物性研究有助于进一步理解这个体系的奇异性质的物理起源。在此，利用高压电输运，高压同步辐射，高压拉曼，结合第一性原理计算等手段研究了几类典型的层状硫属化合物材料。本文一共分五章，具体内容如下:　　第一章、简要介绍了高压技术的发展历程，拓扑电子材料的相关基础概念以及MX3体系的高压研究进展;　　第二章、Sn掺杂的Bi1.1Sb1.9Te2S(Sn-BSTS)压力诱导拓扑绝缘体到金属转变和超导电性。由于表面态的Dirac点能级与体态的价带和导带完全分离，这使得拓扑绝缘体Sn-BSTS是一个研究拓扑表面态和体态电子本征性质的理想平台。结合高压输运，拉曼散射和同步辐射X射线衍射手段对单晶Sn-BSTS进行了系统的测试。随着压力的增加，表面态几乎不随压力变化;而体态的电导逐渐增加，能隙迅速减小并在PC=9GPa处完全闭合。此外，拉曼频率压力系数的折点和c/a最小值也在PC处同时出现。认为这些结构和拉曼上的异常与体态的金属化有关。在更高的压力，超导电性的出现和TC的减小都与连续的结构相变有关，这与辉碲铋矿型的拓扑绝缘体中观测到的异常类似;此外，观测到的最高TC～12K也是这个拓扑绝缘体家族中的最高值;　　第三章、第二类Dirac半金属PtSe2压力效应研究。最近，理论预言和实验都表明过渡金属二硫化物PtSe2为第二类Dirac半金属材料。利用高压下的电输运和拉曼测试手段对PtSe2单晶进行了研究，最高压力为42.3GPa。尽管在拉曼上没有看到任何结构相变的迹象，但是在PC=22GPa处，Eg拉曼模式的压力系数出现突然的增加。与此同时，通过对不同压力下1.8-100K电阻数据进行幂指数公式R(T)=R0+ATn的拟合，发现PtSe2的导电行为在PC处发生非费米液体-费米液体行为的转变。此外，R5K/R250K随压力增加逐渐增大，在PC以上逐渐饱和。认为PC处拉曼和电阻上的异常与压力诱导的拓扑态的消失有关;　　第四章、TiS3中压力诱导绝缘态的异常增强和等结构相变。常压下，TiS3为准一维链状结构的直接带隙(Eg～1.0eV)半导体材料。结合高压电输运、高压同步辐射及第一性原理计算，对TiS3进行了高压电学和结构的研究，最高压力为39.0GPa。随着压力的增加，TiS3的导电行为变得越来越绝缘化，在PC1～12GPa处达到最大值。与此同时，晶格常数比率在PC1处出现极值。伴随继续加压，电阻值急剧下降但仍然保持半导体的导电行为。在更高压力PC2～22GPa，XRD数据表明体系发生了结构相变，且金属化伴随出现。根据第一性原理计算，此结构相变为等结构型的相变，主要与沿a轴方向的悬挂S2原子对的重新排列有关;　　第五章、全文总结及展望。