采用脉冲直流磁控溅射法在Si(100)衬底上制备了AlN/Mo/Sc0.2Al0.8N复合结构薄膜,在该结构上通过金属有机化学气相沉积(MOCVD)技术进行GaN薄膜的外延.使用原子力显微镜、高分辨X射线衍射、粉末X射线衍射、扫描电子显微镜和拉曼光谱研究了Mo插入层的厚度对Sc0.2Al0.8N缓冲层和GaN外延层晶体质量的影响,研究了Sc0.2Al0.8N缓冲层对Mo上生长的GaN外延层的影响.研究结果表明,Mo插入层的厚度是影响Sc0.2Al0.8N缓冲层和GaN外延层的重要因素,Sc0.2Al0.8N缓冲层对Mo上GaN晶体质量的提高具有重要意义.随Mo厚度的增加,Sc0.2Al0.8N缓冲层的表面粗糙度先减小后增大,GaN外延层的(002)面X射线衍射摇摆曲线半峰全宽先减小后增大.当Mo插入层厚度为400　nm时,GaN外延层的晶体质量最好,GaN(002)面的X射线衍射摇摆曲线半峰全宽为0.51°,由拉曼光谱计算得到的压应力483.09　MPa;直接在Mo上进行GaN的外延,GaN(002)面的X射线衍射摇摆曲线半峰全宽无法测得,说明在Mo上进行GaN的外延需要Sc0.2Al0.8N缓冲层.