高质量的异质结构是半导体器件性能的保证,也一直是外延生长中的挑战。其难度根源在于外延薄膜和衬底之间晶格常数、晶体对称性及热膨胀系数等性质的失配。微观的结构表征可以帮助我们获得材料内部的信息,如缺陷的生成,应力的分布等,进一步指导生长条件的优化和结构的设计。在异质结构中,同样受到极大关注的是薄膜中的相变现象。理解外延生长的异质结构中的可能出现的不同的相及其分布状况是研究分相的生长及控制的关键。本论文选取了两个通过分子束外延生长的异质外延材料体系,分别是失配度较大的Si1-xGex/Si体系和亚稳态的α-Sn/InSb,主要借助透射电子显微术对外延薄膜进行微观结构表征,研究了Si1-xGex/Si体系中的缺陷及应力释放机制,和α-Sn/InSb结构中的亚稳态的相和相分离。主要研究成果如下:(1)发现Si上外延的Si1-xGex随着x的增大,穿线位错密度增加,形成的层错减少,且层错长度与Ge含量呈现负相关。(2)在Si1-xGex薄膜中发现了多层结构,并伴随着局部剪切,但角度仅为1°。我们认为局部剪切帮助释放了应力,从而减小了位错的密度。穿线位错密度的测量也从侧面验证了这一假设。提出了Si1-xGex薄膜低温外延生长的机理和非典型应力释放机制。(3)运用液氮条件下离子减薄的方式成功制备了亚稳态的α-Sn薄膜的TEM样品,保留了样品中原始的相结构。(4)对InSb(001)衬底上外延的Sn薄膜的分相研究中,利用SEM和EBSD对Sn薄膜进行了表征,获得了 Sn薄膜中的α相和β相在表面的分布信息,并对加热相变前后的α相进行了 SEM研究。(5)获得了 α-Sn与InSb界面的高分辨像,Sn的α相及β相的原子像图,利用截面透射电镜成像研究了α-Sn与β-Sn的共存态,提出了两相共存的模型。