最近，中科院物理研究所/北京凝聚態物理國家實驗室（籌）姚裕貴研究員以及博士生劉鋮鋮、馮萬祥採用第一性原理，系統地研究了矽烯的晶體結構、穩定性、能帶拓撲和自旋軌道耦合打開的能隙，預言了在矽烯中可以實現量子自旋霍爾效應。
近幾年來，拓撲絕緣體的研究在世界範圍內飛速發展，並成為凝聚態物理研究中的一個熱點領域。從電子能帶結構上來說，拓撲絕緣的體電子態是有能隙的絕緣態；而它的表面（對三維體系）或者邊緣（對二維體系）電子態則是零能隙有手性的金屬態。這類拓撲絕緣態由材料的強自旋軌道耦合引起，具有時間反演對稱性。拓撲絕緣體的重要性在於存在由時間反演不變對稱性所保護的表面態。並且該表面態是由能帶結構的內在拓撲性質所決定，不容易受到缺陷、雜質等外界環境的影響。量子自旋霍爾效應即二維的拓撲絕緣體最早由美國賓夕法尼亞大學的Kane和Mele在單層石墨烯樣品中提出【Phys.Rev.Lett. 95, 226801(2005);95,146802 (2005)】。但物理所姚裕貴研究員等隨後的工作表明，由於自旋軌道耦合在石墨烯中打開的能隙僅μeV量級，大小可忽略不計，由此可以斷定在石墨烯中很難觀測到量子化的自旋霍爾效應【Phys. Rev. B 75, 041401(R) (2007)】。很快，史丹福大學的張守晟研究組提出在HgTe/CdTe量子阱體系可以實現量子自旋霍爾效應【Science 314,1757(2006)】，並在非常短的時間內被德國的Laurens Molenkamp研究組實驗證實【Science 318,766(2007)】。在量子自旋霍爾樣品中，由於強自旋軌道耦合，載流子只能沿著樣品邊緣傳輸，並且是無耗散的，可望應用於下一代自旋電子學器件。
根據拓撲能帶理論，拓撲絕緣體和普通絕緣體可以由拓撲不變量Z2來區分。Z2可以用晶體中BLOCH態的貝裡(Berry)相位來刻畫。量子力學中的貝裡(Berry)相位自1984年發現以來，在諸多領域中已得到了廣泛的應用，在凝聚態領域中，貝裡相位則深刻影響到固體的電子動力學行為。姚裕貴研究員在此相關領域進行了多年的系統研究，並取得了許多重要成果。如利用第一性原理方法精確地計算了貝裡相位對反常霍爾效應(PRL 2004,2006a)、自旋霍爾效應(PRL 2005a, PRL 2005b)、反常熱電效應（PRL 2006b）等的影響。
在多年的研究基礎上，最近姚裕貴等在第一性原理程序中首次實現了拓撲不變量Z2的普適計算，進而可以直接判斷一個材料是否為拓撲絕緣體。這個計算方法適用於包括空間反演破缺的體系，將成為尋找拓撲絕緣體新材料的強有力工具【arXiv: 1107.2679】。利用此程序，他們已經預測了Half-Heusler [Phys. Rev. Lett. 105, 096404 (2010)]和黃銅礦[Phys. Rev. Lett. 106, 016402 (2011)]兩個體系中可能存在大量拓撲絕緣體。
在最新研究中，姚裕貴研究員以及博士生劉鋮鋮、馮萬祥採用第一性原理，系統地研究矽烯的晶體結構、穩定性、能帶拓撲和自旋軌道耦合打開的能隙。他們利用絕熱連續性以及直接計算拓撲不變量Z2，預言了在矽烯中可以實現量子自旋霍爾效應，具有遠大於石墨烯的1.55meV的自旋軌道耦合能隙，對應於18K。
此外，該小組還研究了二維的六角鍺體系，雖然蜂窩結構的二維鍺在實驗上尚未合成，但他們預言了在該體系中也可實現量子自旋霍爾效應，具有23.9meV的自旋軌道耦合能隙，對應於277K。進一步通過緊束縛方法，姚裕貴研究員、博士生劉鋮鋮和博士後江華還給出了上述體系的低能有效哈密頓量，並闡明了由於起伏結構，矽烯中有效的自旋軌道耦合包含了一階的自旋軌道耦合相互作用，這是導致矽烯中存在相當大能隙的根本物理原因。這一點完全不同於平面結構的石墨烯，其有效的自旋軌道耦合只包含了二階的自旋軌道耦合相互作用。
矽烯具有類似於石墨烯的蜂窩狀結構，不同之處在於矽烯的蜂窩狀結構是有起伏的。其結構見圖1。該類新奇的材料在試驗上已經合成，並被證實具有石墨烯類似的電子結構【Appl. Phys. Lett. 96,183102 (2010)；Appl. Phys. Lett. 96, 261905 (2010)；Appl. Phys. Lett. 97, 223109 (2010)】。矽烯可以非常好地與當今的矽基半導體工藝兼容，這是其他量子自旋霍爾體系所不具有的。此外由於結構相似性，石墨烯的所有奇異性質幾乎都可能移植到矽烯中，可以預期矽烯在將來有著廣泛的應用前景。
本工作發表在Phys. Rev. Lett. 107, 076802 (2011)，Phys. Rev. B 84, 195430 (2011), 並得到了國家自然科學基金委、科技部和科學院的資助。
矽烯的晶體結構和能帶圖。(a),(b)分別為側視圖和俯視圖。(c)定義了一個起伏角度。(d) 能帶圖。放大的部分為由於自旋軌道耦合作用在狄拉克點打開的能隙結構。