1934年12月1日,列寧格勒州州委書記基洛夫在前往自己的辦公室時突然遭到了早就埋伏於此的尼古拉耶夫的暗殺,由於是後腦中槍,基洛夫當場身亡。消息傳到莫斯科之後,暴跳如雷的史達林立即下令準備特別專列,打算要親赴列寧格勒查明真相,而隨同他一起前來的還有莫洛託夫、伏羅希洛夫等多位蘇聯高級領導人。
第二天,抵達列寧格勒的史達林就親自提審了尼古拉耶夫,但從他口中並未撬出任何有用的線索,於是史達林便決定提審案件中的另一個關鍵人物——基洛夫的衛隊長鮑利索夫,結果這個人卻很巧合的因車禍當天死於非命,而這種種跡象也讓本來疑心病就很重的史達林感受到了來自身邊的「威脅」,於是,著名的蘇聯肅反運動拉開了歷史的帷幕。
剛開始,大肅反的對象還僅僅只處在「謀殺基洛夫的兇手」階段上,直到1936年8月才達到「高潮」,在這一個月裡,莫斯科一共審判了16名被告,但這其中竟有季諾維也夫、加米涅夫等蘇聯高層。審判期間,所有被告都拒不承認自己有罪,但最終還是被全部判處死刑並被立即槍決,而負責抓捕他們的雅戈達卻也在一個月後被史達林免職一切職務,並最終於1938年3月15日被槍決,罪名是「德國間諜」。
1937年初,史達林開始了第二輪「莫斯科審判」,逮捕了皮達可夫、拉狄克等17人,其中15人被判處極刑。除了整頓內部,葉若夫還將矛頭對準了軍隊,結果在他們的操作下,蘇聯元帥圖哈切夫斯基和一大批高級將領於1937年6月11日被執行槍決,而這種自毀長城的做法也讓蘇聯在後來的蘇德戰爭中吃盡了苦頭。1938年,蘇聯總檢察長維辛斯基指控布哈林和李可夫是帝國主義的間諜,並在沒有證據、只有被告口供的情況下以「叛國罪」判處死刑。
由於受大肅反「恐怖氛圍」的影響,克格勃遠東地區部長留希科夫選擇叛逃日本,並將自己所掌握的遠東諜報通信密碼等大量機密都統統告訴了日本人。1938年7月29日,日本和蘇聯圍繞著張鼓峰、沙草峰這兩個高地進行了一場軍事較量,作為遠東方面軍司令的布柳赫爾僅用13天便擊敗了日軍,然而回國後,等待這位名將的卻並不是榮譽和勳章,反倒是冰冷的手銬。由於布柳赫爾在國內及軍中都享有很高的威望,因此,史達林不敢公開指控他,只能於1938年11月9日將其秘密處決,而羅織的罪名卻很可笑——打入蘇聯內部的日本間諜。布柳赫爾被處決後不久,負責抓捕他的葉若夫也重蹈了前任的覆轍,不僅職位被貝利亞奪走,自己還落得個慘死的結局。
1939年初,新上臺的貝利亞將清洗的矛頭對準了蘇軍的另外一位元帥——葉戈羅夫,而他的結局究竟是「失蹤」還是「被殺」,這到現在都還是一個歷史謎題,但他的被害也間接導致了大清洗的提前結束。據統計,在1937年至1938年這短短兩年的時間裡,蘇軍中的五位元帥就被殺了三名,四名一級指揮員也被殺了三名,剩下的二級集團軍司令員則被全部殺掉,而全國的遇難人數也達到了驚人的68.2萬。