在中國近代史上，段祺瑞和蔣介石是兩個舉足輕重的人物，蔣介石曾是北伐軍的總司令，而段祺瑞則是北洋軍閥的領袖，屬於兩個水火不容的陣營。不過，蔣和段的私情很深，尤其是到了段祺瑞晚年，蔣介石對他也是一視同仁。所以，蔣介石為什麼這麼看重段祺瑞呢？實際上，蔣介石和段祺瑞的交往並不複雜，他們的相識，始於軍校學生時代的蔣。大家都知道蔣介石曾在保定軍校學習，當時的校長是段瑞琪。雖然蔣中正和段祺瑞在軍校沒有多少交情，但在蔣的心中種下了深深的師生清潔，從此與段祺瑞執弟子禮。
從保定軍校畢業後，蔣介石選擇了和段祺瑞完全不同的道路。1926年7月9日，蔣在廣州誓師北伐，他跟隨孫中山逐步登上國民黨的寶座。和北伐的對象一樣，也是前校長段祺瑞的皖系勢力。這次北伐風起雲湧，很快就把吳佩孚、孫傳芳集團的主力殲滅了。儘管蔣介石從未與段祺瑞交過手，但雙方政治立場和信仰迥異，足以令段祺瑞大為不快。
一九二八年，蔣介石二度北伐，段祺瑞與徐世昌、王士珍、曹錕等北洋元老聯合發動了所謂的「和平運動」。舉行南北和會的呼籲是為了阻止北伐。在北伐取得勝利之後，依附於皖系勢力的「安福系」政界人士，仍然在天津、大連等地進行其他反對派活動。蔣介石立即寫信警告段祺瑞，段祺瑞也非常識時務，隨即回信否認。對於老校長的面容，蔣介石沒有再多說什麼。
在段祺瑞下臺後，蔣介石極力拉攏他。由於對校長的了解，他很清楚這位校長是個清廉的人，所以他給校長送禮物。而且給這個學生的禮物，段祺瑞也是來者不拒，照單全收。一九三二年，段祺瑞受聘為「國難會議」議員，八月當選為「廢除內戰大同盟」榮譽會員。這幾個稱號雖然名不見經傳，但有一定的經濟收入，使段祺瑞的生活有了保障。自然，蔣介石對段祺瑞並不十分放心。為了實現對華北的控制，日本人積極呼應，策劃建立「北洋派大同盟」，想以段祺瑞、吳佩孚為首領，然後組織華北的偽政權。沒料到，吳不合作，日本的計劃成了泡影。
對於校長的處境，蔣介石表示了嘉許，並為之擔憂。九·八事件後，蔣介石想念在日本租界住在天津的段祺瑞，有意為他改變生活環境。但是因為忙於中原之戰，只好暫且擱置。一九三三年，應蔣介石邀請，段祺瑞悄然離開天津南下，安全脫離日本的監視。蔣介石在南京舉行隆重的歡迎儀式，場面熱烈，氣氛熱烈，段祺瑞再一次成為新聞人物。蔣介石派人向段祺瑞求婚，段祺瑞表示願意留在上海。經蔣介石安排，段祺瑞很快來到上海，住進霞飛路1487號，這裡有房屋十餘間，草坪十餘畝，各種設施齊全，生活十分便利。蔣介石每次到上海，也都會抽空登門拜訪，並十分講究禮儀，到了門首先要遞上名片，見過老校長後噓寒問暖，顯得很親切。
老年時期一直住在上海，下圍棋、搓麻將、念佛經是他的三大愛好。為確保段祺瑞的生活水平不降低，段祺瑞住在上海後不久，蔣介石任命他為「國府委員」，每月穩定地拿到一萬大洋的工資，完全可以安度晚年，過得舒舒服服。一九三六年十一月二日，段祺瑞去世，終年七十二歲。為了給蔣介石送信，給他派了兩萬元的撫恤金，給他舉行了國葬，上海下半旗致哀。
這個早已下臺的北洋軍閥，在蔣介石的關照下，享受著這樣的哀悼，這恐怕也是段祺瑞本人所沒有想到的。常言道無利可圖不起早，蔣介石下一代段祺瑞、師生情分只是一方面。而蔣介石最擔心的就是被日本人拉攏，果真如此，不但不能過晚節，還會給南京政府造成很大的麻煩，所以對晚年的段祺瑞好，對日本人好。另外，段祺瑞在北洋政府中擔任要職，是當時屈指可數的一位名流，能夠把他拉到自己身邊，為他說情，能夠充分發揮其感召力和影響力，有利於進一步鞏固和鞏固統治。而且，把段祺瑞拉到身邊，既費不了什麼心機，也沒必要親自出面，更沒必要自掏腰包，蔣介石自然會厚待晚年的段祺瑞。