比起張作霖來，馮德麟出道要早得多。17歲時，他便投身海城鄉勇、綠林，經過多年的打拼，馮德麟以「團夥大、佔地廣、講義氣」聞名遼西和遼南，各地百姓都稱其為「團總」。張作霖最初與馮德麟交往時，對他充滿了崇敬之情。
馮德麟與張作霖相識
甲午戰爭時，張作霖投身清朝宋慶毅軍隊，清軍戰敗後，宋慶毅部隊撤回關內，張作霖也脫離部隊，投靠了馮德麟。馮德麟將張作霖安排在董大虎的手下，儘管張作霖並沒有在董大虎手下待多長時間，但卻與馮德麟結下了深厚的友情。
1906年，馮德麟被清廷招撫，擔任巡防營統帶，後來又充任巡防營左路統領。辛亥革命後，馮德麟被袁世凱任命為二十八師師長。1907年，馮德麟與張作霖等人結拜。1916年開始，馮德麟開始與張作霖產生矛盾。袁世凱取消帝制後，由袁世凱任命的奉天督軍段芝貴被人們徵討。張作霖讓馮德麟和二十八師扮黑臉，正面與段芝貴產生衝突。他自己則扮演白臉，暗中逼走段芝貴。
馮德麟與張作霖展開爭奪
段芝貴逃走後，在袁世凱面前盛讚張作霖，卻對馮德麟沒一句好話。所以袁世凱讓張作霖掌管了奉天的軍政實權，馮德麟只擔任了軍務幫辦。馮德麟感覺自己被耍了，所以在後來支持張勳復闢，結果張勳復闢失敗，馮德麟也被段祺瑞逮捕。還是在張作霖的周旋之下，馮德麟才被解救了出來。回到東北後，馮德麟被任命為「三陵督統」，即為皇家看守皇陵。
自此以後，馮德麟便失去了權力，開始從事工商業建設。他知道自己鬥不過張作霖，所以讓兒子馮庸也放棄當官的念想，一心經商。而馮德麟每次去見張作霖，袖子中都要藏一支槍，可見他對張作霖的不信任。但張作霖因為馮德麟資格老，所以始終對他敬重有加，無論馮德麟提出怎樣的條件，張作霖都會答應。
馮德麟在1926年病逝後，張作霖在北鎮為他舉辦了七七四十九天的葬禮。而且他還是自明朝大將李成梁後，幾百年來從南門出殯的第一人。可以說，張作霖給了他很大的面子。儘管二人為爭奪軍政大權產生過矛盾，卻始終未兵戎相見。馮德麟死後，其子馮庸幾乎拿出馮家的全部家產，創立了馮庸大學。但可惜的是，「九·一八」事變後，馮庸大學被日軍改為了飛機場。