早年生涯
1882年，7月21日（清光緒八年七月廿一日）生於河北省鹽山縣(今屬黃驊市)留老人莊一個農民家庭，父親是村正。張之江八歲隨祖父習武讀書，自青年時起即喜愛武術，十八歲時應童子試，補諸生。
1903年，清政府組建新軍，施行徵兵制，留老人莊應徵青年寥寥，其父為該村村正，不得已送張之江應徵入伍，從北洋常備軍，被選入常備軍學兵營學習騎兵，因識文墨，升遷較快。1907年5月徐世昌任東三省總督，邀張之江任新建北洋第一混成協騎兵營哨官。1910年春，張之江與馮玉祥發起組織武學研究會，在軍中接觸了一些反滿志士，閱讀了揭露滿清殘酷統治、主張維新的書籍，逐漸萌發反清革命思想。9月張之江所在第一混成協與另外兩個團合編為北洋陸軍第二十鎮，他任第四十協第八十標騎兵營排長。
1911年，10月辛亥革命爆發，12月張之江參加灤州起義，被任命為騎兵司令，率一排駐守金山嘴，後赴滬向陳其美請援。1912年1月灤州起義不幸失敗後，馮玉祥被解職回原籍，王金銘等同志被殺害，張之江隻身逃離第二十鎮，同年被任命為晉北東路司令部第二等參謀，一度兼代東路司令官。3月馮玉祥重新任左路備補軍（統領為陸建章）第二營營長，張之江入北京將校研究所學習。
五虎之首
1914年11月回馮玉祥部供職，任第十六混成旅（旅長馮玉祥）教官、參謀。 1915年，5月隨馮玉祥入川，8月任四川將軍公署高級參議。12月袁世凱稱帝，護國軍興起。1916年1月護國軍入川，張之江隨馮玉祥與劉雲峰部作戰。3月25日授為陸軍騎兵中校並加陸軍騎兵上校銜，30日授為陸軍騎兵上校並加陸軍少將銜，張之江與蔣鴻遇一起秘密見劉雲峰，又單獨往見護國軍總司令蔡鍔，多方奔走磋商，接洽停戰。5月22日促成四川將軍陳宧反袁，宣布四川獨立，第十六混成旅改為「護國軍第五師」，將當地遊擊部隊與收編的川軍合編成第三團，任命張之江為團長，率部打敗北洋軍的反攻。6月6日袁世凱死，7月後部隊回駐廊坊。1917年1月馮玉祥被迫去職，張之江任第十六混成旅騎兵營營長，駐防京畿。7月張勳復闢，馮玉祥下天台山討伐，張之江率騎兵營在廊坊一帶擊潰了張勳的辮子兵。1918年6月，第十六混成旅駐防湖南常德，張之江任第十六混成旅第二團團長，負責城防治安，日本士兵入城時拒不接受崗哨檢查，釀成流血事件，張之江命令堅決打擊日兵囂張氣焰，維護了國家尊嚴。7月29日晉授為陸軍少將。9月任第十六混成旅第二團團長。
張之江(中)
1920年，7月6日，馮軍北返，駐軍河南信陽，未參與直皖大戰。1921年6月隨馮玉祥入陝西討伐陳樹藩。8月5日第十六混成旅擴編為陸軍第十一師，馮玉祥任師長，張之江任第二十二旅旅長。1922年4月第一次直奉戰爭爆發，張之江率部隨馮玉祥進軍河南趙倜。5月5日趙軍偷襲鄭州，張之江部軍力單薄，仍奮力應戰，在增援部隊的配合下擊潰趙部，驅逐了盤踞河南省多年的軍閥趙倜。10月任第七混成旅（由河南新募五團新兵中抽撥兩團組編）旅長，馮玉祥開辦中高級軍官訓練班，張之江任監察官，並講授戰術課程。11月20日授為陸軍中將，率部移防通州。1923年10月4日任第七混成旅旅長。11月27日，北洋曹錕政府授張之江為將軍府「洸威將軍」。
代總司令
1924年，9月15日第二次直奉戰爭爆發，17日張之江任直軍討賊軍第三軍（總司令馮玉祥）第一路司令，21日馮玉祥部陸續自北京向熱河開拔，以第七混成旅長張之江部為先遣隊。10月19日，馮玉祥決心發動北京政變，下達了全軍班師回京的命令，10月23日馮玉祥發動「首都革命」，25日張之江等參加了「北苑會議」，受命率部赴楊村，迎戰吳佩孚直系沿京津鐵路的反撲。11月2日張之江旅與胡景翼軍敗吳佩孚軍於楊村，俘其旅長潘鴻鈞，將吳部擊潰。12月2日，汪兆銘、孫科、吳敬恆、徐謙等晤國民軍將領李鳴鐘、張之江、劉驥。12月8日署理察哈爾都統，兼國民軍騎兵第一旅旅長。12月15日第四混成旅三個營在張家口譁變，劫掠全市，16日張之江率軍前往張家口鎮服，誘殺了變兵三百餘人，內有團營長軍官多人。
1925年，春任國民軍第五師師長，在察哈爾積極進行經濟建設，整頓財政稅收，清除積弊，修築馬路，修建電話電報線，提倡畜牧，移民墾荒。5月1日加陸軍上將銜。12月8日馮玉祥、李景林兩軍戰爭開始，馮以張之江任北路總指揮，猛攻楊村（馮軍南路總指揮鄧寶珊攻馬廠，李軍北路為馬瑞雲，南路為李爽愷），12日在北倉失利，20日馮玉祥調李鳴鐘、宋哲元部增援，張之江仍回察哈爾都統任內，24日李景林被李鳴鐘、宋哲元、鄧寶珊等擊敗。他在楊村，每日都要祈禱上帝，讓戰事早日獲勝。後來李景林失敗，由天津撤至馬廠一帶，張之江又禱告感謝上帝的庇佑。
12月27日馮玉祥任命張之江代西北邊防督辦，30日奉馮玉祥命槍殺了徐樹錚。 1926年，1月1日馮玉祥通電辭職，4日馮玉祥再電段祺瑞辭職，以職權交張之江，並以張之江任察哈爾司令，10日段祺瑞準馮玉祥辭職，張之江署理西北邊防督辦。1月27日，張之江、李鳴鐘、鹿鍾麟、宋哲元、劉鬱芬（以上五人即是西北軍五虎）等通電否認國民軍「赤化」，也未能阻止吳佩孚和張作霖的聯合進攻。2月6日，國民軍第一軍將領張之江等通電討吳佩孚，接濟國民軍的蘇聯軍艦「奧利格」在大沽口為奉天軍艦所阻，折返海參崴。2月7日魏益三歸國民軍，所部由灤州移駐保定。2月12日大沽國民軍炮擊日本驅逐艦。3月6日奉軍代表到北京與國民軍商和議，張之江、李鳴鐘贊同，鹿鍾麟反對，11日奉軍張學良在昌黎下令對國民軍總攻擊，15日張之江電張作霖商和平，20日接濟國民軍的蘇聯軍艦在大沽為奉軍截留，國民一軍將領張之江、李鳴鐘等通電贊成王士珍之和平主張，罷戰退回原防，21日京奉津浦兩路國民一軍下總退卻令，向北京附近集中，22日張作霖電覆張之江，如交還直隸、熱河即可言和。3月25日國民軍將領一致擁護張之江，張不得已勉強主持國民軍大計，28日張之江通電繼馮玉祥統率國民軍第一軍，代理國民軍總司令、軍事委員會委員長，如對方進攻，決一戰，張之江主張放棄北京，鹿鍾麟不允，但均願與吳佩孚言和，先由張廷諤向吳疏通，並派興和道尹丁春膏往湖北說吳合力討奉，31日國民一軍向吳乞和，派師長門致中赴保定與田維勤接洽，4月5日吳佩孚電覆張之江，令先將國民軍交閻錫山接收為和平先決條件，張之江率部抵抗直奉聯軍，牽制吳佩孚，策應南方北伐軍。4月7日直魯聯軍對北京國民軍施總攻擊，9日鹿鍾麟發動政變趕走段祺瑞，10日國民軍與直魯聯軍激戰於北京東南，11日吳佩孚對北京政變不表示諒解，命鹿鍾麟、張之江下野交出部隊，12日奉軍及直魯軍向京東、京南猛烈攻擊，15日國民軍撤出北京，在南口一線布防迎敵。
5月6日，國民軍改編為七個軍（鹿鍾麟、宋哲元、李鳴鐘、劉鬱芬、鄭金聲、門致中、石友三），張之江任總司令，8日成立政治討論會（西北設最高政治委員會），張之江任會長，鹿鍾麟、張秋白副之，並竭力維持西北銀行鈔票，凝神備戰，對南口多倫主守，16日始對晉北大同主攻，17日國民軍將領宣言開發西北。5月31日吳佩孚抵保定，6月3日吳決對國民軍三路進攻，東路田維勤，中路王為蔚，西路魏益三，奉魯軍分攻多倫、南口。6月18日張垣會議結果，將南口、晉北、多倫三方軍隊略事改編，由張之江正式任命鄭金聲為東路總司令，擔任南口防務；鹿鍾麟為西路總司令，擔任晉北方面；宋哲元為北路總司令，擔任多倫方面，以扺御直魯聯各軍，張之江指揮國民軍十五萬人在東起內蒙古多倫，西到晉北的千裡戰線，抵抗奉直晉三系軍閥的聯合進攻，與北洋軍隊激戰於南口。張將軍集合幹部學校和督辦公署衛隊親自禱告：主啊，張作霖、吳佩孚發動內戰，妄想武力統一中國。他們好象一隻船在大風浪中，迷失方向，願我主賜給他們智慧，讓他們回頭登岸……
7月5日，因吳佩孚久攻不下，改由奉魯軍對南口總攻擊，18日張宗昌、張學良、吳佩孚懸賞攻南口難兒谷，21日田維勤部二次叛變兩團（均舊國民二軍），攻擊懷來之戰事停頓。8月1日奉魯軍及吳佩孚軍對南口、懷來總攻擊，張學良親自督戰攻南口正面並以重炮轟擊，7日國民軍各路與奉魯軍激戰於南口昌平，11日南口國民軍因奉軍（鄒作華部）炮兵猛烈之轟擊，損失頗重，同時復受多倫湯玉麟、戢翼翹，懷來田維勤之威脅，漸不能支持，14日多倫失守後，張之江和鹿鍾麟決定國民軍撤退到西北，15日張之江下令撤退，國民軍劉汝明師向西北撤退，旅長王書箴被俘，奉軍即佔南口，此戰國民軍死傷一萬餘人，奉魯軍二萬餘人。8月17日奉軍高維嶽、戢翼翹等佔領張家口，張之江、鹿鍾麟退向綏遠，國民軍高級將領各有主張，不相協調，韓復榘、石友三投閻錫山，蔣鴻遇拒絕西撤，張之江困難重重，難以指揮。9月11日張之江赴庫倫，鹿鍾麟與宋哲元、鄭金聲等，尚擁國民第一、二、三軍餘部約三萬，守包頭。9月14日馮玉祥回國，16日在五原誓師參加北伐，張之江任國民聯軍第一軍軍長，兼西北邊防督辦。
退居二線1927年，6月初隨國民聯軍進入河南，28日受聘為豫陝甘考核院院長。7月6日特任國民政府委員、國民政府軍事委員會委員，27日就任。8月1日任國民革命軍第二集團軍北路軍總司令，12日奉馮玉祥命由鄭州南下赴武漢，聯絡靳雲鶚、魏益三兩部。9月17日再次被推舉為軍事委員會委員。11月17日張之江、方聲濤到漢晤李宗仁、程潛後，20日晚同輪赴南京，21日抵達，請國民政府速派軍北伐援第二集團軍。12月8日回鄭州，9日特任南京國民政府委員，12月26日馮又派張之江到上海，受馮玉祥之命為國民軍全權代表駐南京首席聯絡官，代表馮出席國民黨四屆四中全會，張之江積勞成疾，乃離開西北軍，在南京養病。
1928年，2月7日又被指定為軍事委員會委員。3月24日南京中央國術研究館成立，張之江擔任館長，他不計前嫌，三請精通武當劍和內家拳術的李景林任副館長，建館之初設有少林門和武當門，以王子平和高振東為門長。3月27日任「國民革命軍總司令部」高級參謀團主任，29日任東北特別委員會委員。3月30日中央常委會決議，通過錢大鈞等為江蘇省黨部指導員。6月國術研究館正式易名為中央國術館，它是中華民國時期主管國術的中央行政機構之一。7月24日國府會議決任蔣中正、馮玉祥、閻錫山、李宗仁、李濟深、何應欽、張之江、李烈鈞、陳紹寬為禁菸委員，張之江為主席，曾再三懇辭，未獲允準，對毒品採取禁運、禁販、禁吸的措施。9月，國術館電請市政府羅致技擊人才，舉行登記，以免向隅。9月17日國府紀念周張之江報告各國相互間之關係，及其外交軍事政治之近狀，主張中國外交應注重策略，不應誤解信義，以期達到廢除不等條約之目的。10月12日向中央提出辭禁菸委員會職。10月13日，第二集團軍各要人在雞鳴寺舉行國民軍北平革命四周紀念，由張之江主席，演述北平革命經過及其效果、價值，頗為詳盡。11月27日行政會議明令派張之江赴魯、豫、秦、隴，視察禁菸。
1928年11月21日深夜，上海市警察局保安隊在上海大達碼頭拿獲大批煙土，這宗大買賣由軍方包運，後台老板是財政部長宋子文，上海市長張定璠親自幹預，警方查拿武裝運煙反被擄劫的消息見諸報端，26日張之江請國府派員調查嚴辦上海煙土案，27日蔣中正請令催禁菸主席張之江來滬查辦運土案，29日國府派禁菸委員會主席張之江、司法行政部長魏道明、司法行政部刑事司長王淮琛等往查，30日張之江、魏道明、王淮琛到上海查辦，但蔣介石蓄意包庇，12月3日令上海公安局長戴石浮停職，張定璠致電中央請連帶停職，以明責任，未獲準。12月8日張之江、魏道明將調查滬煙案詳情，及訊問江安輪役分別整理，並附加意見書呈國府核辦，「滬土案」草草了結，張之江態度消極，謝絕一切來賓，上第二次辭呈，18日行政會議，張之江因病辭禁菸委員會主席(決議)慰留，21日國府明令慰留張之江。
1929年，1月7日張之江偕眷回原籍，24日特派首都建設委員會委員，張之江返京南後，未銷假，復呈行政院辭禁菸會長職，2月2日行政院指令慰留。5月15日西北軍反蔣，張之江並未參與，6月25日張之江攜眷赴南京，銷假視事。8月1日出席編遣實施會議。1930年1月任江西清鄉督辦，併兼任江蘇省民團訓練所所長。4月爆發中原大戰，張之江採取迴避態度，並未參戰。9月18日張學良通電入關，馮玉祥的西北軍土崩瓦解，30日張之江、馬福祥自南京赴柳河，謁蔣介石，商西北軍問題。11月3日國民政府特任張之江為軍事委員會江蘇綏靖督辦公署督辦，所部第二十五路軍梁冠英部，下轄第三十三師等，對西北軍殘部予以安撫。1931年5月初任國民會議軍隊特別黨部代表，20日通電反對陳濟棠反蔣行動。1932年6月25日特任軍事參議院上將參議。1933年5月，他又創辦了「國術體育傳習所」，自任所長。1934年「國術體育傳習所」改為「國立國術體育專科學校」，張之江任校長。1935年放派往歐美各國考察體育，曾率南洋旅行團去南洋各國宣傳發揚國術的活動，對武術的宣傳卓有成效。
1936年，1月22日，國民政府敘任張之江為陸軍中將。7月9日給予國民革命軍誓師十周年紀念勳章。8月張之江率領中央國術館派隊員參加柏林奧運會，進行武術表演，使西方第一次見到中國武術，武術表演轟動了世界體壇，張之江為此獲得了該屆奧運會以「五環」為標誌的紀念章，並被譽為「中國國術開始走向國際體壇的第一人」。9月26日特加陸軍上將銜。
1937年，7月抗日戰爭爆發後，國術館和國術體育專科學校從南京遷出，經長沙、桂林、昆明遷到重慶。1938年1月，張之江應李宗仁邀請任第五戰區高級顧問，輔助李宗仁便於指揮西北系各將領，3月參與指揮了臺兒莊戰役。1940年7月入陸軍大學將官班第五期受訓。1941年3月任第二屆國民參政會參政員，他在會上大談國術，被引為笑柄，輿論界批評他為「時代的落伍者」。1942年7月從陸軍大學特別班畢業，仍任軍事參議院參議。1945年5月19日當選為國民黨第六屆中央執行委員。10月10日授予抗戰勝利勳章，抗戰勝利後國術體育專科學校遷天津；11月，行政院政務處長徐道鄰曾控告馮玉祥、張之江於民國十四年十二月三十日殺害其父樹錚，不了了之。
1946年，7月31日，張之江晉任陸軍上將並退為備役。11月選任制憲國民大會代表，此時徐樹錚之子徐道鄰控告張之江「唆使殺人」，張遍登啟事，聲明當時事與己無關，法政部門以「時效已過」免於起訴。1948年4月參加國民大會，5月任立法院立法委員。
1954年，12月，張之江任政協全國委員會特邀委員，參加了第二屆全國政協會議，為中國國民黨革命委員會中央委員。1955年2月11日，毛澤東主席曾致信張之江，對他的愛國熱忱表示敬意。1956年2月，張之江在全國政協二屆二次會議上發言，對發展中國武術提出自己的見解。同年秋，國家體委在北京舉行全國武術表演，張之江應聘為總裁判長。
1969年，5月12日，張之江在上海華東醫院逝世，終年八十五歲。