青年軍是國民政府在抗戰末期所建立的一支政治性很強的軍隊。早在一九四三年，在大規模號召知識青年從軍之前，為了補充駐印軍的特種兵（如汽車團、炮兵團等技術性要求較高的兵種），曾由個別新兵補訓處招收一些知識青年，成立了幾個團，陸續空運到印度去。一九四四年日寇由湖南長驅直入，經廣西到達貴州邊境，重慶震動。為應付當時的局勢，蔣介石提出「一寸河山一寸血，十萬青年十萬軍」的口號，號召知識青年從軍，並成立「知識青年從軍徵集委員會」，親自擔任主任委員，黨、團、軍、政各方面負責人及各大學校長、社會名流等擔任委員，蔣經國也是委員一。
1944年，日本已經在太平洋戰場節節敗退，中國戰場已經從43年起轉入反攻階段日本軍隊在中國南方發動的豫湘桂戰役，已經是拼湊起來的非精銳部隊。
而接收了絕大部分國際軍事援助物資，特別是美式裝備的國民黨軍隊，「陪都重慶，面臨威脅，政府打算必要時，遷都西康。」，在這樣的情況下，蔣介石發出「戰爭總動員」，發出「一寸山河一寸血，十萬青年十萬軍」的號召，這就是這句「一寸山河一寸血」的由來。
青年軍成立初期的各師師長是：二○一師戴之奇，二○二師羅澤闓，二○三師鍾彬，二○四師覃異之，二○五師劉安棋，二○六師楊彬，二○七師羅又倫，二○八師黃珍吾，二○九師溫鳴劍。
青年軍訓練總監羅卓英是陳誠的重要助手，副監兼東南分監黃維是陳誠的親信幹部。各師的主要官佐不少是陳系的人，以二○四師為例：副師長吳嘯亞是陳的小同鄉；參謀長唐肇謨、參謀處長盧慶善、六一○團團長胡一、六一一團團長黃綬紳、六一二團團長藍嘯聲，山炮營、野炮營、工兵營的營長等，都是十八軍（陳的基本部隊）系統的人。政工人員則以蔣經國領導的三青團中央幹校學員為骨幹，把大專學校從軍的青年集中起來，成立「青年軍政工幹部訓練班」，蔣經國任班主任，訓練為期一個月。第一期一九四五年十二月開學，一九四六年一月結業，約一千人。訓練班設在三青團中央幹校內，工作幹部完全由幹校人員兼任。幹訓班的教育，基本上搬用贛南「江西青幹班」那一套。蔣經國常常與青年一道活動，特別令人注目的是，他往往在寒冷的早晨，光著膀子帶青年們跑步。他這種作風，當時曾博得青年人的好感。
政工班名義上雖屬總監部領導，實際上除經費補給由總監部轉發外，一切都是自搞一套。青年軍成立政治部時，由蔣經國任中將主任。各師政治部主任，除餘紀忠、範魁書（蔣經國的親信）有實權外，大多數都是掛名的，實際工作由他的親信副主任負責，如二○四師政治部主任劉炳黎（復興社分子）是教授，除到各團作政治講演外，一切具體工作都由副主任洪長銘掌握。各團督導員及師政治部組訓科長、總幹事等主要幹部，均由三青團中央幹校研究部學員擔任。一般連級政工幹部，則由政工班結業學員擔任。從青年軍的人事實排，已經初步看出「蔣介石——陳誠——蔣經國」的布局。有人說青年軍是蔣經國登上政治舞臺、準備接班的一股政治力量，這種說法不無道理。
蔣經國在青年軍的政治工作，主要抓以下幾點：一、通過康樂活動（文體活動）使政工幹部與士兵打成一片（團有俱樂部、連有康樂室），二、通過小組活動，了解士兵的思想情況；三、逐步在士兵中培養爪牙。具體作法是：從每班士兵中各選出一二名，組成全團「小組長訓練班」，由團督導員親自負責，在師政治部協助下，經過一個月的訓練後，回到各連任學習小組長；師政治部從每排士兵中各選出一名或二名，組成師「康樂幹部訓練班」，經過一個月的訓練，回連協助連訓導員搞康樂活動。以上這些經過短期訓練的士兵，後來大多數成了蔣經國在青年軍士兵中的骨幹分子。
一九四五年九月日寇投降後，蔣介石最初決定把二○八師、二○九師合編為三十一軍，由黃維任軍長，開到杭州集中；二○四師、二○五師合編為第六軍，由劉安棋任軍長，開到粵漢路護路；二○二師、二○三師合編為第九軍，開到滬寧路護路。不久又把第三十一軍整編為二○八師，由吳嘯亞任師長；第六軍整編為二○五師，由覃異之任師長；鍾彬軍整編為二○二師，由羅澤闓任師長。
蔣介石最初並未考慮到第一批青年軍很快就復員，因而未作復員的準備。約在一九四六年初，各師都有一部分青年要求復員升學、就業。蔣經國懷疑有共產黨分子從中鼓動，乃密令政工幹部在各連隊組織「防奸小組」；同時為了安定軍心，宣布復員前必須進行三個月的預備軍官教育，期滿後發給預備軍官證書。在這三個月期間，一方面加強反共宣傳，派一些反共教師到各師巡迴講演，如反共專家葉青曾到二○四師作過兩星期的宣傳；一方面集體參加三青團。青年軍的師長劉安祺、覃異之，師政治部主任餘紀忠、範魁書等成了三青團的中央幹事，有些師長和政治部主任成了中央監事。有人認為，這是蔣經國用青年軍來吞併三青團，曾提出過反對意見。至此，蔣經國實際上已控制了三青團。
一九四六年秋在廬山召開三青團代表大會時，聽說蔣介石曾企圖以三青團為骨幹去改組國民黨，因元老派及ＣＣ系反對，結果用「黨團合併」來解這個矛盾。三青團的中央幹事成了黨的中央委員，團的中央監事成了黨的中央監察委員，蔣經國的親信鄭彥棻成了中央委員會的副秘書長。從此，蔣經國在國民黨中央委員會中也有了自己的一派。
青年軍的復員管理工作，實際上是控制復員青年軍的工作。「復員管理處」名義上由陳誠任處長，實際上由副處長蔣經國負責。管理處後來改為國防部預備幹部局，由蔣經國任局長。一九四六年六月三日，正式宣布第一批青年軍復員，並規定這一天是「復員節」。蔣經國控制復員青年軍的作法是：一、復員前夕，以地區為單位成立「通訊小組」（如武漢通訊小組、鄭州通訊小組等等），並創辦《曙光報》作為通訊聯絡的刊物。各小組負責人是復員青年中擁蔣的骨幹分子，直接與預幹局聯繫，在各地上學和就業的復員青年軍，既受當地三青團組織的領導，又參加當地的通訊小組；二、一九四七年改為「青年軍聯誼會」；三、每年夏季在各地組織夏令營活動，把各地的復員青年軍集中起來，受一次短期訓練。
第一批青年軍大部分復員，其中一部分志願留營的，由各師根據留營的人數，編成教導團或教導營（二○五師編成教導團），準備擔任第二批青年軍的班長或副排長，一律以預備軍官待遇，以後根據工作成績，分批送中央軍校受訓。復員的青年軍分為「升學」、「就業」兩部分。就業的送入新成立的就業訓練班，在訓練中陸續分配到各機關團體工作。升學部分中，上大專院校的，送入各地成立的補習班或直接進入各院校，上中學的，除介紹到各地中學外，可進入三青團在各地成立的「青年中學」。各校的復員青年軍不少人成了破壞學生運動的打手。重慶的青年中學在解放戰爭中擴充成反共的武裝部隊。許多復員的青年軍後來成了蔣經國「青年勘亂建國大隊」的骨幹分子，也是他建立自己特務系統的基本力量。
一九四七年七月，蔣介石在廬山親自主持召開青年軍幹部會議，決定徵集第二批知識青年。新整編的二○五師（覃異之任師長）於一九四七年初分別由萬縣、貴陽開往粵漢鐵路沿線，一面護路，一面招募第二批知識青年。各地方的三青團組織雖大力動員，但志願從軍的知識青年仍不踴躍，到八月才勉強招足。這時蔣介石電召覃異之到南京，要覃異之準備開往臺灣接受美械裝備。覃異之便和孫立人（已內定為臺灣訓練司令）以及美國駐華武官蘇洛一同飛往臺灣察看訓練場地。行前，覃異之曾去見蔣經國，他正忙於到上海負責管制經濟的工作。從他簡短的談話中，知道這次青年軍接受美械裝備是費了一番交涉的（因美國最初不同意裝備青年軍），用孫立人作臺灣訓練司令，是為了便於與美國打交道。看來蔣介石對孫立人，既討厭他依靠美國人以自重（他到英國去接受勳章後，未經蔣介石的許可逕自訪美，加強與美國的關係），又不得不利用孫以爭取更多的美械裝備。
二○五師於八月底開始由粵漢鐵路陸續向廣州黃埔港集結，運往臺灣。因船隻少，運輸速度很慢，師部及直屬部隊十月初才到達臺南高雄鳳山營房，後續部隊仍在運輸中。正在這時，蔣介石電召覃異之到南京，告訴覃異之說，東北行轅主任陳誠要調覃異之到東北去擔任第八兵團副司令兼五十二軍軍長，要覃異之準備到東北去。當時東北戰局對蔣軍不利，熊式輝、杜聿明已相繼離開，覃異之當然不願去做替死鬼，便找蔣經國想辦法。他這時正在負責上海的經濟管制工作，剛從上海回來，一兩天又要回上海去，看來很忙碌。他答應向蔣介石轉達覃異之希望免調東北的想法。第二天他給覃異之電話說：「已電陳主任商量，可能免調。」過了兩天，蔣介石召見覃異之，仍要覃異之去東北。覃異之又去找蔣經國，他已到上海去了。第二天晚上，蔣介石又召見覃異之，限我在十月十六日以前到瀋陽行轅報到，覃異之這才不得不去東北。蔣經國此時名義上雖已不負責青年軍的政治工作（政治部已改為新聞處），但是青年軍的重要問題，他還是過問的。他的政工幹部也常向他匯報青年軍的情況，對青年軍的重要人事還得徵求他的意見。如二○五師師長的繼任人選，孫立人曾保薦唐守治，蔣經國卻堅決主張提升副師長劉樹勳。又如二○五師鎮壓地下共產黨員伍瑞雲等案，也是請示蔣經國處理的。 青年軍1944年12月起成師時序列：
1、第二○一師：1944年12月在四川璧山由第94師為基幹改編。1946年9月整編為第203師第2旅。
師長宋賀/潘華國（1945年11月）
下轄第601團、第602團、第603團
2、第二○二師：1944年12月在四川綦江由新編第34師為基幹改編。1946年9月整編為第202師第1旅。
師長羅澤闓
下轄第604團、第605團、第606團
3、第二○三師：1944年12月在四川瀘江由新編第5師為基幹改編。1946年9月整編為第203師第1旅。
師長鍾彬/姚秉勳（1945年8月）
下轄第607團、第608團、第609團
4、第二○四師：1945年2月在四川萬縣由暫編第56師為基幹改編。1946年9月整編為第205師第2旅。
師長覃異之
下轄第610團、第611團、第612團
5、第二○五師：1945年2月在貴州扎佐由新編第23師為基幹改編。1946年9月整編為第205師第1旅。
師長劉安祺/胡素（1946年2月）
下轄第613團、第614團、第615團
6、第二○六師：1945年1月在陝西漢中由陝南師管區為基幹改編。1946年9月擴編為整編第206師。
師長楊彬/方先覺（1945年4月）/蕭勁（1945年10月）
下轄第616團、第617團、第618團
7、第二○七師：1945年1月在雲南曲靖由昆明防守司令部與第48師改編。1946年9月擴編為整編第207師。
師長方先覺/羅又倫（1945年4月）
下轄第619團、第620團、第621團
8、第二○八師：1945年3月在江西黎川由第144師為基幹改編。10月改為四團制。1946年9月擴編為整編第208師。
師長黃珍吾/吳嘯亞（1946年1月）
下轄第622團、第623團、第624團/1945年10月下轄第622團、第623團、第624團、第628團
9、第二○九師：1945年4月在江西鉛山由第75師為基幹改編。10月改為四團制。1946年9月縮編為整編第202師第2旅。
師長溫鳴劍
下轄第625團、第626團、第627團/1945年10月下轄第625團、第626團、第627團、第629團
10、第二一○師：該師原擬於1945年4月在江西瑞金成立，但因只成立兩個團，不符合師建制，便取消番號，所屬兩個團分別撥隸第208、209師。
師長劉安祺（未到職）/胡素（代）
下轄第628團、第629團
青年軍的戰鬥力很強，抗日戰爭後內戰最激烈的戰鬥幾乎都是青年軍打的，青年軍的部隊番號都是2開頭的，比如201師220師。青年軍的戰鬥意志是國軍中最強的。青年軍只是生不逢時，或者說蔣介石組建的太晚。如果早上幾年說不定會改寫歷史，當然歷史是不能有如果的。守城最頑強的部隊都是青年軍，友鄰部隊都撤了青年軍都是不會撤的更不用說投降，都會拼到最後，因為的戰鬥力來自於部隊的信仰，這個部隊有自己的信仰，入骨髓的三民主義。因為組建時間不長江山就換了模樣，所以青年軍很快就被人們忘掉了。