在國民黨軍諸多將領之中，廖耀湘的資歷是最淺的，因為他是黃埔六期畢業。
事實上就在廖耀湘被提拔為第九兵團司令的時候，他的諸多學長，仍然還在軍長甚至是師長的職務上，更為關鍵的是，按照國民黨軍之中職務軍銜與銓敘軍銜的劃分來看，廖耀湘的銓敘軍銜只是騎兵上校，直至1948年廖耀湘的軍銜才被提拔為少將，這當中的差距可以說是一目了然。
廖耀湘的出身雖然算不上大富大貴，但也應該算個書香世家，按照正統的教育來看，廖耀湘後來等於說是「投筆從戎」，1925年中學畢業的廖耀湘南下廣州投考黃埔軍校，由於家裡拼盡家產也未能湊足學費，因此廖耀湘錯過了黃埔五期的招生，只能滯留長沙，在趙恆錫的部隊中當兵，直至1926年才考入黃埔軍校第六期騎兵科。
很多人都以為黃埔生畢業，自然是越靠前越好，這樣也能混個資歷，實際上黃埔初期的教育是非常粗的，由於沒有足夠的辦學經驗，加上戰爭等因素，早期的黃埔畢業生幾乎算是是一邊打仗一邊學習，其中黃埔一期畢業生，滿打滿算只學了7個月，1924年3月24日入學，11月畢業，其中10月還經歷了評定商團叛亂作戰，就連畢業典禮，也是在第二年6月補辦的。
相比之下，黃埔學生越往後，其教育規範也越來越嚴格，後來逐漸規範以後，學習時間也逐漸增加，直至黃埔六期畢業生，而廖耀湘1926年考入黃埔軍校以後，直至1929年才畢業（因蔣介石發動四一二反革命政變，事實上我軍之中不少黃埔六期生未能順利畢業），並在第二年5月參加了公派留學的考試，這學習的時間有多長可想而知。
比較值得一提的是，黃埔還被蔣介石停辦過一段時間，直至1933年重辦，而第八期的學員學制上普遍增加至3年，後來因為抗戰原因才縮短。由此可見，廖耀湘本身是經歷過系統的軍事教育的，這一經歷為他加分不少，更為艱難的是，廖耀湘在1930年5月參加了留學考試，名列三甲，因此有幸前往法國聖西爾軍校學習。
據說因為個子太矮的關係，廖耀湘一度被刷下來，後來強闖蔣介石辦公室，因此博得了蔣介石好感，因此特批他前往法國留學。
實際上也可以看出，留學法國在當時並不算是一個比較突出的條件，畢竟廖耀湘本人也只是名列前茅，和他一起的也有不少，可最終脫穎而出的只有廖耀湘一個人，可見想要成就大事，除了個人能力出眾外，還需要在恰當的時機，把我機會才行。
抗戰時期廖耀湘僅任中校營長，後來又調任中校參謀，基本上不顯山不漏水，後來參與南京保衛戰，日軍進城時被困在城中，幾經挫折才脫險，出來以後即著手寫下「南京戰役之經驗及國軍今後建軍應有之改進」，被蔣介石破格提拔為第200師少將參謀長。
第200師前身是國民革命軍事委員會下屬的戰車營，在全面抗戰爆發之前，該部與交通兵第2團裝甲汽車隊改編為裝甲兵團，並在1938年擴編為200師，全師5個團2萬多人，是中國第一支機械化部隊，可以這樣說廖耀湘當時這份報告，正好送對了時間，也是廖耀湘後來被破格提拔的主要原因之一。
由於該部格外受到重視，因此具有留學經歷的廖耀湘，基本上升遷很快，第5軍200師後來被單獨劃出組建新編11軍（後改為第5軍）以後，廖耀湘任新編第22師副師長，師長為邱清泉。1939年桂南會戰後任22師師長，由於職務升遷太快，因此廖耀湘銓敘軍銜始終跟不上職務變化，也就有了後來任第九兵團司令時，廖耀湘職務軍銜為中將，而銓敘軍銜僅是騎兵上校的落差。