古代的兵部尚書大多由文人任職，人們通常會認為帶兵打仗的應當是武官，那麼為何古代的兵部尚書大部分是文人呢?
隋唐時期設三省六部制，六部分別是兵部、刑部、禮部、戶部、工部和吏部。其中兵部尚書為兵部之首，負責管理全國上下的軍政事務。
兵部隸屬尚書省，是尚書省下面的六大主要職能部門之一。兵部下屬分為許多部門，各個部門負責不同的事務，如負責地方防務、繪製軍事地圖、負責軍事交通的規劃、負責武器裝備儲藏等。
兵部在隋唐時期屬於軍事行政部門，兵部尚書並不負責戰爭時候的行軍打仗，與國家的重要軍事決策也沒有關係。事實上，兵部是專門負責全國的日常軍事行政事務的機構，如對軍隊武官的考核任免、軍事基礎設施的建設、武器裝備的儲藏供給等方面。
《新唐書·百官志一》對此有詳細介紹：「兵部。尚書一人，正三品;侍郎二人，正四品下。掌武選、地圖、車馬、甲械之政。其屬有四：一曰兵部，二曰職方，三曰駕部，四曰庫部。」這就說明了為什麼兵部尚書是由文人擔任，因為它根本不是人們認為的屬於武官的官職。
而古代的兵部尚書放在現在又屬於何種職位呢?隋唐時期的兵部尚書為正三品，可以算作高級官員，這一時期的兵部尚書相當於國防部部長。唐末五代以來，兵部尚書的職權被「樞密使」分走了大部分權力，直到元代，軍事機構的重心都在樞密院，兵部形同虛設。
北宋前期的兵部尚書空有官員的級別待遇，沒有實際的權力。宋神宗時期進行了官制改革，三省制恢復，兵部的職權得到部分的恢復，但實權與唐代比起來依然相差甚遠。
元代兵部尚書的職權更低，只負責軍事交通事務的設計管理和規劃等事務。這個時期的兵尚書只是名義上的國防部部長。
明清時期廢除宰相，兵部尚書地位得到大大提升，為正二品。由於樞密院被廢，全國軍事機構的重心落在了兵部，兵部尚書的職權得到加強，成為了全國最高軍事領導機關，這個時期，它需要負責制定軍事計劃，管理武官的考核任用，組織軍隊訓練，掌管軍籍軍戶，傳達皇帝軍令和依令調遣全國軍隊等事務。這時候的兵部尚書可以說是名副其實的國防部部長。
自古而來，軍事都是國家實力的關鍵，對一個國家的發展的重要作用不言而喻。因此，古代兵部尚書的官位和作用都不容忽視。兵部尚書之職自設立之初就被歷朝沿襲使用，延續了達上千年的時間。
歷史上許多名人都曾擔任過兵部尚書，例如李靖、歐陽修、袁崇煥、和珅、紀曉嵐、李衛等，了解過兵部尚書的真正職權之後，就會知道為何古代兵部尚書大多由文人擔任。