這個問題看似可以一言而定，無非是二選一，非此即彼。可是，實際情況卻並非如此簡單。因為中國古代的政治架構和官職的設置是在不斷變化的，就算是同一朝代，同一職能的官職，也常常會有所變化。所以這個題其實沒有標準答案。
要把道理講明白，就要從太尉與與樞密使的官名說起。
先說太尉，太尉是秦朝時期中央掌管軍事的最高官員，但是，秦朝到結束都沒有任命太尉一職。到後代，太尉逐漸成為一種虛銜或加官。
再說樞密使，它是唐後期才有有一個官職。樞密院的主官。與中書省並列，專管軍事的一個部門。樞密使也可以說是中央主管軍事的最高長官。
看了這兩個官職的解釋就會發現，這兩個官職的功能似乎是重複的。他們都是管軍事的官員。簡單的說，太尉的官職是高過樞密使。由於太尉在後代成為一種虛銜，相當於榮譽稱號，有些人不是真正的太尉，他們也被稱為太尉。最明顯的一個就是《水滸傳》中的高俅高太尉。
《水滸傳》第二回寫端王抬舉高俅時寫道：「忽一日，與高俅道：『朕欲要抬舉你，但有邊功，方可升遷，先教樞密院與你入名，只是做隨駕遷轉的人。』後來沒半年之間，直抬舉高俅做到殿帥府太尉職事。」 這段描寫能看出，高俅的所謂太尉，真正的官名應該是殿前都指揮使。是禁軍三個組成部分之一。樞密使可以根據皇帝的授權調動禁軍。所以，樞密使的官職應該比殿前都指揮使高。而太尉的稱呼，只是一種尊稱。這就好像現在的中學老師也有互稱「教授」一樣，與真正的教授內涵是不一樣的。
宋朝時期，對前朝的政治架構做了很大的調整。其中最主要的一個方面就是為了解決中唐以後形成的藩鎮割據問題。開始用文官統兵。對於官制上，也做了很大的調整，有宋一代，官職和官銜的設置，都在不斷的改變著。這在每個朝代大概都差不多。
說到太尉，就要從古代的「三公」和「三師」說起。《宋史 職官志》：「三師 三公 宋承唐制，以太師、太傅、太保為三師，太尉、司徒、司空為三公，為宰相、親王使相加官，其特拜者不預政事，皆赴上於尚書省。凡除授，則自司徒遷太保，自太傅遷太尉，檢校官亦如之。太尉舊在三師下，由唐至宋加重，遂以太尉居太傅之上。若宰臣官至僕射致仕者，以在位久近，或已任司空、司徒，則拜太尉、太傅等官。若太師則為異數，自趙普以開國元勳，文彥博以累朝耆德，方特拜焉。雖太傅王旦、司徒呂夷簡各任宰相二十年，止以太尉致仕。」 這裡說的比較明白，在傳統的排序中，太師、太傅、太保之後，才是太尉，宋朝的官階中，做了些變化，太師之後是太尉，太尉之後，是太傅。所以，在宋代，太尉是很高的官位。像王旦、呂夷簡二人做過宰相的，也不過是在退休的時候，加上一個太尉的銜。比太尉再高的只有一級，就是太師，北宋時期，也不過趙普與文彥搏在退休後獲得這一稱號。這與現在的副處級領導從位置上下來，給個正處級調研員的道理是一樣的。
太尉的官銜在北宋後期，宋徽宗時取消。當時蔡京任宰相。南宋時無太尉職銜。《宋史職官志》：大觀元年，京為太尉；二年，為太師。政和二年，京落致仕，依前太師，三日一至都堂治事。九月，詔："以太師、太傅、太保，古三公之官，今為三師，古無此稱，合依三代為三公，為真相之任。司徒、司空，周六卿之官，太尉，秦主兵之任，皆非三公，並宜罷之。仍考周制，立三孤少師、少傅、少保，亦稱三少，為三次相之任。"至是，京始以三公任真相。
徽宗的宰相蔡京先是當太尉，之後升太師。當了太師之後，就不用每上班了。三天上一次班就行了。政和二年，大宋朝取消了太尉、司徒、司空的官職，重新設立了三個「少師」「少傅」，「少保」。所以，南宋的嶽飛就是少保的職銜。說到這兒，問題大概已經清楚了。再說一點幫助理解。宋朝的授官方式，叫「有官、有職、有差遣」。官是官位，和工資待遇級別相關，不一定有具體的工作。職是具體的職務，按《宋史職官志》的說法，職主要是文職，理解為現在的職務大體不錯。差遣就是具體的工作。按現代比照一下，比如在軍隊裡，當師長，是「差遣」，「師長」是職務，「正師」是幹部級別，還有「大校」是軍銜。雖然不能完全對應，道理差不多。所以，《宋史》說：「故仕人以登臺閣、升禁從為顯宦，而不以官之遲速為榮滯；以差遣要劇為貴途，而不以階、勳、爵邑有無為輕重。時人語曰：『寧登瀛，不為卿；寧抱槧，不為監。』」也就是說，走入仕途後，當什麼官不重要，重要的是幹什麼事。如果是在皇帝的身邊工作，官雖小，也可榮華富貴。如果在不緊要的地方當個大官，可能也沒什麼實惠。
這個問題，沒有具體答案，不同時代不同語境之下，有不同的情況。這就好比問。司令大，還是團長大？恐怕沒人能給出正確答案。