張連忠上將被稱為「仁者無敵」，但是，他不是和稀泥的人，相反，治軍甚嚴，許多人怕了他。
在海軍中，一直流傳他當司令員時的兩件事。
張連忠擔任海軍司令員，喜歡下基層，但是他聽匯報規定三條：一不能講假話，二不準拿材料，三時間不超過40分鐘。為什麼規定這三條？他說：一旦打起仗來，這三條無論犯上哪一條，都會害死人，要戰士們的命。
因此，若有人講假話和套話，他就會當場打斷；匯報超過40分鐘，他就會拒聽。
一次，他去一個海軍單位檢查工作。一個領導幹部知道他匯報不準拿材料，就耍小聰明，把秘書事先準備好的匯報稿，用小號字列印出來，貼在筆記上，匯報時照本宣科。就在他正說得帶勁時，被張連忠發現。
張司令走上去，氣憤地將小本子一把抓過來，扔到了一邊。
從此，海軍領導幹部的作風大為改變。
在海軍還流傳張司令在汕頭發生的一件事。
一次，張連忠來到了汕頭一個海軍供應站，檢查倉庫物資的儲存和發放情況。他看見院子裡有一個磅秤，立即走過去，站了上去。
大家都以為他是隨便稱一下自己的體重。
張連忠個子不高，而且不胖，體重不到65公斤，結果，他往這個磅秤上一站，一下居然蹦到了7l公斤。他立即臉色大變，下令把供應站站長找來，問道：「你這秤準嗎?」
供應站站長回答： 「準!」
張連忠更加火起了： 「準你個屁！我65公斤不到，你看看，我現在71公斤!」
然後，他轉過頭對隨行的基地司令員說：「把他馬上撤職，還要嚴肅查辦！」
原來，他不是稱體重，而是獲悉個別一些供應站給部隊發放物品時總是缺斤少兩，便站上去看這個秤準不準。果然，隨後，這名站長承認，他們在磅秤上做了手腳。
張連忠查處這個站長後，海軍基層的作風也大為轉變，尤其是侵害官兵利益的事銷聲匿跡。