1938年1月,八路軍一二九師386旅副旅長陳再道,奉命率領386旅部分兵力,開赴冀南,開闢冀南抗日根據地。參謀長李聚奎也被派出去了,他帶領一部分部隊,從晉東南到冀南再到魯西北不停地戰鬥,目的也是開闢抗日根據地。陳再道和李聚奎都走了,386旅的旅領導,只剩下陳賡、王新亭兩個人了。
而此時的386旅,已經很強大了。386旅剛組建時,就有5700多人,1937年打完長生口、七亙村、黃崖底等戰鬥後,不光名氣大增,開闢的根據地,也很快壯大,雖然分給陳再道和李聚奎兩人一部分兵力,前來參軍的有志青年源源不斷,兵力不僅沒有減少,而且,正在一步步擴大,如此,就急需加強旅部的領導力量。
而此時,時任任延安抗日軍政大學校務部副部長的許世友,正在跟朱老總在太行山活動,他聽到這個消息,積極要求到386旅去。朱老總經過考慮,認為派許世友去386旅,也是合適的。為什麼呢?因為許世友在1931年當紅四軍第12師三十四團團長時,紅12師的師長,就是陳賡,而且,陳賡人品好,威望高,能鎮得住許世友,於是,在1938年10月,許世友來到了386旅報到。
在386旅當副旅長期間,許世友雖然性格剛烈,但在老首長陳賡面前,他也不敢造次,儘管陳賡事事都跟他商議,平時言談也風趣幽默,但老許還是感到很不自在。1939年2月上旬,在著名的香城固戰鬥中,老許打的興起,掄起大刀,甩開膀子,就衝了上去,跟日本鬼子拼起刺刀來。行為很英勇,但他可是副旅長,他的位置,應該在指揮部,所以,他這一行為,戰後被陳賡一頓猛批,老許嘴裡不敢吱聲,但心裡生氣,就賭氣申請說,自己水平不夠,要去學習,不久,他就到華北局黨校學習去了。
幾個月後,也就是1939年秋,朱老總來到華北局黨校視察工作,他又去找朱老總,說,要上前線,但不想回386旅了。朱老總一聽就明白了,心裡想,你這個許大膽,也有怕的人,肯定是被陳賡收拾的夠嗆。朱老總當時沒答應他,但回到延安後,把許世友的想法報告給了主席,主席一聽,也樂了,說,那就讓他到八路軍山東軍區去當個旅長吧。1940年9月,許世友調任山東縱隊第三旅任旅長。