在不同的國家，不同的時期，對於衝鋒鎗有不同的叫法。德國人稱為Maschinen-Pistole，意為機關手槍，縮寫為MP，所以德軍衝鋒鎗都冠以「MP」的編號，例如一戰的MP-18，二戰的MP-38和MP-40，以及二戰以後最有名的MP-5。
俄國人的叫法是Пистолет-пулемет，前一個單詞是手槍，後一個單詞是機槍，這種叫法和德國人類似，所以俄國衝鋒鎗型號都以ПП（英文PP）開頭，例如二戰時期著名的ППШ波波莎和ППС波波絲衝鋒鎗。
在上世紀20至40年代，國內通常以美國稱呼 submachine gun（SMG） 作為衝鋒鎗的名稱，直譯為輕機槍，短機關槍，手提機關槍等等。日語則為輕機關銃，而英國人有時候稱之為 machine carbine，意為機關卡賓槍。
在第一次世界大戰期間，人們發現現有的手槍火力不足以應付戰壕和城鎮等狹窄空間內的火力需求，機槍又太笨重而無法展開，於是衝鋒鎗就應運而生的， 德國人在1918年設計的MP18衝鋒鎗被認為是第一支真正意義上的衝鋒鎗。
德國的MP38式是世界上第一支摺疊式金屬託衝鋒鎗，法國的E·T·V·S是第一支摺疊式木託衝鋒鎗；除了蘇聯採用7．62mm手槍彈和美國採用11．43mm手槍彈外，其他國家普遍採用9mm帕拉貝魯姆手槍彈，這種槍彈可與大多數手槍通用。
如今使用手槍彈的常規衝鋒鎗進一步向多功能化、系列化的方向發展。通過給衝鋒鎗配用各種光學瞄準鏡、消聲器，使其具備有多種功能。
衝鋒鎗這個詞在中國應用比較晚，大約是解放戰爭以後才在我軍開始應用的。按照《中國兵器工業科學技術辭典》（輕武器分冊）中的定義，衝鋒鎗是單兵雙手握持，可發射手槍彈的輕型全自動槍，請注意「發射手槍彈」和「輕型全自動」這兩個關鍵詞，國內對衝鋒鎗的劃分方法是習慣以這兩個關鍵定義作為分類標準的。衝鋒鎗介於手槍和自動步槍之間，比步槍短小輕便，便於突然開火，射速高，火力猛，適用於近戰或衝鋒，因而得名「衝鋒鎗」。
我軍唯一例外發射步槍子彈的衝鋒鎗是56式衝鋒鎗，它是蘇聯卡拉什尼科夫AK-47型突擊步槍的國產仿製型號，該槍發射7.62x39mm56式步槍彈，按照概念劃分，應該屬於自動步槍。但由於1950年代我國的武器思想較為傳統，還沒有突擊步槍和自動步槍等概念。
另外，衝鋒鎗一開始並沒有短小輕便的概念。我國的50式衝鋒鎗，仿製於蘇聯ППШ-41波波莎，由於原槍配備的71發彈鼓很不好用，經常被磕癟，故障較多不可靠，所以50式衝鋒鎗改用供彈順暢的35發彈匣。該槍過於笨重，全重七斤三兩，比現在的95式自動步槍還要重七兩。後來我軍改進為金屬摺疊槍託，仿製ППС-43波波絲成為54式衝鋒鎗。
那時候普遍認為只有56式半自動步槍和莫辛納甘栓動步騎槍那樣的槍枝，才能稱為步槍，而把發射中間威力型步槍彈的全自動武器稱之為衝鋒鎗，戰術定位也被設定為班組火力支援用武器，用於提供近距離壓制火力，因此定型為衝鋒鎗，稱為1956年式衝鋒鎗，簡稱「56衝「。
56式衝鋒鎗是我國生產和裝備量最大的自動步槍，1956年生產定型，1963年改型56-1式， 1980年改型56-2式， 1991年改型QBZ56C式。56式衝鋒鎗與AK-47突擊步槍的性能基本一致，外形上稍有不同，例如AK-47的準星為半包式兩側護翼，而56式衝鋒鎗則為全包式的護環，護環頂端有開孔，56式衝鋒鎗最特別的是採用了摺疊式的三稜刺刀，充分發揚我軍「刺刀見紅」精神。56式衝鋒鎗的產量極大，甚至比蘇聯原裝貨AK47還要大得多，原因是AK47突擊步槍在蘇軍的裝備時間較短，很快就被AKM槍族所取代，而中國產的56式則一直生產到90年代初。