德軍在入侵歐洲其他國家後，組建了很多部隊，其中就有一支臭名昭著的第3「骷髏」師，這支部隊是在波蘭戰役後，新建的一些武裝黨衛隊師團，第3武裝黨衛隊師由一些參加過波蘭戰役的「骷髏」單位和國內「骷髏」組織的後備隊加上其他一些武裝黨衛隊輔助部隊而組成，這個部隊在陸軍指揮下參加了波蘭戰役，之後一些部隊被調出以作為新成立的「骷髏」師的骨幹。
在法國戰役中，第3武裝黨衛隊師先是被作為預備隊，但在當天發生了屠殺戰俘的事件，就是這支部隊所幹的事，之後，該師前往敦刻爾克以南的法國海岸擔任海岸防禦任務，1940年6月初，該師移防聖洛，準備參加法國戰役第二階段的攻勢，在戰役實施時，它負責保護集團軍的側翼，清剿奪取的地區和押送戰俘，當法國戰役結束時，該師已經到達西班牙邊界。
在蘇德戰爭後，它迅速穿越了立陶宛、拉脫維亞，7月越過了史達林防線，到達了德米揚斯克以北，1941年秋冬季，蘇軍在北方前線向德軍發起了反擊，最後，該師被包圍在德米揚斯克口袋，戰鬥是如此慘烈，以至於因為其人員與裝備損失過大，有人稱：「一支訓練有素的、有經驗的副領袖和組長均已喪失殆盡的連隊，是不可能展開進攻的，叫它擔任防守是靠不住的，因為它缺少主心骨。現在，師裡有的連長已經站在自己的陣地前面不知如何判斷情況了。」
在1944年，整個東線的情況變得非常糟，蘇軍在所有戰線開始反攻，特別是在中央戰線，蘇軍發起的規模浩大的攻勢在四個星期內打垮了德軍中央集團軍群，將德軍戰線後逐了三百英裡，當攻勢停止時，他們已經渡過維斯瓦河，站在華沙的大門口了，為配合蘇軍的挺進，華沙城內爆發了起義，「骷髏」師和其他部隊一起緊急趕往華沙地區，制止了蘇軍的前進並鎮壓了起義。
隨後，該師被派往南方參加布達佩斯解圍戰，為了解救被圍的四萬五千德軍，「骷髏」師一直打到了布達佩斯機場，但迫於蘇軍的強大兵力和資源優勢，始終未能達到目的，從那以後，隨後該師在布達佩斯以西進行防禦作戰，一直退到維也納附近。該師於1945年5月9日向美軍投降，但作為戰俘被移交給了蘇軍。
黨衛軍第3「骷髏」裝甲師同「帝國」師合稱為黨衛軍的三個王牌裝甲師，就戰績而言，「骷髏」師比起「帝國」師要稍遜一籌，但是它都一樣血腥殘忍，有過屠殺無辜平民和戰俘的劣跡，讓人憎恨，不能原諒。