火箭的發明最早出現在中國，在中國古代的記載中，火箭的含義比較廣泛，最早的記載出現在三國時期，魏國第一次在射出的箭上裝上火把，從而有了「火箭」之名。從唐末到宋初火藥武器開始使用，但由於其配方和製作方法還處於初級階段，所以不足以作為推進的燃料。隨著火藥配方和製造技術的進步，12世紀初研製成功了固體火藥，並把它用於製造火器和焰火煙花，在使用這些火器與煙花特別是手持使用時，人們感到火藥燃燒會產生很強的後坐力，於是有心人在這種啟示下發明了新的火藥玩具。大約12世紀末到13世紀初出現的玩具「穿天猴」可以說是真正意義上利用反作用原理的火箭，將這種原理的火箭作為武器使用具有相當的殺傷力，所以在戰爭中也開始頻繁地使用它。
公元1128年南宋政權建立後，南宋、金和蒙古頻繁交戰，各方都使用了火器。1161年11月，金國侵略中原時，南宋軍隊第一次使用了火箭武器——「霹靂炮」重挫金軍，這是人類歷史第一次在戰場上使用火箭武器。連年的交戰使火箭技術逐漸被金和蒙古所掌握，於是當時各方兵工廠的一個重要內容就是火藥製造，在這種情況下火藥的配方有所改進，製造工藝漸趨成熟，其燃燒速度和爆炸力也得到增強。13世紀蒙古在先後三次的大舉西徵中，採用了南宋的火器技術，用漢人工匠製造大炮。當時在歐洲戰場使用的火箭已有多箭齊發的火箭筒，這種集束式火箭發揮了絕大的威力，使歐洲人大為吃驚。當然在這幾次西徵中，阿拉伯人從中掌握了火藥和火箭的技術，並進一步把它傳入了西方。
明代中國火箭發展進入了一個比較重要的時期，出現了很多種類的火箭，除了單級火箭，還發展了各種集束火箭、火箭彈和原始的多級火箭，並且對各種火箭的製造、應用、配備和發射劑原料配比及加工製造等都作了詳盡的敘述。在當時的水、步、騎兵中火箭武器已作為必備的武器，甚至還有專門的火箭部隊，有關火箭武器的使用、布陣、作戰技術和管理也都有條例規定。
明代的《武備志》中曾有過這些火箭的記載
《武備志》所記載火箭
名稱 射程
五虎出穴箭 500步
七星箭 不詳
九龍箭 不詳
火弩流星箭 不詳
火龍箭 不詳
長蛇破陣箭 200步
一窩蜂箭 300步
群豹橫奔箭 400步
四十九矢飛簾箭 不詳
百虎齊奔箭 300步
明代的火箭雖然種類繁多，但發展主要體現在火箭樣式的更新上，有關火箭的尺寸、規格、裝藥劑量、發射距離方面卻少有討論。而在火箭的穩定方面，仍然是傳統的箭杆加羽毛方式，精度不能得到顯著的提高，這就使火箭的尺寸和射程難以提高。進入清代火箭雖然也有一定的發展，但其發展基本停留在原地。一方面看這是因為長時間的和平以及封建君主所推行的封閉政策所影響，但從技術的發展來看主要還是缺少相應科學知識的指導。縱觀中國古代火箭技術的發展過程，所走的基本是經驗式的道路，沒有對火藥的燃燒機理，火箭的推進原理，箭羽的穩定原理等問題進行深入的研究，而仍局限於用陰陽五行說來解釋爆炸原理，這就使得火箭技術的較大改進難以出現。
而火箭技術在13世紀傳入阿拉伯國家後，又逐漸傳入歐洲，意、法、德、波蘭、英、俄等國都先後掌握了火箭技術。尤其出於戰爭的需要，這些國家在使用火箭的過程中，深入研究火藥配比，火箭形狀、大小及穩定裝置和火箭材料，在這些方面進行了重大改進。很快歐洲的火箭在重量、射程和精度等方面就超過了中國火箭。公元18世紀初(大約清康熙~雍正年間)，波蘭就已生產出了重達22.7千克甚至54.4千克的大型火箭，德國也試驗了多種帶導向杆的重45.4千克的火箭。