其實普魯士很早以前只是一個地名，至於他是怎樣的一個國家，這要從條頓騎士團、布蘭登堡選帝侯說起。
一、所謂「騎士」
所謂「騎士」，就是自帶武器乾糧為國王、貴族或領主打仗的騎兵，他們通過打仗可以獲得封地。騎士是一種身份，並不是貴族，當然貴族是可以當騎士的，比如有名的沒落貴族堂吉科德。有這樣的人為自己出頭打戰，貴族也好、領主也好當然求之不得，於是他們就把「騎士」給美化成很崇高的樣子，還派生出「騎士」精神，在中世紀的歐洲代表了勇敢、忠誠，英雄、俠義。
二、騎士團的出現與十字軍東徵有關
歐洲一開始只有基督教，大約誕生於公元一世紀，他們在蒙昧的歐洲大行其道，教皇、教會有許多特權；國王也希望教皇能幫助他統治，但又不希望教皇凌駕於自己之上，出現了許多政教爭端，不過合作是主流。但到了公元七世紀，伊斯蘭教誕生了，他們以阿拉伯半島為基礎，以麥加為聖城，迅猛地向外發展，並且把麥地那作為第二聖城、耶路撒冷作為第三聖城。羅馬的基督教教皇擔心了，因為在基督教徒看來，巴勒斯坦是耶穌生活和殉道的地方，耶穌的墳墓也在耶路撒冷，那裡是他們的「聖地」，怎麼能控制在信仰伊斯蘭教的穆斯林手中呢？1095年，教皇烏爾班二世在法國克萊芒發表了演說。他以奪回耶路撒冷為號召，呼籲組成遠徵軍，鼓動人們「拿起武器」、「奪回主的聖地」，就是要奪回耶路撒冷。
烏爾班二世的演說得到歐洲各國君主、諸侯及教徒們的響應，名義都是要奪回聖地，其實各國有開疆拓土侵略的想法、教皇有打擊「異端」獨尊吾教的念頭，虔誠的教徒們可能真的有保衛和奪回耶路撒冷的想法。於是「到東方去」、「討伐異教徒」、「解放聖城」的呼聲傳遍歐洲大陸，許多傳教士、商人、農民、手工業者等等，甚至小孩，他們叫「童子軍」，懷著狂熱的宗教情感投身於這場「聖戰」，其中特別多的就是騎士，他們有的是國家組織的，有的是貴族、領主組織的，還有的是自己自願參加的。
在十字軍東徵過程中，他們陸續佔領了地中海東岸最富庶的地區和最繁榮的工商業城市，並在這一帶建立起4個十字軍國家，為了保護這些建立的國家，羅馬教皇組織起幾個僧侶騎士團，這就是歷史上著名的三大騎士團，即醫院騎士團、聖殿騎士團和條頓騎士團。他們的任務就是鞏固剛建立的國家、向外侵略、打擊穆斯林，保衛基督教。他們有如同宗教組織的武裝，成了「武僧」。
騎士團內部實行嚴格的集權制管理，基本就是軍隊性質。每個團的最高首領是"總團長"，總團長直接聽命於羅馬教皇，必須唯教皇之命是從。羅馬教皇則給予騎士團各種特權，其中最為重要的一條是：不受十字軍國家的僧俗統治者管轄。就是說國王也管不了他們。在名義上，騎士團必須恪守安貧、守貞和聽命三大戒律。但是，騎士們朝思暮想並且為之忙得不可開交的，卻是積累財富，他們根本受不了清規戒律的束縛。而且，十字軍國家的僧侶封建主為了借騎士團的力量長期佔據地中海東岸，也給予他們以優厚的待遇。因此，騎士團的生活方式極端世俗化，「酒肉穿腸過、美女身邊留"。
三、條頓騎士團
條頓騎士團是有名的三大騎士團之一，另兩個是醫院騎士團和聖殿騎士團。
三大騎士團中最早成立的是聖約翰騎士團，通常被稱為醫院騎士團，成員多為法國騎士、北義大利騎士、西班牙騎士。它一直延續至今，被稱為馬爾他騎士團，之前也曾被稱為羅德騎士團（曾長期駐紮在羅德島），當然現在不會再騎馬揮劍了，所謂「騎士」也就是個榮譽稱號。
第二個成立的是聖殿騎士團，是十字軍東徵期間最顯赫、財富最強大的騎士團，不過正因為財產多加上驕橫一些，他們被法國法國國王腓力四世編織"異端"罪名殘忍地消滅了，許多成員被燒死，有的穿著鐵甲架在火上燒。開始逮捕他們的那一天是1307年10月13日星期五，所以又叫"黑色星期五"。聖殿騎士團成員基本為法國騎士。
最後一個成立的是條頓騎士團，它於1198年在巴勒斯坦建立，主要由德意志騎士組成，13世紀初，他們將活動中心自中東轉移到東歐。成立之初，教皇批准他們穿和聖殿騎士團一樣的白色長袍，不過上面繡著的是黑十字，作為兩者的區別。從此後白底黑十字就成為條頓騎士團的標誌。條頓騎士團旗幟上的十字跟一般的十字不一樣，它偏向左邊而不是左右對稱。著白色外衣，佩戴黑色十字章，白色鬥篷上繪有紅色寶劍和十字。
雖然條頓騎士團早已滅亡了，但騎士團的黑十字標誌仍被繼承並延續下來，在第二帝國、魏瑪共和國以及第三帝國的軍旗上，黑十字都是重要的標記，代表了從條頓騎士團開始的一脈相承的軍事傳統——鐵與血鑄成的十字架代表用鐵鑄造、用血澆灌。如果我們大家注意一下北歐國家的旗幟的話就不難發現，瑞典、丹麥、芬蘭、挪威、冰島等國的國旗上都有這種偏向左邊的十字，這種十字被稱為斯堪地那維亞十字。今天主要說它和普魯士王國成立的關係。
四、普魯士王國的建立
在中世紀早期，普魯士這塊地方是蠻荒之地，在現在的德國北部，古代的居民為古普魯士人，所使用的普魯士語屬于波羅的語族，與拉脫維亞人和立陶宛人屬於同一種族。所以從法理上說，這塊地方並不屬於德意志神聖羅馬帝國的疆界範圍。1226年，波蘭王國國王的兒子、馬佐維亞公國首領康拉德公爵，他是條頓騎士團成員，因為自己的領地遭到古普魯士人侵襲，他請條頓騎士團在普魯士地區發動了為時近200年的東徵運動，先後建立託倫、馬林堡、庫爾姆、埃爾平等要塞，徵服了普魯士人居住的地區，普魯士成了條頓騎士團的地盤，德意志人、波蘭人、立陶宛人和歐洲其他種族紛紛前來移民。
後來經過多年戰爭，條頓騎士團被迫割讓了包括但澤和馬林堡在內的西普魯士，自己只保留普魯士的殘餘領土（東普魯士），效忠波蘭國王，成為波蘭的附庸國。到了1512年，一個出生於布蘭登堡的名叫阿爾伯特的人當選為條頓騎士團總團長，1525年他宣布改信路德宗教，切斷了與騎士團名義宗主羅馬梵蒂岡的聯繫，宣布將條頓騎士團世俗化，改為普魯士公國，阿爾伯特自任普魯士公爵，成為臣服于波蘭最高權力之下的世俗君主。阿爾伯特傳給了他的兒子阿爾伯特·腓特烈，但阿爾伯特·腓特烈死後無子，普魯士公國遂由其長女之夫、布蘭登堡公國的霍亨索倫家族的約翰·西吉斯蒙德繼承，建立了布蘭登堡-普魯士公國。
霍亨索倫家族可不是一般的家族，他們來自瑞士，一開始家族勢力不大，爵位也不高，但後來家族中出了一位名叫腓特烈的將軍，此人能徵善戰，在戰場上救了「神聖羅馬帝國」的皇帝，皇帝把整個布蘭登堡賞賜給了霍亨索倫家族；布蘭登堡是一片土地肥沃的領地，位於現在的德國東部，其北部是梅克倫堡-前波莫瑞州，東臨波蘭，南邊是薩克森州，西部是下薩克森州，它環繞著柏林州。更加重要的是按照查理四世的約定，布蘭登堡侯爵是帝國的七大選帝侯之一。霍亨索倫家族的政治地位一下子就提高了，由小地方的小貴族一躍成為德意志的新貴。
霍亨索倫家族的約翰·西吉斯蒙德建立了布蘭登堡-普魯士公國後，布蘭登堡和東普魯士就成為他治下的兩塊土地，只是這兩塊領地並沒有連接在一起，中間還隔著由波蘭統治的西普魯士。1655年，瑞典和波蘭之間爆發了第一次「北方戰爭」，當時的布蘭登堡選帝侯腓特烈·威廉和瑞典結盟，對波蘭宣戰；波蘭戰敗後，布蘭登堡大選帝侯腓特烈·威廉通過《奧利瓦條約》取消了波蘭對普魯士的宗主權，獲得了瑞典、波蘭等國對普魯士公國主權的承認，建立起中央集權的政治制度。
1701年，布蘭登堡大選帝侯腓特烈三世（腓特烈·威廉之子）支持奧地利哈布斯堡王朝向法國波旁王朝宣戰，藉以換取國王稱號。1月18日，腓特烈三世在柯尼斯堡加冕成為普魯士國王腓特烈一世，從此一個強大的普魯士王國正式建立，開啟了普魯士王國200多年的顯赫歷史。1713年，普魯士的第二任國王弗裡德裡希·威廉繼位，史稱「威廉一世」。這人就是「腓特烈大帝」的父親。