仲裁作為一種解決國際爭端的手段，在近代歷史上第一次出現在了1794年。剛剛獨立的美國和英國籤署的《英國國王陛下與美利堅合眾國友好、通商與航海條約》（Treaty of Amity, Commerce, and Navigation, Between His Britannic Majesty and the United States of America，又稱《傑條約》Jay Treaty）建立了一種由混合的委員會處理各方法律爭端的方式。這一爭端解決方式隨後於1872年被成功運用於英美兩國間的阿拉巴馬號仲裁案中。
常設仲裁法庭的建立
仲裁的成功運用，引起了國際社會的重視。在俄羅斯沙皇尼古拉斯二世的提議下，1899年在荷蘭海牙召開了第一次海牙和平會議，正是在這次會議上，通過了《海牙和平解決國際爭端公約》（Hague Convention for the Pacific Settlement of International Disputes，下文簡稱《公約》）。1900年根據此《公約》設立的國際常設仲裁法庭（Permanent Court of Arbitration）正式成立。清政府是於1904年加入了該《公約》，使得中國成為了締約國。1907年第二次海牙和平會議又通過了該《公約》的修正案，進一步明確了常設仲裁法庭的職能和相關組成。
第一次海牙和平會議
正如在民法中仲裁需要得到仲裁各方同意與認可，1899年《公約》的第15條則將國際仲裁定義為「在尊重法律的基礎上，由各國家自行選擇的法官管控分歧。」同時根據《公約》第16條，「在對法律本質有疑問時，尤其是對解釋和適用國際條約有疑問時，仲裁是在籤約國各方窮盡外交手段後，經過各方認可的最為公正、最為有效的手段。」國家在沒有得到其認可的情況下，並無將爭端提交仲裁的義務。以上都充分體現了仲裁需要充分尊重國家意願，得到各國認可的特質，同時也限定了仲裁為外交手段完全失敗之後的救濟措施，而非解決國際爭端的的一般措施。
實質上常設仲裁法庭既非常設，亦非法庭。這一組織只有一個國際局（International Bureau），起到各類仲裁案件的秘書處的作用，而仲裁委員會則是各個仲裁國在其所圈定的國際法專家名單中自主選擇的，實質上參與案件仲裁的仲裁委員會是臨時的，是就每個仲裁案的不同而臨時設定的，並非常設的。如果仲裁國有要求，還可以成立特別仲裁委員會，而常設仲裁法庭則應當向這一特別委員會提供場所和人員上的便利。
可見仲裁委員會的組成是由國家決定的，常設仲裁法庭服從於國家的安排，其應當根據國家的意願行事，並不能凌駕於國家之上進行裁決，不具有超主權的特徵。
常設仲裁法庭的實踐
由於常設仲裁法庭在設立初期只接受主權國家間的爭端仲裁，所以於1900年創立到1932年之間，其只仲裁過二十起案件。很長一段時間內，其陷入了無案可理的窘境，其起到的作用僅僅為向聯合國國際法院提供法官候選人名單。常設仲裁法庭為了維持其自身的生存，逐漸將仲裁範圍從國家間的爭端擴展到了國家與國際組織之間的爭端，國家與私營部門間的爭端。
1907年召開的第二次海牙會議
常設仲裁法庭並非專注於解決國家間主權爭端的機構，其業務範圍已經橫跨到了調整國家與其他法人的範圍中，涉及到了國際私法範圍。如常設仲裁法庭於1935年仲裁了美國無線電公司提起的，與當時中華民國政府所籤訂的關於無線電通訊協議的爭端。又如常設仲裁法庭在2012-17號案件（PCA Case No. 2012-17）對於美國某能源集團提起的針對加拿大政府違反《北美自由貿易協定》的仲裁。