黑幫起源於德川幕府（1603年至1868年）。起初，有兩組不同的代表。第一個以流動的小販組成的，他們從一個村莊到另一個村莊，在節日和市場上銷售低質量的商品。實際上，他們的身份在日本封建社會結構中位於下層。
在18世紀初期，這群小販開始在老闆的領導下組織成緊密的團體。同時，團體也吸納了不少來自高層階級的逃犯，並以此開始展開有組織犯罪活動。起初，他們的對外犯罪行為還是為了維護自己的小本生意而展開的。後來，他們經常通過收取其他小攤販的保護金來維持運作。
在1735年至1749年間，日本政府就試圖平息不同群體的遊商小販之間的團夥戰爭，並通過為一些商人背書來減少犯罪活動。然而，這根本無法抑制這些小群體持續吸納成員，他們的人數日益增長。
形成黑幫的第二類代表是賭徒組成的。從日本德川時代，儘管法律嚴格禁止賭博，但無法從根源上阻止民間的賭博行為。他們有著色彩斑斕的紋身，這導致了現代黑幫的全身紋身習俗。從賭博人員慢慢發展起來的賭博團夥，自然地演變出放高利貸和其他非法行為。
即使在今天，特定的yakuza幫派也可能將自己稱為tekiya或bakuto，這取決於他們如何賺取大部分錢。他們還保留了早期團體使用的儀式，作為他們啟動儀式的一部分。
現代山口組
自第二次世界大戰結束以來，在戰爭平息後，黑幫團夥的人數反彈。日本政府估計，2007年有超過102,000名日本黑幫成員活躍。儘管1861年官方結束了對部落民的歧視，150多年後，許多幫派成員仍然是那個被拋棄的階級的後裔。其他人是韓國人後裔，他們在日本社會也面臨著相當大的歧視。
今天黑幫文化的標誌性方面可以看到幫派的起源痕跡。例如，許多山口組成員的紋身覆蓋全身，而且他們的紋身使用的是傳統的竹子或鋼針紋上去的，而不是現代的紋身槍。紋身區甚至可能包括生殖器，這是一個令人難以置信的痛苦傳統。黑幫成員通常會在聚會時展示紋身，這是對前文所說的第二組黑幫組織的傳統認可，但在平常生活中，他們通常會穿長袖來掩蓋紋身。
黑幫文化的另一個特點是切斷小指的關節。當一個黑幫成員犯錯或以其他方式使他的領導不高興時，切斷自己的手指等同於道歉。有罪的一方切斷了左手小指的頂部關節並將其呈現給領導。
這個習俗起源於德川時代; 手指關節的丟失使得強盜的劍握得更弱，理論上導致他會更多地依賴於其他人的保護。今天，許多山口組成員會戴假的小指，以避免顯眼。
今天運營的最大的黑幫集團是以神戶為基地的山口組，佔日本所有活躍的黑幫人數一半左右; 次之是住吉會，起源於大阪，擁有約20,000名會員; 以及東京和橫濱的稻川會，擁有15,000名會員。這些幫派從事犯罪活動，如國際毒品走私，人口販運和武器走私。然而，他們還持有大量合法公司的大量股票，有些與日本商業世界，銀行業和房地產市場有密切聯繫。
山口組和社會
有趣的是，在1995年1月17日的神戶大地震之後，山口組首次出現受災地區，為災民服務。同樣，在2011年地震和海嘯之後，不同的黑幫團體向受災地區運送了大量貨物。黑幫存在的另一個「好處」是壓制小罪犯。神戶和大阪擁有強大的黑幫集團，然而，這兩個地方是全日本相對比較安全的城鎮，因為小的犯罪團夥不敢侵入黑幫區域犯事。
儘管黑幫起到一些不可思議的正面效應，日本政府近幾十年來一直在打擊幫派。1995年3月，日本通過了一項嚴厲的新的反敲詐勒索立法，即「防止犯罪團夥成員非法活動法」。2008年，大阪證券交易所清除了所有與黑幫有關係的上市公司。自2009年以來，全國各地的警察一直在逮捕黑幫老闆並關閉與該團夥合作的企業。
雖然警方現在正在認真努力打擊日本的黑幫活動，但這些集團似乎不太可能完全消失。畢竟，他們已經存活了300多年，並且與日本社會和文化的許多方面密切相關。