山口组的沿革，初代山口组组长、山口春吉于大正4年（1915年）在神户市内，与另外约50名的码头装卸工创立山口组，当时为“大岛组”的一支。(看啦又看手机版）数年后，大正14年（1925年），山口春吉隐退，由他的长子山口登继承，成为第二代山口组组长；山口登被“大岛组”逐出后，便涉足独占神户中央运输市场的搬运权，使势力范围扩大。昭和15年（1940年），山口登在一次为了争夺营业权，在东京浅草被“篭寅组”（现合田一家）的人斩成重伤、在昭和17年（1942年）逝世。二次大战后，昭和21年（1946年），田冈一雄被选为山口组的第三代组长。
田冈一雄在位期间的昭和30～40年代（50～60年代），与许多地缘黑帮之间发生数起对立火拼事件，而使山口组扩大全国各地地盘，成为全国性的广域黑社会组织。田冈一雄拥有超群的统御力及组织力，以雄厚的资金涉足演艺娱乐、营造、航空及各行业公司的经营权，加上文、武分明的强力战斗部队，成为称霸全国的原动力。
田冈一雄死后，第四代组长的遴选使山口组内部分裂；在昭和59年6月（1984年）选出第四代组长，继承者为竹中正久。造成内部反对势力“山广派”不服，集体退出山口组，另组“一和会”与山口组长期对抗达8年之久的“山一战争”；抗争期间，昭和60年1月（1985年）第四代组长“竹中正久”及若头“中山胜正”遭到暗杀；最后，“一和会”也被山口组彻底瓦解。
到了平成元年（1989年）由原第四代山口组若头渡边芳则继承组长一职，成为山口组第五代组长。第五代组长渡边芳则就任后，因积极扩张势力范围，尤其他本人相信武力可以解决一切，造成与多个组织发生对抗事件，像“东日本二十日会”、“五者会”组成的对抗事件即是。平成8年（1996年）7月发生若头补佐“中野太郎”遭“会津小铁会系”的袭击，而当时的宅见胜却介入并引敌为友，造成“中野太郎”的不满与愤慨。平成9年（1997年8月），第五代山口组若头宅见胜即被“中野会派人暗杀身亡，是山口组内部派系jiu纷造成。
山口组是战后日本势力最大的黑社会组织，第一任首领是出生于兵库县谈路岛的渔民山口春吉。
山口春吉因在农村破产来神户谋生，一时找不到职业，就投奔到神户最大的赌徒集团大岛组门下。他以骁勇善赌得到大岛组首领大岛秀吉的悉心栽培，遂以大岛组赌徒为基础，纠集50名赌徒、浪人于1915年正式成立山口组。山口组的最高首领称为“组长”，在各地的头目以他们的姓氏为名组成次级组、会，其下又有更小的组、会，根据地位高低有不同的职位称呼。二号人物称“若头”，即帮头，下设“帮头助理”、“老弟头”、“老弟”等。各组第一任首领死后，若要保留组名，新头目则被称为第二代、第三代等。此后山口春吉又迅速吸收神户地区来自农村的大量的港口搬运工入伙，并施展手腕进入神户最大的欢乐衔新开地，把利润颇大的浪曲剧场的演出权搞到手。山口春吉经营山口组10年后，于1925年把首领的宝座让给了儿子山口登。
23岁的山口登上任后，立即显示出王者之气，他以巧妙手段独占了神户中央市场的搬运作业权和相扑、歌谣的演出权，并拥有春日井梅莺、广泽虎造等日本一流歌手，使山口组事业有了空前的发展。但山口登由于在多年的奋斗中树敌过多，1940年夏在与笼寅组争夺名演员广泽虎造的武斗中被刺，此后病情加重，于1942年死去。山口组处于群龙无首的状态，田冈一雄因为与山口登之女文子的恋爱关系而于1946年出任第三代首领。
田冈1913年出生，自幼家境贫寒，而且父母早亡，很小的时候田冈就被叔父领到神户扶养。高小毕业后，田冈一雄到川崎造船厂当了一名见习工，不久就参加了山口组。
田冈一雄自幼喜欢斗狠，骄横凶悍。到了山口组后，更是如鱼得水。有一次山口组在对外袭击战中，田冈一雄竟用手把对手一员勇夫的眼睛给挖了出来，由此田冈获得了“熊人”的称号，山口登对其特别照顾，总是把最重要的也是最能体现个人才能的工作交由田冈一雄去做，而田冈凭借其过人的天赋和胆略总是能圆满地完成任务。
1936年，一位远近闻名的赌徒酒后闻进兵库的一家山口组事务所（也是赌场）寻畔闹事。众位山口组的成员与之相博，都不能制服这个赌徒。田冈正好路经此地，见有人胆敢在他的地盘撒野，当即火冒三丈，挥起日本刀，一刀就把赌徒杀了。警察闻讯而来，田冈一雄并不逃避，在向山口登告别后昂首进了监狱，他被判了8年徒刑。
1943年，田冈一雄因遇大赦，提前出狱。田冈回到山口组后，立即召集昔日的部下成立了田冈组，并且在成立之初就干了几件惊天动地的大事。
第一件事是利用日本人对旅日华人、朝鲜人（即所谓的“第三国人”）的排斥心理，把在这些外国黑帮控制下的黑市摊位及部分地盘给抢了过来，所使用的手段就是恐吓、凶杀和****。结果使田冈组的名声响彻神户一带。自然，地盘也随之扩大。
第二件事是广开财源，田冈认为，黑道组织如果经济上不能自立，无异于自杀。所以田冈出狱后即先后开办了神户、甲子园、明石赛车场，姬路和阪神赛马场，尼崎赛艇场，福原土耳其浴室，使一般平民的消费都能装入山口组的钱袋。
第三件事就是争夺山口组的首领宝座。山口登有一爱女山口文子，聪明精干，颇有稻赂，早就偷偷喜欢上了田冈一雄。自从山口登死后，山口组的日子就一天不如一天，而田冈的出狱又使山口组恢复了生机，文子有时也向田冈提些建议。久而久之，两人就确立了恋爱关系，而田冈利用这条件，逐渐取得了在山口组中的支配地位。1946年，田冈一雄终于登上了山口组组长的宝座，当时，田冈只有33岁。
田冈上任伊始，就抓“组织的团结”，他认为“暴力团”要想生存，团结是第一要务。他知道自己刚上任，可能有些人不太服气，他就处处身先士卒，以笼络人心。有一次，兵库县警察掌握了山口组众头目在“田冈御殿”即山口组总部议事并私藏毒品的情报，突然包围了田冈家，进行搜查。在场的其他人都大惊失色，认为大势去了，而狡猾的田冈却无事一般，在榻榻米上闭目养神，听到警察来，还满脸谦恭地请警察“请用心慢慢搜查”。警察找了半天，一无所获，垂头丧气地走了。原来毒品已被田冈吩咐文子暗中提前转移了，连众头目都不知道。经过这一变故，众头目对田冈更服气。
田冈的“帮规”甚严，谁违反了处分起来是无情的，断指、处死、破门是常有的事。但田冈也颇有义气，如果他手下有人受难，田冈必全力相助，或派人或送款。如果手下的人受其他帮会的人欺辱，田冈一定去为之复仇，如有一次，田冈特别欣赏的一位歌手被另一黑社会团体“明友会”成员殴打，田冈知道后立即下令手下围歼“明友会”。当天就袭击了“明友会”总部，打死“明友会”人员一人，打伤二人。过了几天，“明友会”被迫向田冈赔礼道歉，这就是战后日本著名的“明友会事件”。
1950年，驻日盟军总部决定打击日本的黑势力，发布了以日本主要黑道组织为对象的“团体规制令”，命令山口组立即解散。田冈一雄见明里硬顶不过，就于当年的11月20日，在神户的凑川神社主持了山口组的解散仪式。
田冈一雄当然不会就此“金盆洗手”，他偷梁换住，带领手下的那帮暴徒干起了合法的“正当”行业——土木建筑、流浪演艺、港湾搬运，如田冈一雄设立的在神户的建筑公司，就颇具规模，而歌舞表演团曾在日本轰动一时。此外通过与当地有名的“赌徒”帮“本田会”的明争暗斗，田冈最终吞并了“本图会”，控制了当地的赌博业。他又开设了几十家妓院，财源滚滚而来。
田冈控制财路的方法是把手下的各个行业包给若头（中层干部）、舍弟（自己的结义弟兄）们负责，然后让他们每月按时交纳贡金，违反者给以严厉的处罚，由此保证了日常开支之需。
田冈控制山口组期间，手下有340多个组织，黑帮人员达l万余人。
田冈能取得如此巨大的“成功”，有他“公关”工作杰出这一因素——他的背后还是因为有政客撑腰。当时的运输大臣河野一郎就一直是田冈的“铁杆”“后盾”。
日本是世界上惟一承认黑帮合法性的国家。目前主要有三家黑帮势力最引人注目，分别是山口组、住吉会和稻川会，其中又以山口组的势力最大、党徒最多。
“茶谷政雄事情办的怎么样了。”在电话的那头传来了日本山口组一个小头目的的焦急声音。
“高木康男组长，事情办的不是很顺利，我们现在也不知道三眼死没有死，要不然请组长大人派数名我们大和最优秀的忍者来中国大陆，帮助我们平掉文东会，以血洗我们的当日大仇。”茶谷政雄激动的说道。
这次任务虽然没有完全的成功，那也使文东会的领导层发生了天翻覆地的变化，虽然领导人没有变，但在政策上变了太多。
“茶谷政雄这次你办的很好，我们大和民族是不会忘记你的，希望我们大日本帝国的国旗在次穴那些支那人的土地上，因为只有我们大和民族才是世界上最优秀的民族。刚才我得到消息，张志东还没有死，他这次虽然没有死，他能躲过一次，能躲过我们大和民族最优秀的忍者部队吗？茶谷政雄过几天你们就回来吧。”高木康男兴奋的说道。
（现实社会中，很多日本人还是和中国人为敌的，记得看过最气人的一句话是这样说的：不管我们参不参拜靖国神社，朝鲜人都不会买我们的东西，而那些支那人就不一样了，我们参拜他们也照样买我们的东西。）