蒙哥汗去世了，遗留下三个弟弟：忽必烈旭烈兀和阿里不哥，来成为未来蒙古帝国的大汗。旭烈兀自1256年成为波斯汗后，由于远离蒙古，而没有要求继承大汗位。剩下的只有忽必烈和阿里不哥。阿里不哥作为幼子，已经成为蒙古本土上的统治者，并在蒙古都城哈拉和林扎营。作为蒙古地区的统治者，他准备在蒙古召开库里勒台，以确保他被举为大汗。而忽必烈抢在他之前行动。他率军从武昌北上，在中蒙边界的上都府（位于今察哈尔和热河之间的多伦诺尔附近）建大本营，早些时候，他只是在这儿建起了他的夏季驻地。1260年，他在此被他的党羽，即他的军队，拥立为大汗。当时他44岁。
艘科地远情敌球接孤月结敌
按成吉思汗的法律，这次仓卒的选举是非正式的。按传统，库里勒台应该在蒙古召开，会前应召集成吉思汗的四个兀鲁思的代表们出席。阿里不哥在蒙哥的丞相克烈部聂思托里安教徒学鲁合的怂恿下，现在也毫不踌躇地在和林悟取大汗称号。在中国，控制着陕西和四川的蒙军将领们倾向于阿里不哥一边，但忽必烈不久就把这两个省的军队争取到他一边。忽必烈的副将们在甘州东部（甘肃境内）打败了阿里不哥军，这次胜利巩固了忽必烈在对蒙古统治下的中国的所有权。忽必烈把他的优势向蒙古推进，他于1260年年底，在哈拉和林以南的翁金河畔度冬；而阿里不哥朝叶尼塞河上游撤退。接着忽必烈错误地设想战争已经结束，在和林留一支普通军队后，回到中国。1261年年底，阿里不哥卷土重来，驱逐了这支驻军，并进军迎战忽必烈。在戈壁边境上打了两仗。第一仗忽必烈获胜，然而；他再次错误地没有追击阿里不哥，10天后打了第二仗，尽管战斗十分激烈，但却没有决定性的胜负。
站在阿里不哥一边的有窝阔台家族的首领塔尔巴哈台的叶密立地区的统治者海都和察合台宗王阿鲁忽（Alghll或AlllghLI），阿里不哥曾帮助阿鲁忽从其堂兄妻兀鲁忽乃手中夺得察合台兀鲁思。由于这一支持，阿里不哥的势力与忽必烈的势力相匹敌，直到将近1262年年底，阿鲁忽背弃阿里不哥投靠忽必烈（，第331页）。这一出人意料的背叛改变了形势。当忽必烈赶走了阿里不哥的人，重新占领和林时，阿里不哥被迫在伊犁河流域与阿鲁忽作战。阿里不哥被两军拑住，最后于1264年投降忽必烈。忽必烈宽
恕了他，但是，处死了他的一些主要支持者，包括聂思托里安教丞相孛鲁合。为谨慎起见，他把阿里不哥作为重要俘虏囚禁起来，直到1266年阿里不哥去世。
家族内部的纠纷结束之后，忽必烈从容地恢复了他征讨宋朝的计划。宋度宗（1265－1274年在位）依靠奸臣贾似道，而贾似道的统治使杰出将领们的努力都成了泡影。度宗死后，贾似道扶持四岁幼孩恭帝（1275－1276年在位）即位，在恭帝的名义下操纵朝政。在攻打南宋的战争中，忽必烈幸运地得到两位杰出将领：伯颜和阿术（阿术是速不台之孙兀良哈台之子），还得到回鹘人阿里海牙的支持。1268年，阿术着手围攻襄阳和樊城这两个控制着湖北境内汉水下游流域的城市。这一著名的围攻战持续了5年（1268—1273年），充满着许多英勇抵抗的事迹，如两名英勇的中国将领张贵和张顺，受命由水路增援襄阳，在执行任务中壮烈牺牲（1271年）。襄阳守将吕文焕进行了顽强的抵抗。后来（1272年），阿里海牙从美索不达米亚带来了两位著名的穆斯林工程师：毛夕里的阿拉丁和希拉的伊斯迈尔，用他们带来的攻城武器终于粉碎了被围困的居民们的抵抗。樊城于1273年2月被攻占，吕文焕被宫廷阴谋弄得心烦意乱，于同年3月以襄阳城投降蒙古人。现在，蒙古人在控制着汉水下游，伯颜和阿术沿长江而下于1275年成功地征服湖北东部要地（汉阳武昌黄州），安徽要地（安庆池州芜湖太平和宁国）和江苏要地（南京镇江）。接着，伯颜入侵浙江，占常州，抵达宋都大城市杭州。摄政皇后于1276年1－2月惊恐地把杭州让给了蒙古人。1276年2月25日，伯颜把小皇帝带到忽必烈面前，忽必烈待他很好。由此可以判断自成吉思汗时代以来蒙古人所取得的进步；斡难河畔的半原始人经过了两代之后已经上升到具有悠久文明的民族的水平上。
南方仍有待蒙古人去征服，那儿的中国人坚持顽强抵抗。阿里海牙攻占湖南的重要城市长沙和广西的桂林（1276年）。当时忽必烈被迫在蒙古与反叛他的同族人作战，这一战争使南宋主战派将领们得到短暂的喘息，他们企图在福建和广东沿海重建政权。但是，蒙古人在速客秃将军的率领下重返中国，依次占领福建省（福州和泉州，1277年）和广东省的港口（1277年占广州，1278年占潮州）。中国的最后一批“爱国者”在英勇的张世杰的率领下，带着新立的9岁的宋朝小王子宋帝昺，在海上的船中避难。1279年4月3日，在广州西南屋山附近受蒙古水军攻击，船毁（或者是被占领，或者是被击溃）小宋帝昺溺水而死。
包括南方在内的中国全境第一次落入突厥－蒙古族征服者手中。这是5世纪的拓跋氏突厥人和12世纪的女真氏通古斯人都没有实现的事业，忽必烈最终完成了。正是他实现了10个世纪以来“所有居毡帐”民，即世世代代的游牧民们，所抱有的朦胧梦想。草原上漫游的牧民们，即“灰狼和红色雌鹿的所有子孙们”，随着忽必烈一起，最终成了中国——整个亚洲定居农民中人口最稠密的地区——的主人。然而，征服是缓慢的，足以抵销它所产生的坏影响。确实，尽管这位游牧民的后代忽必烈可能征服了中国，然而，他本人已经被中国文明所征服。因此，他能够认识到其政策的始终如一的目标：成为真正的“天子”，使蒙古帝国成为中国帝国。实现这一目标的路敞开了。宋朝一灭亡，他就成了具有15个世纪悠久历史的帝国的合法君主。他的王朝，取名为元朝（1280－1368年），只希望追随以往的22个中国王朝的步伐。中国化的明显标志是：“忽必烈从阿里不哥手中夺回哈拉和林后，从来没有到那儿去住过。1256－1257年，他选择今察哈尔东多伦诺尔附近的上都府为夏季驻地，在此建了一群宫殿。1260年，他在北京建都。1267年，他开始在原北京建筑群的东北营建新城，他称之为大都，即“伟大的都城”，也被称为“可汗之城”，西方游人称“汗八里”。它成为蒙古君主们的冬季驻地，而上都府仍是他们的夏季驻地。