从康熙五十一年再废允礽，到六十一年去世这十年间，玄烨被立储问题搞得焦头烂额。()对于如何立储，立哪个皇子为储这些重大问题，他无时不在考虑，但又常常推翻自己的想法。直到临死前一年，才最终确立了自己的继承人。
康熙五十二年，玄烨在驳斥赵申乔请立皇太子的奏折中，总结了历史上预立皇太子及自己早年立允礽的经验教训，提出了今后不再实行预立皇储的原则：宋仁宗三十年未立太子。我太祖皇帝并未预立皇太子，太宗皇帝亦未预立皇太子。汉唐以来，太子幼冲，尚保无事，若太子年长，其左右群小结党营私，鲜有能无事者，……今众皇子学问见识，不后于人，但年俱长成，已经分封，其所属人员，未有不各庇护其主者，即使立之，能保将来无事乎?……凡人幼时犹可教育，及其长成，一诱于党类，便各有所为，不复能拘制矣。立皇太子喜，未可轻定。这时虽然提出了不预立皇太子的原则，但还没有具体的办法。康熙五十六年十一月，玄烨突然召集群臣，宣布了一条长达两千多字的上谕，中心是总结自己一生的功过和传位立储的打算。当时皇太后病危，玄烨可能是触景生情，考虑到自己年逾六十，一旦猝然去世，还没有把对后事的安排交代清楚，因此提前公布遗嘱。在谈到立储时，他说：汉高祖传遗命于吕后，唐太宗定储位于长孙无忌。朕每览此，深为耻之。或有小人，希图仓卒之际，废立可以自专，推戴一人以期后福，朕一息尚存，岂肯容此辈乎?…今臣邻奏请立储分理，此乃虑朕有猝然之变耳。死生常理，朕所不讳，惟是天下大权，当统于一。十年以来，朕将所行之事，所存之心，俱书写封固，仍未告竣。立储大事，朕岂忘耶?在这段遗嘱中，康熙说古论今，充分表明了他对立储不当出现的种种不测事件的担心，同时也表明了他不容许皇子与大臣结党谋位的决心。诸子为储位的争斗，是玄烨晚年面临的最棘手的问题。他与诸皇子交锋十多年，皇子们对他的指令软硬明暗相抗，他对诸子则严不可，宽亦不可，诚为难事。一个叱咤风云的英明君主，竟屡屡败在儿子们的手下，这不能不使他担心日后会发生意想不到的突变。他曾一再对未来时局，做出诸子将逼朕逊位，将朕躬置于乾清宫，尔等束甲相争的严重估计，几次表述倘得终于无事，朕愿足矣的心情。为了实现终于无事，他就必须保证权力不受任何皇子或大臣的侵扰，安全移交到继承人手中。不预立皇储，应该说是在这种局势下最为安全的权力过渡办法。在这以后，虽然又出现过前述朱天保奏请立储及王掞奏请立储事件，玄烨也命礼部参照议定皇太子仪法，但对不预立皇储这个原则，他却再也没有表现出过动摇。原则确立后，玄烨在最后十年用了绝大的精力来选择继承人。
玄烨再废皇太子允礽后，曾经对大臣们说过：朕万年之后，必择一坚固可托之人与尔等做主，必令尔等倾心悦服，断不至累尔诸臣也。这个人自然就应是玄烨选择的继承人。但这个人究竟是谁，除玄烨死后公布的遗诏中所说是皇四子胤禛外，再也没有看到其他文字记载。这只能从玄烨去世前十年间，他对诸子的态度进行分析和推测。
玄烨一生曾有子三十五人，除天亡者外，齿序称为皇子的有二十四人。玄烨曾两次册封诸子，第一次为康熙三十七年，封皇长子允褆为多罗直郡王，皇三子允祉为多罗诚郡王，皇四子胤禛、皇五子允祺、皇七子允祐、皇八子允禩均为多罗贝勒；第二次为康熙四十八年，皇三子允祉晋封为诚亲王，皇四子胤禛与皇五子允祺均由贝勒破格晋封为雍亲王、恒亲王，皇七子允祐晋为淳郡王，皇八子允禩因与玄烨关系破裂，只保持了原来贝勒的爵位。这次新受封的有皇九子允禟、皇十子允礻我、皇十二子允裪、皇十四子允禵。这四人中，除允礻我被破格封为敦郡王外，其他人均被封为固山贝子。¨¨：
康熙五十一年再废允礽后，皇长子允褆与皇二子允礽已为玄烨深恶痛绝，没有东山再起的可能；皇八子允禩也与玄烨绝了父子之情；皇九子允禟因追随允禩而为玄烨所憎恶(这从允禟被封为贝子，而排在其后的允礻我却被封为郡王可看出玄烨的爱憎)；皇十三子允祥不知何故，也为玄烨所厌，比他小两岁的允禵都被封为贝子，他却一直没有得到爵位。皇十五子以下诸子，年幼且无爵位，根本不会在玄烨考虑的范围之内。这样，他就把自己选择继承人的注意力，集中到皇三子允祉、皇四子胤禛、皇五子允祺、皇七子允祐、皇十子允礻我、皇十二子允裪、皇十四子允禵七人身上。皇五子允祺和皇七子允祐，在康熙三十五年征噶尔丹时，曾分别受命领正黄旗大营和镶黄旗大营。但是康熙五十一年以后，除去随驾热河、京畿之外，几乎没有被任命承担过什么重要的大事。皇十子允礻我与皇十二子允裪的情况稍好一些。允礻我曾在康熙五十七年受命办理正黄旗满蒙汉三旗事务。允裪曾在康熙五十六年孝惠太后丧葬期间，受命署理内务府总管，第二年，又办理正白旗三旗事务，康熙六十年时，还与皇四子一道，被派往盛京典祭三陵。但总的说来，玄烨对他们的信任和重视，远远比不上对允祉、胤禛和允禵。可以这样说，康熙在晚年，是在这三个人里培养、鉴别和选择继承人的。
皇三子允祉很受玄烨宠爱。康熙二十九年玄烨亲征噶尔丹时，允祉仅十三岁，曾受命随皇太子允礽一同前去行宫请安，康熙三十五年又受命领镶黄旗大营，随玄烨再次出征噶尔丹。允祉在天文数学等方面长于其他皇子，玄烨还曾交给他一些别的皇子不能胜任的工作，如康熙四十二年西巡秦晋时，特命允祉去勘察黄河三门峡砥柱，康熙五十二年，又命允祉率庶吉士何国宗等纂修天文、律吕及算法诸书。书成后受到玄烨的褒扬。允祉受玄烨宠爱，还表现在初废允礽皇太子时，玄烨明知他与允礽素来亲密，但却不治罪，反为其开脱：允祉与允礽虽昵，然未怂恿其为恶，故不罪也。使允祉避免了皇长子允褆的下场。