同年，李渊父子在太原起兵，杀掉太原副留守王威、高君雅，迈出了兴唐灭隋的第一步。随后，李渊做出了富有政治远见的重大决策：他派人出使突厥议和，表示愿意永远结为盟好，并请求出兵协助伐隋。这不仅消除了他挥师南下的后顾之忧，还得到外来的援兵，壮大了自己的声势。进而他又招募兵员，制造弓箭，蓄养马匹，积极扩大自己的武装力量。
李渊攻进长安以后，本可以立即称帝建国，但他没有这样做，而是从有利于兴唐灭隋的战略角度，卜分机智地处理各种复杂的问题，又一次表现了他的远见卓识。李渊立隋炀帝的孙子，13岁的代王杨侑(y6u)做皇帝，就是隋恭帝，尊当时在江都的隋炀帝为太上皇，自己做大丞相。这样，他既取消了隋炀帝的帝位，又可以利用杨侑这块招牌去招降隋朝的文武官员，把全部大权操纵任自己手里。
618年隋炀帝死后，李渊废掉隋恭帝，改国号为唐，自己当上了皇帝，称为唐高祖，定都长安。经过一段时间的东征西讨，终于统一了天下。
