唐高祖不能任由刘黑闼日益坐大，让李世民再次披挂上阵前去平定刘黑闼。
唐高祖在经略中原的同时派堂侄李孝恭率巴蜀军队去平定江南。
江南自从宇文化及率军北归之后被大小军阀所瓜分。实力最强的是萧铣。基本上江南西部地区都是萧铣的天下。萧铣拥兵力40万。江南的东部地区由杜伏威、李子通、沈法兴等小军阀瓜分。李子通原是杜伏威的手下，后来自立门户，占据三吴，自称吴王，拥兵数万。
唐高祖任命李孝恭为荆湘道行军总管（相当于方面军总司令），任命李靖为行军长史（相当于军师），让他们率领12个总管（相当于军分区）的兵力去平定江南。
李靖本是隋朝降将。李世民欣赏他的才能，把他收入帐下。李靖在辅佐李世民平定中原期间写了平定江南十策，建议唐高祖进军江南。唐高祖对他的十策很赞赏，把他调到李孝恭手下筹划进军江南。
621年9月，巴蜀军队在夔[kuí]州（重庆北）集结完毕。
适逢大雨，江水暴涨，行船不易。李孝恭打算暂缓出发。
李靖劝说李孝恭：兵贵神速。我们大军集结，萧铣还不知道。我们出其不意攻其不备肯定能够取胜。如果等萧铣有了防备再打就不易了。
李孝恭于是下令出征。两千多艘战舰组成的庞大的舰队顺江而下杀入湖北。沿途城池果然没有防备，被TJ轻易攻取。TJ很快攻到梁国首都江陵。
萧铣没想到TJ会在江水暴涨之时发动进攻，把军队都派出去协助秋收了。江陵城内只有数千士兵。萧铣别无选择，调集所有兵力固守待援，希望能拖到大部队赶回那一刻。
TJ的第一次进攻被梁军击退。但是梁军取胜之后便只顾着抢掠物资，不再设防。李孝恭趁机组织部队反攻，反败为胜。TJ一气杀入江陵的外城。
这时，梁军援军正从四面八方赶来。TJ面临腹背受敌的窘境。
李靖再出一计，将俘获的梁军舰船顺江漂走。
众将不解：梁军赶来救援正需要船只。你这不是雪中送炭，雨中送伞，打瞌睡送枕头吗？
李靖说：恰恰相反。梁军见到这些船，一定会误以为江陵已经被攻陷，踌躇不前。等他们得到确切消息，我们早已经攻下江陵。
果然，梁军发现了这些幽灵船后大惊失色，认定江陵凶多吉少，不知道该进还是退。派人前去打探，一来一去耽误了时间。再想前进，江陵已经沦陷。梁军十几万援军只得向TJ投降。
萧铣这个人心善，不愿连累百姓。他说：“奈何以我一人之故，陷百姓于涂炭乎”。他向TJ投降，称：“当死者唯铣耳，百姓无罪，愿不杀掠。”要杀就杀我萧铣一人，不要祸及百姓，百姓是无辜的。
萧铣献城投降。TJ进驻江陵后秋毫无犯。梁国军民得知纷纷投降李唐。
这时，江东的军阀混战也打出眉目。李子通击败了沈法兴，但被杜伏威打败。杜伏威向李唐称臣。
于是，江南至此基本平定。
江南之战打得异常轻松。中原战事却打得昏天黑地。
李世民和刘黑闼的战争进行得非常艰苦，几次陷入苦战。刘黑闼是员猛将，很难对付。好在幽州的罗艺归顺了李唐，跟李世民一起南北夹击刘黑闼，让刘黑闼无法集中精力对付李世民。刘黑闼北上攻击罗艺。李世民便趁机攻城略地。刘黑闼南下抗击李世民。罗艺又趁机蚕食刘黑闼的地盘。刘黑闼顾头顾不了腚，越打地盘越小。
李世民进军至洺水（发源于河北邢台流经邯郸永年县）。洺州（河北邯郸永年老城）守军迫于TH压力举城投降。TJ迅速进驻洺州。
刘黑闼率军反攻洺州。李世民先后三次派军救援都被刘黑闼击退。刘黑闼昼夜猛攻终于攻陷城池。李世民的大将罗士信在城陷后被杀。
李世民与刘黑闼在洺水对峙。刘黑闼数次挑战。李世民坚壁不出。
李世民一面以守为攻消磨刘黑闼的斗志，一面派兵袭扰刘黑闼的运输线。
两军对峙60天。刘黑闼终于撑不下去了，率军跨过洺水主动求战。激战中，李世民率军袭击刘黑闼的后方，没想到被刘黑闼反手围住。多亏尉迟敬德冒死冲入包围圈把李世民救了出来。
两军苦战一天不分胜负。李世民命人掘开洺水堤坝水淹七军。刘黑闼大败，仅率二百名骑兵逃奔突厥。
李世民占领了河北、山东。他正在清理残敌，又接到唐高祖的命令让他转战江淮，去打徐圆朗。
徐圆朗也算是瓦岗旧将，降过王世充，也降过唐高祖，后来又与刘黑闼携手反唐。
唐高祖先前派李神通去平徐圆朗之乱。但是草包就是草包，李神通在江淮一直没什么进展。唐高祖不得不让李世民过去帮他。
李世民到了江淮，三下五除二就把徐圆朗打趴下了。
随后李世民陈兵杜伏威境外，引而不发。
杜伏威当然明白李世民这是什么意思，上书唐高祖请求进京朝见。唐高祖批准。杜伏威于是交出军权进京为官。虽然被强留在京城形同软禁，但好歹保住了性命。
李世民把江淮收尾工作交给李神通，自己班师回朝。