宋军兵精粮足，士气高昂。宋太祖开始琢磨下一个征服目标。
最合适的目标当属南唐。拿下南唐就能把吴越、南汉顺手收入囊中，中国的统一大业就完成了大半。
宋太祖在京城外建造教船池，让军队操演水战，为攻打南唐做准备。另外他为了出师有名也在寻找出兵的理由。
南唐担心宋太祖打他，百般讨好宋太祖。南唐在后蜀灭亡后立即送上两万两白银的贺礼，随即又以祝贺宋太祖新宫落成再送上一万两白银。当官不打送礼的。南唐卑躬屈膝礼享备至让宋太祖不好意思拉下脸皮去打他。
这时北边传来消息：北汉皇帝死了，国内爆发争位内讧。宋太祖认为这是一个千载难逢的好机会，立即摁下南边，御驾亲征去打北汉。
宋军势如破竹攻到北汉都城太原城下。
北汉一面拼死抵抗，一面向辽国叔叔呼救。
太原城墙高城厚。宋军久攻不克。宋太祖亲自到城下督战也不能取胜。
宋太祖看到太原邻近汾河，计上心头。他下令停止进攻，修筑堤坝围住太原。堤坝修好后，宋太祖让人把汾河水引入太原，水淹太原城。与此同时，宋太祖令人造船，准备水战。
经过多日浸泡，土砖垒就的城墙开始逐渐崩塌，出现了缺口。宋太祖心急，等不得城墙彻底崩塌，派船队发起进攻。他想借机演练一下水军。
宋军的舰船装备着强弩。宋军在强弩的掩护下杀至城下，向城墙的缺口发起进攻。北汉军以箭雨来压制宋军的进攻，同时用草垛填堵缺口。激战中，宋军的前线将领被流箭射中。宋军失去了指挥只能暂时退下来。
将领们纷纷向宋太祖请战，希望明日跟汉军决一死战。宋太祖顾忌伤亡太大不允许进攻，让大家耐心等待城墙垮塌的那一天。
出乎他的预料，太原城很坚挺，死活不肯垮塌。而他的士兵挺不住了。
天气逐渐炎热，宋军在湿地上随地大小便引起疾病流行，跑肚拉稀比比皆是。风闻辽军倾国之兵南下增援北汉，宋太祖没有必胜把握，决定撤兵。
宋军前脚刚走，太原城轰然倒塌。
宋太祖认为北伐受挫关键是南方还没有平定，牵扯了大量精力和兵力，于是恢复执行先南后北的策略。
南唐“虽外示畏服，修藩臣之礼，而内实缮甲募兵，阴为战守计”。宋太祖北伐北汉时，南唐有人建议趁虚而入，出兵收复江北。只不过南唐国主李煜畏惧宋朝，不敢采纳他的建议，希望等更好的机会。
宋太祖知道南唐怀有贰心，但苦于找不到出师的借口。
宋太祖决定先解决掉不肯臣服的南汉再说。
南汉的末代皇帝刘鋹[chǎng]是个昏君，沉溺后宫享乐，不理朝政，把朝政都交给宦官和宫女嫔妃打理。他不信任朝廷百官，认为他们有老婆孩子拖后腿，不能全心全意为朝廷服务。除非他们像宦官一样一刀下去六根清净，他才肯委以重任。于是朝内宫内充斥着宦官和半路出家的宦官。不足百万人口的南汉竟然有两万宦官。
南汉政治混乱正是趁乱攻取南汉的好机会。
宋太祖通过南唐规劝南汉臣服宋朝，归还南汉占领的原属湖南的桂州（广西桂林）、贺州（广西贺州）。南汉断然拒绝，并且出言不逊。宋太祖大怒，于是以此为借口派兵讨伐南汉。
970年，宋军大将潘美领兵南下。
潘美就是评书《杨家将》里的潘仁美。在评书里，潘仁美被描绘成一个残害忠良的大奸臣，而实际上他是宋朝的名将、和曹彬、赵普等人“配享宗庙”的大功臣。死后能被供进皇家太庙，和皇帝一起享受后人祭祀，这是当时人臣死后最高的荣誉。
潘美率军从湖南出发，绕过湘粤交界的险地，长途奔袭富州（广西贺州昭平县），得手之后马不停蹄进攻贺州。
刘鋹得报急忙派军救援贺州。但“南汉旧将多以谗死”，他派出的领军之将是个二把刀。
潘美探知南汉援军到来，假装撤军而走，引诱南汉军来追。南汉军中计，掉进宋军的伏击圈，伤亡十之七八。贺州随之开城投降。
潘美乘胜攻克桂州、连州（广东清远连州市）等地。
刘鋹以为宋军是为湖南旧地而来，拿到贺州、桂州等湖南旧地就会收手，没做反攻或决战的准备。
971年，经过休整的宋军突然杀入南汉本土，连克英州（广东清远英德市）、雄州（广东南雄）。
刘鋹大惊，一面组织军队迎战，一面派人求和。潘美回复刘鋹：除了和，战、守、降、死、逃任选。
宋军击溃南汉军队，直插广州。
刘鋹收拾金银财宝装船准备下海逃走。没想到他最宠信的宦官伙同皇宫卫队把船和财宝都偷走了。刘鋹忙活半天，到头来为他人做了嫁衣裳。刘鋹欲哭无泪，望洋兴叹，只得投降了宋军。
此战从开战到战争结束仅仅耗时五个月。通常情况下，攻克一座据城死守的城池没个一年半载下不来。南汉六十个州，没有半年时间就全部被攻克，说明没有一座城池肯为南汉皇帝死战的，几乎就是闻风而降。
拿下南汉，宋太祖也不会再留着南唐。