李元霸哭笑不得，复信之际不免得又夸大刘武周的威胁，正巧此时北面局势发生突变，雁门郡丞陈孝意与虎贲郎将王智辩在去年年底兴兵，将刘武周围困在桑乾镇，昼夜攻打，雁门关是北地重镇，陈、王两人率领的全是守关边军，甚是精锐，刘武周得兵万人，与宋金刚两人又是骁勇善战，不过麾下几万将士真正能战的不过数千人，所以被陈孝意与王智辩围在桑乾镇后竟是没有办法，眼看就要全军覆灭。
关键时刻，定扬可汗的背后靠山拉了他一马，隋军攻打正急时，突厥骑兵突然至身后杀到，隋军猝不及防，以至大败。
王智辩战死军中，陈孝意引领雁门边军残部返回雁门关，再也没有办法遏制刘武周的发展。
刘武周得突厥骑兵与战马之助，声威大涨，趁势攻克楼烦郡，破汾阳宫，得到大批物资，还有数百名留在宫中的隋朝宫女。为了进一步讨颉利可汗的欢心，刘武周便将这些隋朝宫女一并送到草原，献给颉利。
颉利得到宫女后大喜，分赐给汗庭诸多突厥贵族，然后命人赶了几千匹上好战马送还刘武周，刘武周得马之后大肆招兵扩军，因为突厥的臂助，再加上杀王智辩，破陈孝意的威势，一时间豪杰好汉并皆加入其军，士卒已经由原本的万余人扩张到了三万人以上，而这两三万人中，有不少都是边地豪杰与突厥人，再加上楼烦、定襄等地的边郡良家子，多是武艺超常胆气过人之辈，所以军队人数虽然不多，却多是精锐，在得到了不少精良的铠甲与武器后，战斗力已经超过了隋朝边军，更不要提那些草莽的义兵了。
到得此时，刘武周的实力已经大大增长，得到了楼烦与定襄两郡的力量，整军顿武之后，刘武周决心拔除在雁门关的钉子，把后方这一大患彻底解决。
大业十四年夏初，当李家紧锣密鼓的在长安搞登基大典时，刘武周点起两万大军，直向雁门，把整个关城围的水泄不通，陈孝意拼死守城，雁门关又是雄城大关，刘武周虽然准备充分，一时间也是攻打不下，暂且只得围住城池，拼命攻打。
这一消息迅速传到了晋阳与长安。
无论是谁，都知道刘武周得到雁门关后，背后再也没有人掣肘，然后又有雄兵数万，其中骑兵就超过万人，这样一支强悍的武装，绝对不会坐困马邑不出，而等着天下一统后被人收拾，所以刘武周得雁门关之后，必定会整军南下，攻打晋阳。
晋阳可谓是李家的龙兴之地，战略地位重要之极，就算是出产不多，人口也不多，放在自己手里总比放在敌人手中要强的多，而更要的是晋阳的战略地位，北扼突厥，东防河北群雄，西面还能控制住黄河防线，当真丢了，关中也随时会遭受到敌人的攻击。
如果历史的轨迹没有改变，镇守晋阳的还是碌碌无为的李元吉，那么李渊也只得认了，此时李家留驻在晋阳的却是有无敌勇将之称的李元霸，如果这样还放任着刘武周扩大自己的实力而不管不顾，那岂不是养虎成患？
于是到得大业十四年亦就是武德元年六月，正值盛夏之际，李元霸得到长安回复，同意他相机行事之后，留下六千府兵与百多轻骑守备晋阳，四千府兵守备河东，其余所有的百练骑兵共两千余骑，再加上征调的两万鹰扬府兵，由晋阳起兵，浩浩荡荡杀向马邑。
此次出征，李元霸可谓是倾巢而出，这一年半来，他殚精竭虑事必躬亲，劝农兴桑，分地均田，减少赋税劳役，限制豪门世家压榨欺凌百姓，头半年效果还只限于晋阳附近，这一年来见到成效后，连长安关中也在均田，所以李元霸更是放开手脚行事，使得均田分地大行其道，而建立起一支强悍的府兵，便也分外容易。