正当唐廷经营西北的时候，代北的刘武周大举进攻太原，唐军战败，留守太原的李元吉弃城逃走。刘武周部将宋金刚南下攻取浍州（今山西翼城），兵势直达夏县、蒲坂，关中震骇。李渊“悉发关中兵”，命李世民统领抵御。李世民自龙门渡河，驻军柏壁（今山西新绛西南），与宋金刚部僵持五个月之久，到武德三年（620年）四月，唐军乘宋金刚军粮匮乏，向北撤退的时机，迅猛追击。在吕州（今山西霍县）、介休（今属山西）一带，经过几次激烈的战斗，大败宋金刚。宋金刚和刘武周一起逃往突厥，后被突厥杀死。 唐军完全占领了山西地区，巩固了关中根据地，扫除了进兵关东的障碍。 刘武周败亡时，关东形势发生了很大的变化。以李密为首的瓦岗军，遭到洛阳王世充的沉重打击，已经失败降唐，后来李密又因图谋东山再起，被杀死。此时，黄河流域形成据有河北地区的夏政权窦建德、在洛阳自称郑帝的王世充与唐朝三足鼎立之势。
