武德四年（621年）七月，夏王窦建德部将刘黑闼举兵攻打山东故地，仅半年时间便恢复窦建德之前的疆土。同年十二月，高祖李渊派遣秦王李世民和齐王李元吉统兵征讨；次年三月，双方于洺水展开决战，秦王李世民和齐王李元吉趁刘黑闼渡河之际，半渡而决堤大败刘黑闼，斩首一万多级，溺死几千人；刘黑闼战败逃往东突厥，此战平定山东。不久，两人统兵攻打占据河南的鲁王徐圆朗，很快平定徐圆朗占据的疆土。 武德五年（622年）六月，刘黑闼从突厥处借兵再次攻打山东，七月攻占定州，刘黑闼旧部曹湛等人聚众响应。十月，李渊下诏任命李元吉为领军大将军、并州大都督，统兵攻打刘黑闼；派遣淮阳王李道玄和原国公史万宝前往征讨，李道玄战死沙场，河北诸州全部投奔于刘黑闼，李元吉迟留不进。十一月，命令太子李建成统兵征讨汉东王刘黑闼，齐王李元吉随军出征，并于魏州击败刘黑闼部将刘十善，十二月，齐王李元吉与太子李建成于魏州大败刘黑闼，刘黑闼仅带数百骑兵逃走，不久后被部将诸葛德威所擒并投降，太子李建成斩杀刘黑闼，山东平定。
