大业十二年十二月（617年），隋炀帝派太仆卿杨义臣带领一万多人马前来剿灭起义军，杨义臣先是在清河歼灭了张金称部队，随后乘胜进军平原县(今山东陵县)欲进高鸡泊攻打高士达，窦建德见隋军士气旺盛，便向高士达提议与隋军周旋数月使其疲惫后再发动奇袭，高士达没有采纳，而是留窦建德驻守本营，自己则率领精兵主动攻打杨义臣，首战取得小胜后便大摆庆功宴，心里已经轻视了杨义臣。窦建德得知此事，担心隋军会攻破高鸡泊，便亲率一百多精兵占据险要位置抵御隋军，结果不过五天，杨义臣就在战场上大败高士达并将其斩杀，随即乘胜追击围攻窦建德。军营的守兵原本就少，听到高士达被杀的消息后纷纷溃逃。窦建德则带着一百多人突围逃往饶阳县(今河北饶阳)，看见饶阳守军没有防备，便攻占了这里，并且通过安抚城中士民来笼络人心，得以壮大队伍至三千多人马。 杨义臣打败高士达后，认为窦建德不值得忧虑担心，便率军队离去。窦建德则回到平原县为高士达战死的部下收尸，并给高士达举行葬礼为其哭丧，沿路招集散兵几千人得以重振军队，窦建德开始自称将军。由于窦建德抓到隋朝的官吏和当地士绅后会待之以礼，与其他盗匪不一样，以饶阳县长官宋正本为首的隋朝郡县长官纷纷开始献城投靠窦建德，窦建德部队实力大增，兵力达到十多万人。
