隋开皇五年（585年），尉迟敬德在朔州善阳（今山西省朔县）出生。青年时期尉迟敬德在高阳（今河北省保定市）从军，参与讨伐暴乱。尉迟敬德生性英武果敢，曾经率领数百名轻骑在幽州（今北京）击败山贼翟松柏、刘宝强等人，缴获马匹三千，俘虏五万人。此后几役，他多次获得胜利，不久便被提拔为朝散大夫。之后他又击破王须拔、历山飞等人，因为战功被授予正议大夫的职位。在刘武周起义之际，尉迟敬德被任命为副将，与西南道大行台宋金刚一起出发至南方，攻陷了晋州（今属河北省石家庄代管的县级市）、浍州。武德二年（619年），宋金刚需要接应魏王吕崇茂（起义军首领），于是便派遣手下将领尉迟敬德、寻相二人带兵到夏县（今山西省运城市）接应他。尉迟敬德他们突袭击破永安王李孝基的军队，捉拿了独孤怀恩、唐俭等人。但在尉迟敬德、寻相要回浍州（今山西省翼城县）时，秦王李世民、陈郡公殷开山、将军秦叔宝等人对他们进行截击，结果尉迟敬德大败。之后尉迟敬德带领部下想要援救王行本，但是被李世民截败，在逃脱的过程中其部下被李世民所俘。
