8月11日，刘黑闼在贝州漳南设坛祭奠窦建德后，自称大将军，正式大举起兵。
公元621年9月至622年2月，刘黑闼先后攻陷定州、冀州、邢州、魏州、莘州，杀死屯卫将军王行敏、总管李玄通、麹棱、潘道毅，击败左武将军李世绩，生擒薛万均兄弟。刘黑闼所到这处，势如破竹，加上突厥颉利可汗又派人马来援，刘黑闼兵势更是大盛。刘黑闼仅用半年便全部恢复了窦建德原先的地盘，唐廷震动。
2月秦王李世民率军讨伐刘黑闼，驻卫州。
李世民抢占洺水险要，威逼刘黑闼，又分别派遣突袭部队，截断刘黑闼的运粮通道。随后大唐的军队从四面涌来，围攻刘黑闼，刘黑闼渐渐陷入困顿。
3月28日李世民与刘黑闼决战，大败刘黑闼于洺水，刘黑闼只带了一千多人逃往突厥。
622年夏，李世民又率部平定了徐元朗，徐元朗的地盘与杜伏威接壤，李世民借攻击徐元朗之机，陈兵杜伏威的边境上跃马扬鞭、耀武扬威。
杜伏威十分的恐慌，他上书请求大唐皇帝，要求允许他戴罪进京。李渊接到杜伏威的上书后，非常高兴，同意了杜伏威的请求。杜伏威入京后，被加封为太子太保。
李世民这次击溃刘黑闼后，并不急于班师回朝，手下众人都不知道是怎么回事，只有杜如晦明白李世民的心思，他知道李世民是在等一个人。
这一天，一个侍卫进帐禀报说有个叫张绣的来请降。
李世民一笑，他立刻带着众人出帐迎接。
来的正是张绣张文锦，江都城破后，他带着十余个兄弟，保护了近万的难民，而且随着时间的推移，张绣收拢了近十万众，杜伏威、李子通都派人去收拢他，张绣一概同意，但都拒绝杜伏威、李子通的调遣，杜伏威、李子通也知道张绣声望很高，又见张绣对他们确实也没有什么威胁，派人去过几次后，见没有什么实质效果也就做罢了，此番张绣带着近十万余众归附唐庭，秦王自然是非常高兴。
秦王在大帐内接见了张绣。
秦王问张绣想要什么样的官职，当张绣提出只做叶城一个小吏时，秦王很是吃惊。
“你为什么只要做一个小吏”李世民看着张绣。
“大隋岌岌可危时，我不是极力扶持而是选择了离开；杜伏威占据这里时，我投奔了他；李子通占据这里的时候，我又转投了他。现在秦王您来了，我又投奔了您，我对大唐没有什么功劳，能做一个小吏已是奢求了”张绣答道。
秦王听了后立该觉得张绣确实不负盛名，他点了点头说道“做一个小吏太委曲你了，我就委派你做叶城的知县吧”
“多谢殿下的恩典”张绣一听也是十分的高兴。
两人在一些又聊了一会后，秦王问道“你认识刘毅吧”
“认识”张绣说了与刘毅在江都城的往事。
“自江都之后，你和他见过吗”
“没有”
“知道他在哪儿吗”
“殿下，张绣不知道”
李世民点了点头，他看着张绣说道“如果你再见到他，请转告他，说我李世民很敬重他另外，我听说在这附近的崇山峻岭之间隐藏着一支前朝的军队，我想找到他们应该不难，你既是大唐的臣子，就要替大唐分忧，天下承平，该是百姓安居乐业的时候了，你明白我的意思吗”