在贞观四年（公元630年）李靖平定东突厥之前，它也是唐帝国最大的心腹之患。自从其覆灭之后，大唐帝国的北疆基本上就平静了，除了突厥余部车鼻可汗在贞观末年发动过一次小小的叛乱之外，东突厥的降众大多数时候都还算老实。但是这些年来，眼见唐帝国在吐蕃的打击下连遭惨败，国力大不如前，沉寂了将近半个世纪的突厥人终于坐不住了。
调露元年十月，单于大都护府辖下的阿史德家族率先揭起了反旗。
阿史德家族分为两部：一部由阿史德温傅统领，一部由阿史德奉职统领。两部同时起兵，拥立阿史那泥熟匐为可汗。随后，原东突厥境内的二十四州酋长也纷纷起兵响应，一时间，叛乱部众多达数十万人。
消息传来，朝廷大为震惊，高宗急命单于大都护府长史萧嗣业率部平叛。一开始，平叛战役进展顺利，所以萧嗣业就起了轻敌之心。其时正逢天降大雪，唐军更无戒备，突厥叛军遂对唐军发动夜袭。萧嗣业猝不及防，狼狈拔营而走，唐军大溃，被俘和阵亡者不计其数。随后，萧嗣业因战败之罪被流放桂州，两名副帅也均被革职。
此次惨败令高宗又惊又怒。他意识到，如果不慎重选择一位真正具有才干的统帅，势必无法扑灭东突厥的叛乱。
十一月，高宗经过慎重考虑，终于锁定了一个最合适的人选。
他，就是初唐历史上最杰出的军事家和政治家之一——裴行俭。
裴行俭是绛州闻喜县人，父亲裴仁基是隋朝将领，曾任河南讨捕使，后来归附李密、王世充，武德初年曾密谋归唐，因事泄被王世充所杀，武德中期被追赠为原州都督。裴行俭幼年时以父荫入弘文馆就读，于贞观中期参加科举考试，考中明经科，开始进入仕途，任左屯卫仓曹参军。当时，他的顶头上司恰好是左屯卫中郎将苏定方。苏定方对他颇有好感，于是“尽以用兵奇术授行俭”（《旧唐书·裴行俭传》）。
永徽年间，裴行俭经过六次升迁，当上了长安令一职，但紧接着就遭遇了他仕途上最大的一次挫折。永徽六年（公元655年），裴行俭因反对高宗立武昭仪为皇后，被逐出长安，贬至西域，任西州都督府长史。可是，仕途挫折并没有磨掉裴行俭的锐气，反而磨炼了他的意志，激发了他建功立业的雄心壮志。此后十年间，裴行俭在西域边陲多有建树，遂于麟德二年（公元665年）升任安西大都护。
几年后，政绩卓著的裴行俭又被调回朝中担任吏部侍郎。在此任上，裴行俭再次展现出非凡的政治才华，创造了著名的诠注法，作为官吏选拔和升降的标准。所谓诠注法，就是在选拔官吏的时候从身、言、书、判四个方面进行考察：身，要求体貌丰伟；言，要求言辞辩正；书，要求楷法遒美；判，要求文理优长。先观其书、判，再察以身、言，最后再注明其有何特长，以此标准来任命官吏。
由于此法具有一定的客观性和可量化性，在当时算是比较先进的制度，所以一经颁行，就在唐朝成为定制。
除了在军事上和政治上具有过人的才华之外，裴行俭也是初唐历史上著名的书法家，尤工草书，与当时的禇遂良、虞世南等大家齐名。裴行俭曾不无得意地对人说：“褚遂良写字时，一定要用上好的笔墨；不择笔墨而能写出一手好字的，大约就只有我和虞世南了。”
调露元年五月，也就是在东突厥的阿史德家族发动叛乱的半年之前，西突厥的贵族阿史那都支就已暗中联合吐蕃，侵逼安西，并密谋重建西突厥。情报传回长安后，朝臣们纷纷建议出兵讨伐。由于当时李敬玄、刘审礼刚刚败于吐蕃，帝国元气未复，不宜再出动大军西征，所以裴行俭力排众议，向高宗提出了一个智取西突厥之策。
在取得高宗的同意后，裴行俭率副将王方翼，以护送波斯王子泥涅师归国为名，向西突厥进发，在途经阿史那都支的驻地时，趁其不备将其生擒，从而兵不血刃地平定了西突厥的叛乱。
裴行俭的智慧和胆识顿时赢得了朝野上下的交口赞誉，同时也让高宗大为叹服。
正因为裴行俭在政治、军事等多方面的能力都相当突出，并且拥有极为丰富的经验，所以高宗此次才会亲自点名，让他担任北征军的统帅。
这一年，裴行俭已经年逾六旬。
出征之前，高宗专门设宴为裴行俭饯行，对他说：“卿有文武兼资，今授卿二职。”（《资治通鉴》卷二○二）随即任命裴行俭为礼部尚书兼检校右卫大将军。由于当时的左卫大将军由英王李哲挂名，所以裴行俭实际上就成了京师宿卫部队和出征野战部队的最高军事统帅。于此足见高宗对他的倚重和信任，也足以表明此时的裴行俭已经成为大唐帝国数一数二的名将。
调露元年年底，帝国的北征军集结完毕，由主帅裴行俭亲率十八万主力，另以丰州都督程务挺为西路军，以幽州都督李文暕为东路军，两路皆受裴行俭节制，兵分三路直取东突厥。
为了一举平定东突厥的叛乱，唐帝国此次一共出动了三十多万大军，其动员兵力之多，为高宗登基以来所仅见。
永隆元年（公元680年）春，北征军进抵朔川（今山西朔州市境内），与东突厥的前锋部队已经近在咫尺。由于在此次北征之前，东突厥叛军曾成功偷袭萧嗣业的运粮队，所以裴行俭料定，此次突厥人一定还会故伎重施。于是他将计就计，挑选了一些老弱残兵伪装成运粮部队，负责押送三百辆粮车，同时在每辆车中隐藏五名勇士，一律装备劲弓和长柄大刀，专等突厥人上钩。
果不其然，唐军的“运粮队”刚出发不久，东突厥的偷袭部队便呼啸而至。按原定计划，那些押送粮草的老弱残兵立刻一哄而散。突厥人抢了粮车后，毫无戒备，纷纷下马饮水。就在此时，埋伏在粮秣车中的唐军勇士突然冲杀出来，东突厥军猝不及防，顷刻间便都成了唐军的刀下之鬼。
首战告捷之后，唐军主力迅速北上，于三月进抵黑山（今内蒙古包头市北），在此与东突厥叛军的主力展开决战，一战便将其击败，生擒叛军首脑之一阿史德奉职。
经此一役，东突厥叛军元气大伤，军心开始动摇，当初参加叛乱的二十四个部落个个心怀鬼胎，都想要自我保全。可汗麾下的几个部落酋长经过密商，最后干脆刺杀了新立可汗阿史那泥熟匐，砍下他的首级投降了唐军。
其余部众不敢再与唐军交锋，随后便在阿史德温傅的率领下仓皇退守狼山（阴山）。
北征军的东、西两路尚未出击，裴行俭的中路主力就已基本平定了叛乱。捷报传至长安，高宗大喜过望，即命户部尚书崔知悌到前线去慰劳官兵，并处理善后事宜，同时命裴行俭班师回朝。
高宗之所以急着把大军调回，目的是要应付日趋紧张的吐蕃战事。
这一年，吐蕃攻陷大唐西南的军事重镇安戎城（今四川理县西），致使西洱诸胡（今云南洱海湖一带）全部投降吐蕃。随后，吐蕃完全占据了羊同（今西藏西北部）、党项（今四川西北部）以及诸羌的地盘，向东威胁大唐西部的凉州（今甘肃武威市）、松州（今四川松潘县）、茂州（今四川茂县）、巂州（今四川西昌市），南部边境与天竺接壤，西陷安西四镇，北抵东突厥，疆域纵横万余里，其势力空前强大，如日中天。
裴行俭班师时，无论是高宗本人，还是朝中的大臣们，几乎都认定东突厥的叛乱已经平息。
然而，他们万万没有料到——东突厥残部并未放弃复国的念头。
很快，他们就将卷土重来。
斩草而不除根的结果，就是给对手以喘息之机，并且让对手变得比原来更加强大！
永隆二年（公元681年）正月，东突厥的一个酋长阿史那伏念又在部众的拥戴下自立为可汗，随后又与叛乱首谋阿史德温傅联手，重新纠集了叛乱各部，于是声势复振。
裴行俭再度临危受命，率右武卫将军曹怀舜、幽州都督李文暕，第二次踏上了北征之路。
三月，唐军前锋曹怀舜部刚刚越过边界，就得到一个来源不明的情报，说阿史那伏念和阿史德温傅正在阴山北面的黑沙巡视，随从骑兵不足二十人。曹怀舜为了抢一个头功，当即亲率一支精锐骑兵直扑黑沙。可到了目的地后，不要说突厥可汗，连一个鬼影都没见着。曹怀舜大为沮丧，只好往回撤。
当人困马乏的曹怀舜部撤至长城北面时，突遇阿史德温傅。双方进行了一次小规模的遭遇战，随即各自引兵而去。此时，唐军的第二梯队李文暕、副将刘敬同也已率部越过长城，与曹怀舜会师于横水。就在这时候，阿史那伏念的主力突然出现，而阿史德温傅也迅速折返，与阿史那伏念合兵一处，将唐军团团包围。
由于曹怀舜此前误信假情报，导致部队长途奔袭，消耗了大量体力，此刻又是仓促迎战，战斗力明显不如突厥人。所以曹怀舜不敢恋战，只好和李文暕部一起结成方阵，且战且退。
突厥人紧紧咬住唐军，整整追击了一天一夜。第二天，趁着一次刮顺风的机会，阿史那伏念命令部队发起总攻。唐军的方阵被冲乱，曹怀舜等人一见大事不妙，赶紧扔下部队，拍马便逃。指挥官一跑，士兵们更是争相逃窜，大军当即崩溃，被杀者不计其数。
后来曹怀舜又担心跑不出突厥人的包围圈，为了保住性命，只好收拾金帛前去贿赂阿史那伏念，请求议和。