第二年，北方下了一场大雪。东突厥的牲畜死了不少。大漠以北发生饥荒。颉利可汗加紧对其他部族的压迫，又引起各部族的反抗。颉利派他的堂兄弟突利去镇压，反被打得大败。突利逃回去后，被颉利责打一通。两人因此翻了脸，突利投降了唐朝。
唐太宗抓住这个时机，派出李靖、徐世勣等四名大将率领大军十多万，由李靖统率，分路出击突厥。
李靖是唐朝初年有名的军事家，精通兵法。他在隋朝末年归附唐朝，在唐朝统一战争中，立了不少战功。
公元６３０年，李靖亲自率领三千精锐骑兵，从马邑出发，趁颉利不防备，连夜进军，逼近突厥营地。颉利毫无防备，发现唐军突然出现，大惊失色。将士们也慌了手脚，说：“这次一定是唐朝发动全国兵力来了，要不然，李靖怎敢孤军深入呢？”
还没有到唐军发起攻击，突厥兵先乱了起来。李靖又派间谍混进突厥内部活动，说服颉利一个心腹将领投降。颉利一看形势不妙，就偷偷逃跑了。
李靖攻下定襄，得胜回朝，唐太宗十分高兴，说：“从前汉朝李陵带兵五千，结果不幸被匈奴所俘虏；现在你以三千轻骑深入敌人后方，克服定襄，威震北方，这是自古以来少有的盛事啊！”
颉利逃到阴山以北，怕唐军继续追赶，派使者到长安求和，还说要亲自朝见。唐太宗一面派唐俭到突厥，表示安抚；
另一方面又命令李靖带兵前去察看颉利动静。
李靖领兵到白道（在今内蒙古呼和浩特西北）和徐世勣会师。两个人商量怎样对付。李靖说：“颉利虽然打了败仗，但是手下人马不少。如果让他逃跑，以后我们再要追他，就很困难了。我们只要选一万精兵，带二十天粮，跟踪袭击，一定能把颉利活捉住。”徐世勣也赞成这个意见。两支军队就向阴山进发。
颉利可汗求和实际上只是缓兵之计，想等草青马肥季节来到，再逃到漠北。他看到唐俭来到，以为唐太宗中了他的计，暗暗高兴，防备也自然松懈下来。
当天晚上，李靖和徐世勣率领唐军到了阴山，命令部将苏定方率领二百名轻骑，冒着夜雾悄悄进军。到突厥前哨发现唐军的时候，唐军离开颉利营帐只有七里地了。
