李元吉有本事作恶，却没有本事抵挡刘武周。刘军快到太原时，他对大将刘德威说:“您带着老弱守城我奉领精锐出城迎敌。”说的激昂慷慨，做的实在可耻。他夜里率兵出城。根本不是去迎敌，而是要带着老婆女人逃命去。他比裴寂还有“本事”，裴寂只逃到晋州，他却一股劲儿逃到了长安。

李元吉刚刚逃跑，刘武周已经兵临城下,很快攻下了太原。接着，宋金刚又攻克了晋州。这时，原来的隋朝将领王行本，还占据着黄河东岸的蒲反(在今山西永济南)，他也和刘武周互相呼应。这样，除几个据点以外，河东(这里指今山西省)几乎全被刘武周所控制。形势坏到这种地步，关中震动，长安也不安起来。

怎么办呢?李渊发出一道文书说:“刘武周、宋金刚势力强大，如此猖狂，实在难以抗拒，现在只有放弃黄河以东，严守黄河以西，没有别的办法。”李世民反对放弃河东，他立即向李渊上表说:“太原，是我们起兵的地方，是国家的基础和根本；河东物产丰富，是都城长安财富的重要来源。放弃了黄河以东，必然全国震动，那样我是不甘心的。请皇上给我三万精兵，我一定消灭刘武周、宋金刚，收复晋州、太原。”

李渊看了世民的表章以后，对他说:“既然你有这样的决心，那很好。”李渊把关中能抽出的精兵，全部交给李世民，让他进讨刘武周和宋金刚。为了鼓舞士气，他亲自到华阴县的长春宫，送别李世民等东征将士。

十一月，李世民率领大军到了龙门。当时天气很冷，河水结了冰，士卒从冰上过了黄河，在柏壁（今山西新绛县西南）扎下大营，和宋金刚对峙。唐军在河东几次吃败仗，民心不稳，军心不振。为了稳住局势，李世民命令，坚守营地，不出兵决战。同时，乘机积极整顿部队，筹备军粮兵器。

为了了解敌人的动向，有一次李世民率领少数精锐骑兵去观察宋金刚军队的情况。到了前线，他让士兵们四出侦察，身边只留一个卫土。由于连日疲劳，他和卫士在一个小山丘上睡着了。突然，敌军从四面包围了山丘。恰巧，这时一条蛇和老鼠打架，碰了卫士的脸，卫士惊醒了，才发现已经陷入敌军的包围之中。他马上叫醒李世民，赶快上马逃跑。才冲出去一百多步，敌人又赶了上来。李世民从小受过严格的军事训练，力气大，武艺精，特别擅长射箭，他用的弓比一般的弓硬得多。这时，他沉着冷静，边跑边转身弯弓，向后猛射。弓弦一响，为首的敌将应声落马，一命鸣呼; 吓得追兵目瞪口呆，不敢紧逼，李世民才安全回到驻地。