大业十三年七月初四，李渊任命另一个儿子李元吉为太原留守，处理太原的一切军政事务。一切安排就绪之后，第二天，他和李世民、李建成率领三万大军，从太原出发，西征长安。七月十四日，大军南下到达离霍(huo)邑(山西霍县)只有五十多里的贾胡堡。

留守长安的隋朝代王集团得到李渊起兵西征的消息，大为震惊。他们知道拥立代王为皇帝只是个漂亮的说法，实际是要把代王作为傀儡，由李渊掌握实权。因此，立即派遣宋老生率领精兵两万守卫霍邑，作为第一道防线；派遣屈突通率领大军守卫黄河东岸的河东(今山西永济县西)，作为第二道防线。

这时候李渊接到李密派遣使者送来的一封书信。李密和翟让率领的瓦岗起义军，在同东都越王杨侗( tong)集团作战中，接连打胜仗，成为当时最强大的一支反隋力量。李密仗恃兵强马壮，信中的口气很大，以天下反隋力量的盟主自居。他让李渊亲自前去同他会面，双方订立和好的盟约，实际上是要李渊承认他的领导地位。如何处理同李密的关系，这是又一个重大策略问题。对于这个问题，李渊早已有所考虑。他看完李密的信以后，笑了一笑，对将官们说道:“我们当前的主要目标是拿下关中，控制长安。处理一切问题，都要有利于实现这个目标。

如果我们不承认李密的领导地位，就会增加一个强大的敌手。李密骄傲自大，不如投其所好，奉承他一番，推他作反隋力量的盟主。这样做有三个好处，一是李密以为我们拥护他，就不会干涉我们在关中的行动;二是让李密和东都的杨侗拼命厮杀，牵制住东都，使东都不能援救长安;三是利用瓦岗军隔断江都同长安的来往。总之，是为我们进军关中造成有利的局面。这样，当我们占领长安，打好基础的时候，瓦岗军和东都杨侗却互相削弱、两败俱伤了。那时我们可以坐收渔人之利，再去对付他们。”李渊对待李密的策略和对待突厥、对待隋朝的策略一样，都是很高明的，这是他后来能够成功的重要因素。

按照上面的意思给李密回信以后，李渊本想立即向宋老生发动进攻，但是，不巧得很，连日下大雨，军队无法前进。几万大军前进不得，后退不成，这是很不利的局面。而且因为下雨道路泥行，转运给养也很困难。粮食也要吃完了，真是祸不单行。