李渊是太原留守，可是，隋炀帝又派王威、高君雅这两个副留守来监视自己。想到这里，他不禁长叹一声:“唉!本来就被怀疑，现在仗又没打好，说不定皇上问罪的文书马上就会到来呢，”这时，李渊浑身发燥，头脑发涨，再也无法入睡，一直胡思乱想到天亮。经过一夜思索之后，对于李世民在对他说的要造反的那一番话，李渊听得就很入耳了。他一边听，一边想，同时轻轻点着头。

最后，李世民稍微提高一点声音对李渊说:“大人，再不要犹豫，赶快下决心吧”，这时李渊抬起头来，长出了一口气，说道：“昨天一夜，我翻来复去地想，你的话也的确有道理。家破人亡也好，建立帝王之业也好，就都由了你了。”“那么，就动手吧!”世民两眼光芒四射，兴奋地站起来说道。李渊却无声地摇了摇头。他还要再看下形势哩。为了促使李渊早下决心,李世民又去催促裴寂，请他快些去劝说父亲。晋阳宫里有许多宫女，是预备皇帝来的时候专门伺候他的。裴寂过去曾经偷偷派宫女伺候过李渊，他觉得可以从这里下手劝说李渊。李渊又到裴寂那里喝酒谈天，裴寂招待得格外周到。李渊喝的特别痛快的时候，裴寂叫其他天都退出去，十分机密地对李渊说:“我私自用宫女伺候您，这可是掉脑袋的事，要是哪天揭出来，咱俩都得家破人亡。二公子世民怕这事被人发觉。品能在背地里养兵买马，准备起兵反隋，争夺天下。请位将官都感意干，就看您的主意了，怎么样？”李渊经过这些天的仔细考虑，加上世民、裴寂和另外一些人的劝说，觉得非这样干不可了。就说到“老二的确有这个打算，事情已经这样了，没有别的法子，只有干吧。

恰在这时，李渊整天提心吊胆的事情到底临头了。隋场帝对马邑之成的失败大为恼怒，派遣使者要把李渊抓到江都问罪。这可真是大祸临头了，怎么办呢?李渊留守在府里，气氛紧张极了!

李世民觉得已经到了最后关头，再不行动就是等死。他和裴寂一同去催促李渊。他们对李渊说:“现在，主上无道，国家大乱，不堪救药，就是想向皇帝和国家尽忠心，也毫无益处。本来是高君雅打了败仗，但是，由于皇上信任他，就派他来监视您的，所以不处罚他，只拿您治罪，天理何在!这事情已经是火烧眉毛了，您赶快决定大计吧。”李世民又激昂慷慨地说道:“太原人才济济，兵马强壮。晋阳宫里，粮草、兵器，储存的非常多。凭着这些条件，夺取天下，一定能够大功告成。皇上远在江都，留守都城长安的代王，是个十二、三岁的小孩子，根本镇服不了。关中的英难豪杰，四处并起，势力强大，所缺的是没有一个有威望的大人物来统一指挥。大人举起反隋义旗，抚各路人马，直取长安，简直就象探囊(nang)取物那么容易。有光明大道不走，为什么要听个使者的摆布，去作囚犯，等着被杀死呢!”

事已至此，半点退步也没有了，李渊只好下了决心。只见他猛地站了起来，大手用力一挥，说道:“好，就这么办!”，然后，他们又仔细商量了行动的计划，并且秘密地作了部署。已经是箭在弦上了，却发生了新的变化,炀帝又派遣使者来到太原，说不问李渊的罪了，让他照旧当官。这一来，李渊又改变了主意。