李渊管理范围内的驻马邑，有名鹰扬校尉叫刘武周，他发动了兵变，杀死了马邑太守王仁恭，割据了马邑开始自称天子。
刘武周率兵攻破楼烦郡，进占那汾阳宫，并与突厥暗中勾结，图谋南下要争夺天下。
隋炀帝闻讯后大怒，要提拿李渊到江都治罪，谁知令还没发出，在江都被宇文化及率领将士的叛乱所杀了。
太原那边还不知江都的消息，李世民见隋炀帝要提走父亲，他说道：“事情万分紧急，必须举事了。”
李渊周围的心腹裴寂、许世绪、武士眜等，也都纷纷劝李公不如起兵。
李渊犹豫再三，觉得没有退路，前赴天玑神楼问询袁天罡三番五次，这才终于下定了反隋的决心。
李渊借口要防备刘武周和突厥南下，派了李世民、刘文静、长孙顺德、刘弘基等人到治下各地募兵，在很短的时间里便招到了数千人。
太原副留守王威和高君雅看到李渊招兵买马，他们怀疑李渊要造反，便密谋着要骗李渊父子到晋祠祈雨，趁机除掉李氏，好随后向隋炀帝邀功请赏。
不料，他们这一密谋被晋阳乡长刘世龙获悉了，刘世龙便密告知了李渊。
李渊和李世民商议之后先发制人，指使开阳府司马刘政会告发王威和高君雅二人暗中勾结突厥，引突厥入寇中原，令人将这二人囚禁了起来。
过了几日，真有数万突厥军队进攻晋阳，李渊顿时慌张了起来。
李世民说道：“父亲莫慌，我们先不要出击。等他锐气耗没，粮草补给不足，我们再择机冲杀出去即可。”
李渊听了李世民话，先名正言顺地命人将王威和高君雅两人推出去斩首。
随后又派了李建成和李世民率军队攻杀不听从自己号令的西河郡丞高德儒。
李渊又设下空城计，偷偷绕道后面烧了那突厥的军粮，吓退了突厥的军队围城。
太原之围这才彻底解了。太原之围解了之后，李渊心想袁天罡