经过反复研究后，他选择以富庶闻名天下的太原与山西地区，要命的是，这块地方正是李唐的基本盘。史书也记载了当时李渊的心理活动，他当时忧心忡忡的与李世民说道，"魏刀儿不除，则大业不成"。很快，魏刀儿就率领手下精锐围困了太原城，李渊率军出战，结果可能是杀得太过瘾了，以至于冲入了敌军重阵之中，逃不出来了。
历山飞的雄厚实力和战斗力，一度对李渊和李世民造成很大威胁。史料记载，"历山飞众数不少，劫掠多年，巧于攻城，勇于力战。"当时适逢李渊也在太原厉兵秣马，随时准备出兵攻略陕西关中，历山飞却频频带兵袭扰太原，严重干扰了李渊的准备工作。不把这个历山飞打掉，别说出兵争夺天下，稍有不慎，连老巢都可能被历山飞给端了。
