武士彟的发迹，与他结识并忠诚李渊、李世民父子有直接关系。大业十一年（公元615年），隋炀帝派遣世袭贵族唐公李渊为并州、河东抚慰大使，镇压今山西境内的毋端儿、历山飞等农民起义军。李渊刚到并州时，就和当地名流武士彟交往甚密。第二年，李渊做了太原留守，就委任武士彟为行军司铠参军。当时，革命队伍四起，声势浩大，武士彟劝李渊起兵，并进"兵书及符瑞"。李渊表示：理解他的好意，如果将来取得成功，"当同富贵耳"。当时李渊是太原地区最高长官，武士彟是其下级官吏，他们竟敢一起讨论十恶不赦的"谋反"之事，可见他们之间的关系是很深厚的了。
大业十三年初，李渊、李世民父子，见隋朝大势已去，决定乘乱起兵，夺取天下，遂命刘文静、长孙顺德、刘弘基分头召募士兵，引起了太原副留守王威、高君雅的怀疑，并表示要按查此事。由于武士彟的劝说，王威、高君雅没有采取什么行动，为李渊消除了起兵的障碍。
李渊在太原起兵时，建立大将军府，武士彟为大将军府司铠参军，并随唐军西行进入长安。唐朝建立后不久，李渊对支持他起兵的功臣大加封赏，武士彟为二级功臣，并给予他以犯罪免死的优待。
