李渊对这个家资豪富、豪爽仗义的武士彟也很有好感，两人很快成为好朋友，李渊经常到武士彟家饮酒聚会。武士彟多次劝说李渊，应当乘势而起，抓住时机干一番大事，正合李渊的心意，李渊表示，如果日后真能发迹，会与武士彟"富贵共之"。从此武士彟逐渐成为李渊的心腹之人。
武士彟为人机敏圆滑，当时隋朝驻扎太原的武将高君雅、王威等人，也把武士彟当成自己人。有一次，李渊的手下长孙顺德、刘弘基等人因犯律令，被王威、高君雅查获后，准备杀掉两人。武士彟急忙从中斡旋劝阻，保住了两人的性命。王威等人觉察到李渊有谋反迹象，准备上报朝廷，也被武士彟阻止。因此武士彟几乎成为李渊的眼线和卧底，为李渊顺利起兵立下功劳。
李渊起兵之前，也曾考虑到前途未卜和巨大风险，一度犹豫不决。武士彟则表现的非常激进，又是献兵书又是献上祥瑞，还一本正经告诉李渊，自己做了个梦，梦见李渊骑着一条龙飞上了天。李渊明知他在胡说八道，仍然非常高兴。起兵后，授予武士彟大将军府参军之职位，随军征战。
