▲蒋介石、吴朝枢、胡汉民、王宠惠合影
那几年，蒋介石经常在外指挥作战，南京政府由立法院长胡汉民坐镇留守。这一时期，蒋、胡的密切合作，是南京政权得以稳定的关键原因之一。比如，蒋桂战争时，胡汉民公开支持蒋介石讨伐桂系：“这一次讨伐桂系，就党的立场说，是以革命的势力，消灭反革命的势力；就政府的立场说，是以中央讨伐逞兵作乱的叛将。”
蒋介石承认：“国府成立以来，各种设施，百分之九十九悉依汉民之主张。”
但是，一旦外部危机过去，蒋、胡二人很快陷入激烈政争之中。表面上看，两人的分歧是南京政府是否采纳汪精卫等人在太原完成的《中华民国约法草案》。蒋介石为了统合党内分歧和朝野对立，愿意接受约法。
另外，蒋介石还存有一个私心——有了约法，就可以恢复总统制，而他是成为总统的唯一人选；作为立法院长的胡汉民，却一心捍卫孙中山留下的法统，所以坚决拒绝从北京政府沿袭而来的约法。两人对此反复争论，始终无法达成共识。
蒋介石在日记严词批判胡汉民说：书生意气用事，固执己见，必使他人绝望无路，不顾国家，因此更乱也。乃知古之不能治国平天下，而竟致灭亡者，往往多在书生之不能变通也。余决计发表，照江电施行，任何反对亦断不顾也。
胡汉民以孙中山政治和思想遗产的继承人自居，号称“总理在世，汉民以总理为党；总理去世，汉民便以党为总理”。从他的立场而论，既然有孙中山的“三民主义”为党的意识形态乃至国家的最高法律，何须再来添加一部约法呢？
胡汉民热衷于自行立法，在南京政府的立法院成立后，身为立法院长的他主持立法速度惊人，有时在一天内竟能通过法律二百五十条，通常在百条左右。但是，有法不依，则法律形同虚设。
胡汉民后来回忆说：我在南京的时候，职司立法，原期借党治的掩护，完成法治，再由法治过渡到民治，使训政的工作，能确实地建树起来。可是我的企图完全失败了。我所立的法，能实行的是哪几种？我不能说，能稍稍压抑枪杆子的威权，使有枪阶级有所惧伏的，则可断言其绝无。
归根结底，二人关于是否采纳约法的争论，其实是“军权”与“党权”谁最大的斗争。
胡汉民一贯坚持党权高于一切，强调党治下的法制观念。他坚信，党权是唯一合法代表，国家统一之后，必须以党权约束军权。历史学者金以林认为，胡汉民原以为蒋介石“独裁专制、专制于党，并不算错误，而且还绝对的合理，因为以党训政，必须使得整个中国政治的领导权集中于党，才能由党去实行主义与政策。”
