1919年回国后，成为了天津学生界的领导人，随后于1921年加入中国共产党。1924年他外出回国后，他担任广东黄埔军校政治部主任，国民革命军第一军政治部主任、第一军副党代表等职。他在前期比较著名的贡献就是与贺龙、叶挺、朱德、刘伯承等一起于8月1日在江西南昌领导武装起义。
1931年他离开上海，前往中央苏区担任中央局书记。两年后他与朱德亲自领导了红军，战胜了国民党军队对中央革命根据地的第四次围剿行动。次年，他和其他领导人一致同意开启长征。
在1935年“遵义会议”上，他起了关键性的作用，并被继续选为中央主要军事领导人之一。在抗日期间，他代表中共长期在重庆以及其他国民党控制区进行着统一战线的工作，他努力团结各方力量，只为了增强我国抗日救国的力量。
