北伐过后,国军如日中天,但李聚奎毅然放弃追随唐生智,选择加入红军。当时红军的革命还处于低潮时期,李聚奎在这个时候入伍,体现出了对军阀政治的厌恶。在日后的苦难岁月中,李聚奎坚定不移,用行动实践对党的誓言。
1928年12月,李聚奎跟随部队上了井冈山。在长期的革命战争中,李聚奎得到了锻炼,职务也从一个班长逐渐升任为红六军第三纵队纵队长。每次战斗李聚奎都身先士卒,凭借着骁勇善战的能力,成为黄公略的爱将。
1930年6月,红六军改为红3军,李聚奎担任红3军9师27团团长,红8师师长、红7师师长。在土地革命时期战功赫赫,参加了前三次反“围剿”战斗,在第四次反“围剿”战斗中歼灭了敌军一个师部、一个旅,生擒国军师长李明。