1927年4月和7月，中国国民党内的蒋介石集团和汪精卫集团先后背叛革命，血腥屠杀共产党人和革命人民，使1924年开始的国共两党合作的反帝反封建大革命遭到失败。8月1日，以周恩来为书记的中国共产党前敌委员会和贺龙、叶挺、朱德、刘伯承等领导共产党掌握和影响的国民革命军2万余人在南昌举行起义，打响了武装反抗国民党反动派的第一枪。南昌起义湘赣边界秋收起义后，毛泽东率部向罗霄山脉中段转移。1927年9月29日到达永新县三湾村，进行了改编，将部队缩编为工农革命军第1军第1师第1团。10月，毛泽东率部到达井冈山地区后，开展游击战争，创建农村革命根据地。

1928年4月,朱德、陈毅率领由南昌起义军余部和湘南农军编成的工农革命军到达宁冈县砻市，和毛泽东部会师。两支部队合编为工农革命军第4军，辖3个师，共约1万人。1928年12月，彭德怀、膝代远率领由平江起义部队组成的红军第5军主力转移到井冈山，同红4军会合，编入红4军。

1929年1月，红4军主力向江西省南部和福建省西部挺进，开展游击战争。至1930年6月以后，各地红军分别进行整编，并统称中国工农红军，赣西南、闽西地区的部队编为第1军团，辖第4、第6（不久改为第3）、第12、第20、第22军。湘鄂西地区的部队编为第2军团，辖第2、第6军。湘鄂赣边界地区的部队编为第3军团，辖第5、第8、第16军。鄂豫皖地区的部队编为第1、第15军。8月23日，第1、第3军团在湖南省浏阳县永和市会合，随即组成中国工农红军第一方面军，朱德任方面军总司令，毛泽东任总政治委员和总前委书记