1927年春夏之际，蒋介石、汪精卫相继背叛革命，实行实行“清党”和“分共”，向共产党人和革命群众举起了屠刀，轰轰烈烈的大革命惨遭失败。血的教训让中国共产党人认识到独立掌握军队和领导武装斗争的极端重要性。
7 月中旬，改组后的中共中央临时政治局常委会迅速作出决定，在南昌举行武装起义，并组织以周恩来为书记的中共前敌委员会领导这次起义。参加起义的部队主要为党直接掌握和影响下的国民革命军第二方面军之第11军第24师、第10师一部，第4军第25师部分，第20军，第五方面军之第3军军官教育团一部和南昌市公安局保安队，共2万余人。8 月1日凌晨，在以周恩来为首的前委及贺龙、叶挺、朱德、刘伯承等领导下，南昌起义爆发。经过4个多小时的激烈战斗，起义军歼灭南昌守军3000余人，占领南昌城。为了争取和团结国民党中一部分愿意继续革命的人士，起义成功后，中共前委根据中央的决定，仍使用国民党左派的旗帜，起义部队沿用国民革命军第二方面军的番号，下辖第9、第11、第20军共三个军。
南昌起义的枪声引起了国民党反动派的极大恐慌。南京和武汉的国民党反动派分别调集大批兵力，向南昌扑来，妄图扼杀这支新生的人民军队。为了保存革命力量，起义军根据预定方案迅速撤离南昌，计划经过赣南、闽西，直奔广东，以期恢复广东革命根据地，并占领出海口，取得共产国际援助， 重新举行北伐。由于起义没有和农民运动相结合，着手建立革命根据地，10月初，起义军遭到失败。保存下来的部队，一部分转移到海陆丰地区，同当地农民武装汇合；另一部分在朱德、陈毅率领下，经赣南、粤北转入湘南开展游击战争，1928年4 月，辗转至井冈山，与毛泽东领导的部队会师，合编为工农革命军第四军。
南昌起义打响了武装反抗国民党反动派的第一枪，在全党和全国人民面前树起了一面革命武装斗争的旗帜，宣告了中国共产党人不畏强暴、坚持革命的决心，开启了中国共产党独立领导革命战争、创建人民军队和武装夺取政权的新征程。
1933年6 月30日，中革军委发布《关于决定“八一”为中国工农红军成立纪念日》的命令，决定“自1933年起每年8月1 日为中国工农红军成立纪念日”。7月11 日，中华苏维埃共和国临时中央政府正式批准。从此，8 月1 日成为中国人民解放军诞生的光荣节日，南昌也由此被誉为“英雄城”和“军旗升起的地方”。