中共江西地方组织建立始于团的建立；江西地方团的创始人是赵醒侬，协助建团的是方志敏和袁玉冰。

     为了筹建江西地方团组织，赵醒侬、方志敏、袁玉冰等征得团中央同意，决定由方志敏先来南昌筹办“文化书社”，作为传播马克思主义和开展建团活动的立足点。1922年11月初，赵醒侬亦到昌，和方志敏共同开展建团工作。次年1月20日，赵醒侬在文化书社召集常来书社的几名进步青年开会，宣布中国社会主义青年团江西地方团的建立（后改名为南昌地方团），由刘拜农任临时书记。

     江西地方团成立后，立即开展革命活动，壮大团的组织。袁玉冰在南昌广泛联络进步青年，组织了“民权运动大同盟”和“马克思学说研究会”，作为团组织下公开活动的组织形式。同年3月，由于北洋军阀江西督理蔡成勋的破坏，团的活动被迫停止。

     10月中旬，奉团中央指示，赵醒侬再度返昌，重新恢复南昌团地委，赵醒侬为委员长。到1926年3月，全省建立了安源、南昌、九江等11个地方团组织，其中安源、南昌、九江、吉安为团地委，其余为特支，团员总数约400余人。

     1923年10月，党团中央委派赵醒侬回江西重新恢复南昌团地委时，还提出了在南昌筹建党组织的要求。    
     1924年2月赵醒侬、邓鹤鸣（江西籍共产党员）在上海接受了党中央关于适应新形势，推动大革命运动高潮，筹建中共江西地方组织的指示。同年4月，赵醒侬、邓鹤鸣作为国民党江西省党部的筹备员回到江西，在筹备国民党临时省党部的同时，筹建中共江西地方党组织。他们首先发展了方志敏、傅清华等团员入党。经过短时间筹备，1924年5月，中共南昌特别支部正式成立，赵醒侬任支部书记兼组织干事，支部直属中共中央领导。

     南昌特支成立后，为了加强对全省工作的领导，决定在赣江沿岸和南浔铁路沿线的重要中心城市南昌、九江、吉安等地发展党员，建立组织，适应革命形势和党的任务的需要。

     1926年4月，经中共中央批准，中共江西地方执行委员会在南昌成立，罗石冰为书记，赵醒侬任组织部主任，方志敏任工农部主任。下辖三个支部：南昌支部党员18人，九江支部党员5人，吉安支部党员42人。到5月，党员发展到105人。10月，中共江西地委在全省14个县建立了组织，6个县设立了通讯员，党员除安源外，发展到500余人。

     党中央于1926年12月在汉口召开特别会议后，根据会上通过的湘鄂赣粤四省党务决议案，中共江西地方执行委员会改为中共江西区委，书记刘峻山，军委书记李富春，组织部主任傅烈，宣传部主任袁玉冰，农委书记方志敏，妇委书记蔡畅。区委下辖九江、吉安两地委和若干支部，党员近900人。

     1927年4月，党的五大召开。根据五大党章关于各省均设立省委的规定，5月底，中共江西区委改为中共江西省委，中央指派罗亦农为书记。7月21日至23日，中共江西省委在南昌松柏巷省立女子师范学校内召开了中共江西省第一次代表大会。到会代表60余人，代表全省5100名党员。汪泽楷当选为省委书记，陈潭秋为组织部主任，宛希俨为宣传部主任，曾延生为工委主任。