陈毅投身革命的时间比较早, 在长期的斗争实践中积累了较为丰富的政治工作经验。他是井冈山斗争时期的主要领导人物之一, 曾担任过红四军士兵委员会主任、政治部主任、军委书记、前委书记等职, 主要负责红四军党的工作, 在政治方面很好地辅佐了毛泽东, 并建立了不朽的功勋。在陈毅的辛勤努力下, 红四军的纪律性得到增强, 战斗力迅速提高, “军中的工作, 乃有起色, 尤其是各团委渐次的起了作用”, 他也因此被誉为红四军的“设计师”、“政工巨匠”。

当时, 红四军战士多是从旧军队中起义和农村斗争中来的, 另有一部分是从战争中俘虏来的。所以, 部队内部成分复杂, “红军第四军的共产党内存在着各种非无产阶级的思想, 这对于执行党的正确路线, 妨碍极大”。比如有的只愿待在城市不愿到艰苦的乡村建立革命根据地, 打起仗来有“发洋财”思想, 见着俘虏就搜腰包; 打土豪时, 见到有用的小东西就自己拿着用等等。为建立一支新型的人民军队, 陈毅艰苦地摸索建设人民军队的新内容、新方法。他采取了许多措施加强军队党的工作, 特别注重以全国高校思想政治工作网建设推动部队的巩固和发展。

为使红四军战士克服单纯打仗的军事观点和不肯做细致的群众工作, 陈毅不仅在百忙中抽空到党团训练班和政治训练班去讲课, 而且利用战余修整和分兵发动群众的空隙, 率领红军干部、战士深入群众, 广泛开展群众工作, 掀起了声势浩大的打土豪、分浮财、没收地主土地、铲除反动势力的群众性斗争, 帮助地方发展党的组织, 建立地方武装, 整顿各级红色政权, 开展轰轰烈烈的分配土地斗争, 使红军深深扎根于群众之中。这样, 红军的政治宣传工作得到明显的进步, 将革命斗争与发动群众有机结合起来, 消除了老百姓的顾虑, 调动了各方面的积极性。正如陈毅自己所说, “红军到达一个县城, 只要三小时, 宣传工作可以普遍……许多群众说: ‘红军一到, 满街鲜红, 等于过年。’”

当年在维护红军的内部团结方面, 陈毅也堪称模范。井冈山会师不久, 他发现南昌起义部队的干部战士, 一上山就带着某种优越感, 认为自己人众枪多, 能打仗, 瞧不起秋收起义部队。他们嘲笑秋收起义部队是湖南的学生兵, 文质彬彬的。秋收起义部队则认为南昌起义部队旧军队的作风重, 纪律差, 是“油子兵”。这两支来源不同的部队, 开始流露出闹不团结的苗头。于是, 陈毅及时向毛泽东建议, 可以考虑对部队实行混编, 两个部队的干部互相交流一下, 特别是对南昌起义的部队, 要加强政治思想工作。这一建议受到毛泽东和朱德的高度赞扬和肯定, 认为这是加强两军团结、巩固部队的重要组织措施, 并予以实施。

陈毅还亲自抓各部队的士兵委员会, 经常把士兵委员会的骨干集中起来, 给他们讲课, 宣传红军的革命性质、各部队任务、官兵一致的原则, 特别注意宣传两军团结的重要意义, 并以身作则做团结的典范。在龙源口大捷、红军攻入永新城之后, 28团缴获了大批军用物资和武器弹药。可31团在茶陵高陇战斗中, 弹药消耗较大。于是, 陈毅建议应该给31团补充弹药, 支援他们一下。但是很多同志想不通, 他当即和朱德同志商量, 召开了各单位士兵委员会负责人联席会议, 耐心地做大家的思想工作。

经过陈毅的教导, 大家思想很快统一了, 明白了团结起来有力量的道理, 再也不互相闹意见了。会议决定由28团拨给31团三门迫击炮和二挺机关枪, 并号召28团的战士每人献出一颗到一排 ( 五颗) 子弹, 支援31团的战友。31团对此也很感动, 他们贴起了横幅标语, 上面写着欢迎28团发扬革命风格, 向28团学习的话。从此以后, 各部队之间增进了团结, 集体观念增强了, 战斗力也提高了, 在频繁的战斗中经常密切配合打胜仗, 逐步形成人民军队宝贵的优良传统。如同陈毅所言: “红军各部分间非常团结, 内部官兵是兄弟一般关系, 非常欢爱, 不会像反动军队之不能团结, 发生互相厮杀等事。”“彼此相依为命的。尤其是恶劣的政治环境及斗争历史, 更坚决了他们的团结。”

陈毅在井冈山斗争时期充分发挥了自己的政治才干, 而且宽宏大度、光明磊落, 堪称我党团结战斗的楷模, 因而受到了广大官兵的拥护和爱戴。当然, 陈毅并非完人, 也遇到过挫折。比如1928年8月, 他在短暂担任红四军前委书记期间, 与朱德一起没有能够抵制住湘南省委的错误指示, 导致红29团在湘南溃散, 以及出现了湘赣边界的“八月失败”, 对此他也负有一定的领导责任。不过, 陈毅从不隐讳自己在革命斗争中所犯有的一些错误或缺点, 经常用自己在参加革命初期因缺乏经验而走过的一段弯路来教育干部, 这对于他不断积累和总结政治工作的经验帮助很大。正如何长工所评价的那样: “他崇高的政治品质, 卓越的指挥才能和组织才能, 早在井冈山斗争时期, 就已放射出照人的光彩。”总之, 经过井冈山斗争时期的锻炼, 陈毅的政治才干和领导艺术日臻完善, 也铸就了他日后的历史地位。