江南造船所是中国共产党人早期革命活动的“播种地”。在1921年7月，中国工人阶级的先锋队中国共产党诞生于上海，产生的第一位产业工人党员李中就是江南造船所打铁工。在共产党的领导下，江南工人开始走在时代前列，成为国内反帝反封建的一支重要力量。
抗战时期中共地下党始终活跃在领导工人对敌斗争的最前线。1939年至1940年，姚振民、顾开极、朱庚森、潘启生四名中共地下党员先后潜伏进入江南造船厂做工，在党组织的领导下开展秘密对敌斗争。当时江南工人最关心抗战消息，地下党员就从宣传抗日道理和提高群众觉悟着手进行建党工作。他们利用与工人面对面交流以及办夜校上课等机会，揭发日本帝国主义的侵略行径及国民党消极抗战的真相，把新的抗战形势以及共产党领导下的八路军、新四军浴血奋战的消息传递给工人兄弟们。一些江南工人深受教育，主动向党组织靠拢，成为江南工人的积极分子。
1940年底，朱庚森在江南造船所造船部发展乔关生入党。乔关生成为党员后，又发展了样板工陆阿发等工友入党……短短几个月，江南造船所的冷作、铁机、电焊、木工和工具等工场全部有了党员，插上了红旗。在这个基础上，1941年春，中国共产党在江南造船所第一个党支部——中共造船党支部在造船工场秘密成立，这也是船舶行业的第一个基层党组织，乔关生为支部书记;1942年春，江南造船所第二个党支部——中共造机党支部成立，胡桂宝任支部书记，并吸收孙增善等一批进步青年参加了党组织;同年9月，中共造机支部和造船支部合并成立党总支，统一领导全所工人对日斗争。江南党组织的迅速发展，巩固和壮大了中国共产党敌后抗日力量，它领导的一系列巧妙灵活的对敌斗争，有力地支持了抗日前线。
江南造船所第一个党支部秘密联络点，半淞园路晓星里(今354弄)3号
中共造船党支部支部书记乔关生
“磨洋工”也是对敌斗争
为了联系更多的工人群众，乔关生、朱庚森等尽管不会踢球，却组织起了“飞鹰”等三个足球队，队员绝大部分是党员和团结在党周围的积极分子。在练球、比赛间隙，地下党向球员们宣传抗日救国道理。为了适应老工人的兴趣，乔关生又发起成立武术班、说唱班，请老人讲书说唱，结合抗日形势插进一些新鲜的内容，吸引了很多老工人。当时，大家谈论的热门话题是与抗日有关的新闻，每个人的言谈话语中都流露出对早日驱逐日本侵略者的企盼。地下党组织通过这些宣传渠道和形式，在工人中不断发展新党员，迅速团结壮大了江南工人运动的力量。
地下党组织还根据上级指示，动员了一批技术工人支援新四军兵工厂。这批工人以后都成了兵工厂的技术骨干，著名人物是金龙山。金龙山在“一二八”事变中，主动参加随军民伕队，支援十九路军抗日。在中共领导下，他利用领班身份，组织工人怠工和毁坏器材。入党宣誓时，金龙山坚决地说：“我投了红旗，绝不会再投白旗。”旋参加工人地下军。
在严密控制下，与日军面对面开展斗争很困难，江南地下党组织就领导工人巧妙地“磨洋工”、“逃警报”。与抗战初期江南工人的英勇沉船等自发行为不同，这些有组织开展的对敌斗争，既阻碍了敌人完成军事生产计划，又不易暴露自己，有力地打击了日寇的嚣张气焰。在日本宣布投降前，一直在江南坚持地下斗争的中共党组织，领导江南工人英勇护厂，至1945年8月15日日本宣布投降，使船坞及主要机器设备都基本完整地保留下来。