另一方面，当时山东的特点是，封建地主势力十分强大，广大农村被地主武装割据，非常闭塞和落后，群众运动受到压制，而鲁南地区的党组织，是在军事力量推动与统战的影响下发展起来的，群众基础比较薄弱，这就要求115师在群众中树立起共产党、八路军的威信，发动基本群众的工作也变得尤为迫切。
为了发动群众，建立自己的政权，115师抽调大批干部，深入基层做群众工作。潘振武当峄县县长以后，罗荣桓又调师教导大队政委刘兴元任民运部副部长。刘兴元原籍是山东莒县。罗荣桓对他说：“你这个山东老乡，下去做做老乡的工作吧！”
当时115师的民运部设有民运工作队，有四五十个干部，绝大部分都长期分散在各个县、区，组织自卫团、农会和各种群众团体，开展减租减息，建立党的组织和区乡政权。
身为115师的政委，罗荣桓还经常进行农村调查，掌握第一手材料。1940年8月，罗荣桓与鲁南区党委书记赵一博一起，到郯码地区检查工作。这正是收高粱的季节，县政府为了保护青纱帐，便于反“扫荡”，就下了一道命令，要老百姓只割高粱穗，不要砍高粱秆。谁砍了高粱秆就抓到县政府来审问，有的人还挨了打。当时的老百姓主要是以庄稼秸秆为做饭的烧柴，到了每年8月份，好多老百姓已经没有了柴禾烧，另外，有的老百姓还要把高粱秆砍掉，再种上其它庄稼，因此有的人就不顾县政府的命令，把自己地里的高粱秆给砍了，结果一部分人被抓被打。这样做，当然是很不得人心。罗荣桓知道此事后，耐心地对县政府的人员说，对群众不要强迫命令，可以动员群众晚砍些日子，但是群众要烧火，要种地，高粱秆迟早是要砍的，不能动不动就抓人，更不准打人。
在强调建立抗日民主政权的同时，115师抓的另一件大事，就是发展和巩固抗日武装。要想建立政权，在当地站稳脚跟，不但要做群众的工作，争取上层人士的支持，而且还要发展和扩大自己的武装。只有自己强大了，才能使群众感到放心，才感到有了依靠。上层人士也才觉得你能够为抗日做出一定的贡献，并且，他们看到你比较强大，也不敢轻易得罪你。
115师进入鲁南后，很快打开了局面，但是，主力部队经过多次激烈的战斗，减员较多，而补充却很困难。
1940年初，山东分局派社会部长刘居英赴湖西处理“肃托”事件的善后事宜，由第686团3营护送。刘居英看到他们总共不足200人，大部分战士扛着机枪，步枪已经没有多少人扛了。刘居英回来向115师的领导作了汇报，问为什么不赶快补充。罗荣桓只是笑一笑，未作回答。有一天，地委政府工作部长于化琪也为此事来找罗荣桓汇报，谈到地方对解决主力部队兵源负有义不容辞的责任。但是，当前困难很大，很难满足主力部队的要求，地委书记宋子成为这事急得生了病。罗荣桓很关心地安慰说：
“不要着急嘛，告诉宋子成同志，不要感到有压力。”
“这是个大问题，想想看，用什么办法解决，我看办法总是有的。”
过了两天，罗荣桓召集地方和军队的40多位干部一起开会，研究如何解决兵源问题。罗荣桓说：“主力部队入鲁以后，经过多次战斗，减员比较多，兵员确实需要补充。但解决兵源问题要有条件，现在鲁南各地党的组织还没有普遍建立，群众还没有充分发动起来，地方上也有困难，硬要是不成的。”
“怎么解决这个问题呢？”罗荣桓接着说，“首先广泛深入地发动群众。群众觉悟提高了，兵源问题自然就好办了。”罗荣桓用亲切的目光望着部队的干部说：“我看现在不是要地方支援部队，而是部队先要支援地方。要从部队中抽调一批干部，深入到群众中去帮助地方，做好发动群众的工作……”
听到这里，军队和地方干部思想上的疙瘩解开了。大家都轻松地笑了起来。接着，罗荣桓宣布，从主力抽调100多人组成工作团，由师政治部的科长彭亮带队，分赴4县边联一带农村，深入群众，帮助地方党开展工作。工作团下去以后，很快建立了50多个群众工作点，发展了党员，建立了党支部、基层政权和工、农、青、妇等群众组织，激发了群众的抗战热情。1940年春天，临郯苍平原出现了一次参军热潮，仅费南山区就有近千名