抗日战争时期，党领导的敌后抗日武装在平汉、津浦、陇海、石德四大铁路之间的广大地区创立了冀鲁豫抗日根据地。
1937年底至1938年春，华北重镇太原、济南相继沦陷，冀南、豫北、鲁西南地方党组织，在当地发动群众，建立抗日武装，初步打开了冀鲁豫根据地的局面。同年底，八路军第115师部队进入鲁西南地区，推动了该地区的抗日游击战争和根据地的建设。1939年2月，八路军第115师杨得志等率344旅进至濮阳、滑县一带，和地方武装合编为冀鲁豫支队。
1940年4月，黄克诚率八路军第2纵队，进至冀鲁豫边区，成立了冀鲁豫军区。到1940年底，冀鲁豫根据地向南发展到陇海路，西面、北面接连晋冀豫根据地，东面与山东根据地相邻。从1943年到1945年，冀鲁豫抗日根据地军民经过与日伪军的艰苦作战，使冀鲁豫抗日根据地面积达10多万平方公里。
在抗战极端困难时期，根据地军民实行精兵简政、主力部队地方化等方针，粉碎了日伪军多次“扫荡”，为坚持抗日持久战发挥了重要作用。
