1944年4月,日本侵略者发动了旨在打通中国大陆交通线的豫湘桂战役,以9.7万余人向河南地区发起进攻。由于国民党军的大溃败,致使河南38座县城和4万多平方公里的土地被日军侵占。对此,中共中央发出指示,要求在河南地区组织抗日游击队和人民武装,建立根据地。6月23日,刘少奇、陈毅电示新四军:“今后发展方向应该确定向河南发展,完成绾毂中原的战略任务。”7月25日,中共中央发出关于发展河南敌后工作的指示,要求八路军、新四军要善于插入敌顽空隙地区发动群众,建立抗日武装和民主政权。
开辟河南新区的工作从1944年夏秋季开始。7月,八路军冀鲁豫军区派一部分兵力南下,恢复新黄河以东的水东根据地,开辟水西根据地,在14个县建立了抗日民主政权,扩大了豫东根据地。与此同时,以新四军第五师一部组成的豫南游击兵团也挺进豫中,在汝南、竹沟、信阳、舞阳之间建立了7个县的抗日民主政权,开辟了东西长达70余公里、南北近百公里的抗日根据地,地方武装发展到8000余人。8月下旬,新四军第四师主力从淮北区西进萧县、永城、宿县地区,打退日、伪军的进攻,建立抗日民主政权,恢复了豫皖苏抗日根据地。
在豫西,太行军区组成1700余人的豫西抗日独立支队(后改为豫西抗日游击第一支队),由皮定均任司令员,徐子荣任政治委员,1944年9月南渡黄河,进入豫西地区,粉碎了日、伪、顽军多次进攻,建立了嵩山、箕山两个专署和偃师、伊川、临汝、荥阳等8个县抗日民主政权。10月,太岳军区组成豫西抗日游击第二支队,进入陇海路新安至渑池之间的南北山区开展抗日游击战争,解放了新安、渑池、洛宁、陕县等县大部地区,解放人口100余万,收编地方武装4000余人,打开了洛(阳)西抗日局面。
为了统一领导豫西人民的抗日斗争,1944年10月,河南区党委和河南军区在延安成立,戴季英任区党委书记兼军区政委,王树声任军区司令员。中共中央指示他们:深入河南敌后,要以嵩山为依托,在三点两线(三点指郑州、洛阳、许昌,两线指平汉线、陇海线)之间深入发动群众,广泛开展游击战争,发展人民武装,沟通陕北、华北与华中的战略联系,牵制日军西进,保卫大西北,保卫延安,发展抗战的大好形势。
同年12月底,中央党校100余名干部和晋绥军区第六支队一部,在河南区党委负责人率领下,从延安抵达新安地区,与豫西抗日游击第二支队会合,加强了豫西地区的力量。
1945年2月,王树声、戴季英率领陕甘宁边区部队组成的豫西抗日游击第三、第四支队进入豫西,召开部队和干部会议,传达中共中央关于开辟豫西的工作指示。随后,将部队编为河南人民抗日军第一至六支队。在一至六支队的活动区域,成立了一至六地委和专署,及20多个县委、县政府。至此,河南抗日根据地基本形成。在河南区党委和河南军区的统一领导、指挥下,各支队互相配合,协同作战,粉碎日、伪军的多次大“扫荡”,取得了北岳歼灭战、缑氏镇战斗、大冶镇奔袭战等战斗的胜利。抗战胜利时,部队已发展到2万余人。
开辟河南新区,是抗日战争后期中共中央的一项重要战略部署。经过八路军、新四军的共同努力,开辟了豫西,发展了豫南,扩大了豫东,恢复了豫皖苏边区根据地,打通了华北、华中与陕甘宁边区的联系,对于坚持全国抗战,控制中原战略要地,有着重要的意义。