根据中共中央军委的电令，第一二0师于9月转移至晋察冀边区北岳区待机。把独立第二旅改称为张358旅，张宗逊任司令员，张平化任政治委员。9月下旬，八路军第一二0师主力以及晋察冀军区部队在河北省灵寿县陈庄镇痛击日伪军，歼灭日伪军1380多人，缴枪500多支。11月上旬，晋察冀部队以及第一二0师特务团在涞源县进行黄土岭伏击战，歼灭日伪军900多人，蒋介石致电予以嘉奖。11月下旬，第三五八旅在灵寿县祁家庄毙伤敌人150多人。到1939年12月，第一二0师增加到约4.8万人。
根据中共中央军委的电令，八路军第四纵队与冀东起义部队合于1939年2月在平西野三坡编成立冀热察挺进军，下辖两个支队和冀东抗日联军，隶属于晋察冀军区。萧克担任司令员兼政治委员，程世才担任参谋长，伍晋南担任政治部主任，统一指挥平西、平北、冀东地区的抗日武装斗争。
摩擦
为了保卫中共中央驻地陕甘宁边区，增加黄河河防队伍力量,第一二0师第三五九旅于1939年8月由恒山地区开赴陕甘宁边区，进驻绥德地区。1939年12月，国民党顽固派在陕甘宁边区和山西省掀起第一次反共高潮，中国共产党给予回击。山西省阎锡山部进攻八路军晋西独立支队和晋西决死队和晋西北暂编一师,制造“晋西事变”。因此，组成晋西北新军总指挥部，续范亭任总指挥，罗贵波任政治委员，下辖暂编第1师、山西青年抗敌决死队(简称为“决死队”)第二纵队、第四纵队和工人武装自卫纵队等部。1940年2月，贺龙、关向应奉命率领第一二0师主力从北岳区返回到晋西北抗日根据地临县。山西省新军配合八路军第一二0师主力，在岢岚、河曲、保德等县，肃清顽固势力。因此，成立晋西北军政委员会和晋西北行政公署，加强对晋西北的领导。4月，358旅改称为独立第2旅，彭绍辉任旅长，张平化任政治委员。根据中共中央军委的决定，于1940年11月成立晋西北军区，辖四个军分区，晋西北新军总指挥部编入晋西北军区编制序列。至1940年底，晋西北军区所属部队(包含晋西北新军)发展到5.1万多人。
“八路军三五八旅旅部旧址”位于山西省吕梁市兴县恶虎滩乡恶虎滩村，是八路军第一二0师第三五八旅在1941年的指挥中枢所在地。第三五八旅旅部旧址窑洞建筑， 陈列电报机、电话和抗战地图等。2021年6月，山西省人民政府命名八路军三五八旅指挥部旧址为山西省第四批国防教育基地，还被山西省军区授予“爱国主义教育基地”称号。
相持
在战略相持阶段，日军打击重点是中国共产党领导的抗日根据地及其八路军，华北抗日根据地进入困难时期。日军在华北推行“囚笼政策”，修据点、建碉堡，致使八路军补给线被切断。根据中共中央“巩固华北”的战略部署，八路军发展敌后抗日游击战争，加强抗日根据地建设。1940年6月，第一二0师第三五八旅等部队在夏季反“扫荡”作战中，取得米峪镇、二十里铺等战斗胜利，歼灭日军4500多人，收复兴县、方山、保德等5座县城。8月至12月，八路军第一二0师和晋西北新军参加百团大战，在同蒲铁路北段进行交通破袭战，配合正太铁路沿线的对日作战，粉粹日军2万多人对晋西北的“扫荡”，歼灭日军2700多人。
从1941年开始，日军推行“治安强化运动”。晋西北抗日根据地虽然进入极端困难时期，但是军民进行艰苦卓绝的反“扫荡”和反“蚕食”斗争。1942年春，第一二0师以及地方游击队员举行兴县田家会等200多次战斗，再次粉粹日军“扫荡”。
1942年5月，中共中央军委决定在延安设立陕甘宁晋绥联防军司令部，贺龙担任司令员，关向应担任政治委员，统一指挥陕甘宁和晋绥两个边区的军事指挥，第一二0师兼晋西北军区编入陕甘宁晋绥联防军。1942年9月，成立中共中央晋绥分局，晋西北军区改称“晋绥军区”。10月，陕甘宁晋绥联防军发出《关于整军的训令》。为了战胜困难，坚持抗战，晋西北军区执行中共中央提出的精兵简政，精简部队人员。至1942年12月，主力军减为25000多人，地方武装队伍减至5000多人。开展整党整风和拥政爱民运动，实行主力军、地方军和民兵武装三结合的武装队伍体制。
在中共中央晋绥分局领导下，第一二0师和晋绥军区军民执行中共中央布置的“把敌人挤出去”任务，运用各种形式，从1942年冬进行“挤敌人”的斗争。1943年，晋绥抗日根据地进入恢复阶段。至1943年上半年，基本上把日伪军挤到其主要据点和交通干线附近。1943年10月，粉碎日军秋季“扫荡”，并在兴县甄家庄，歼灭日军700余人。
为了保卫中共中央，冀中军区司令员吕正操奉命率领9个团于1943年8月下旬到达晋绥抗日根据地。中共中央军委任命吕正操为晋绥军区司令员，林枫为政治委员，续范亭、周士第任副司令员。9至11月，晋绥军区粉碎日伪军秋季“扫荡”。第一二0师和晋绥军区军民打击日伪军，收复800多个村庄。12月，晋西北行政公署改名为晋绥边区行政公署。
