抗日战争时期，八路军第一二○师在晋西北、大青山地区开创的大军区军事机构。1938年7月，八路军第一二○师大青山支队由李井泉等率领进入山西雁北地区，尔后向绥远挺进，逐步开辟了以大青山为依托的绥西、绥南、绥中三块游击根据地，并逐步同晋西北根据地连成一片，构成晋绥抗日根据地。1942年5月，中央撤销了晋西北军政委员会，成立中央晋绥分局，统一领导晋西北、晋西南、大青山三个地区的党政军民各项工作。9月，晋西北军区改称晋绥军区，第一二○师兼军区机关，贺龙任司令员，关向应任政治委员，续范亭任副司令员，林枫任副政治委员，周士第任参谋长，甘泗淇任政治部主任，下辖第二、第三、第六、第八、塞北（绥蒙）、直属军分区。其中，第二军分区由独立第二旅兼，第三军分区由第三五八旅兼。1942年6月，陕甘宁晋绥联防军司令部成立后，第一二○师兼晋西北军区隶属联防军建制。1943年3月，吕正操率领八路军第三纵队一部抵达晋绥地区，归晋绥军区建制。6月，第三五八旅赴陕甘宁边区，不再兼第三军分区。11月，中央军委重新任命晋绥军区领导成员，吕正操任司令员，林枫任政治委员，周士第任副司令员，陈漫远任参谋长，张平化代理政治部主任。1945年8月，中央军委将晋绥军区从陕甘宁晋绥联防军划出，直属中央军委领导。贺龙任司令员，李井泉任政治委员。1947年3月，晋绥军区一部与陕甘宁晋绥联防军一部组成陕甘宁野战集团军，后整编为西北野战兵团。1948年3月，晋绥军区和陕甘宁晋绥联防军主力合编为陕甘宁晋绥联防军区。