面對日本帝國主義的侵略，“自強救國同志會”內(nèi)的左傾進步人士于民國二十五年(1936年)9月18日發(fā)起成立了“山西抗日救國同盟會(犧盟會)”，閻錫山怕觸怒日本帝國主義，更名為“山西犧牲救國同盟會”，自任會長。十月下旬，閻錫山邀請共產(chǎn)黨員薄一波主持“犧盟會”的工作。從此，中國共產(chǎn)黨在山西同閻錫山建立了特殊形式的抗日民族統(tǒng)一戰(zhàn)線，即共產(chǎn)黨員參加閻錫山的官辦團體，運用山西的某些進步語言，貫徹執(zhí)行黨的抗日民族統(tǒng)一戰(zhàn)線的方針政策，開展抗日救亡運動。在“犧盟會”的領(lǐng)導(dǎo)下，抗日救亡運動蓬勃發(fā)展，太原一時成為全國抗日呼聲甚高的城市。二十幾個省市的數(shù)千名進步青年慕名到太原參加軍政訓(xùn)練，為抗日戰(zhàn)爭開始后組建新軍、開展武裝斗爭和創(chuàng)建抗日根據(jù)地做了政治上和組織上的準備。至此，閻錫山在擁蔣的前提下，基本上確立了聯(lián)共抗日的路線。

民國二十五年(1936年)11月，閻錫山與蔣介石會商后，命令晉綏軍傅作義、趙承綬等部對侵入綏東的日偽軍進行反擊，24日收復(fù)百靈廟。全國人民祝捷慰勞，士氣為之一振。同年冬，提出“守土抗戰(zhàn)”的口號，西安事變發(fā)生后，對“守土抗戰(zhàn)”的口號進一步發(fā)揮，使之與“犧牲救國”結(jié)合。 [21]

民國二十六年(1937年)7月7日，盧溝橋事變發(fā)生，全國軍民奮起抗戰(zhàn)。8月5日閻錫山赴南京參加最高國防會議，表示擁護全面抗戰(zhàn)，受任第二戰(zhàn)區(qū)司令長官。當(dāng)月國共第二次合作達成協(xié)議，紅軍改編為國民革命軍第八路軍(后改稱第十八集團軍)，編入第二戰(zhàn)區(qū)戰(zhàn)斗序列，進入山西作戰(zhàn)，國共合作在山西進行抗戰(zhàn)的局面形成。閻錫山提出民族革命的口號，同意由犧盟會組建新軍——山西青年抗敵決死隊和太原工人武裝自衛(wèi)隊，并給予武器裝備。7月31日，與中共方面的彭雪楓會晤。 [22]

日本侵略軍占領(lǐng)平津后，其一路指向山西。閻錫山于8月27日赴雁門關(guān)內(nèi)的太和嶺口指揮作戰(zhàn)。 9月初，日軍侵入山西，晉綏軍在天鎮(zhèn)和廣靈未能阻敵前進。9月7日，中共方面的周恩來同彭德懷、徐向前等人一起趕到大和嶺口，同閻錫山會談。 [23] 9月20日，根據(jù)中共的建議，又成立第二戰(zhàn)區(qū)民族革命戰(zhàn)爭戰(zhàn)場總動員委員會，組建新軍暫一師，以續(xù)范亭為師長。9月下旬，國共兩黨軍隊配合進行了平型關(guān)戰(zhàn)役，八路軍殲敵1000余人，取得抗戰(zhàn)以來的首次勝利，給抗日軍民以極大鼓舞。接著，閻錫山部署晉綏軍與中央軍共同扼守忻口，與日軍展開大規(guī)模戰(zhàn)斗。中國軍隊堅守23天，予日軍重創(chuàng)，在戰(zhàn)略上具有重大意義。10月初，在太原見到衛(wèi)立煌。 [24] 由于敵強我弱，11月8日，太原失守。閻錫山于4日離開太原南撤臨汾。

在此期間，閻錫山看到舊軍大部潰散，文官多數(shù)棄職，遂希望由犧盟會和決死隊幫助閻錫山支撐和扭轉(zhuǎn)山西危局。在閻錫山的支持下，新軍到民國二十八年(1939年)夏已發(fā)展為4個決死縱隊、一個工兵旅和一個暫編師，共轄50個團，約5萬余人;在山西的7政區(qū)中，有5個行政區(qū)及其所屬縣的政權(quán)由犧盟會掌握，在105個縣中有70個縣長由犧盟特派員(共產(chǎn)黨員)擔(dān)任。山西成為全國實現(xiàn)國共合作、堅持抗戰(zhàn)的模范地區(qū)。