1937年7月7日，日本侵略中國的開端“七.七”事件爆發(fā)，一聲蓄謀已久，旨在滅亡中國的侵略戰(zhàn)爭從此全面開始。到1938年底，中國軍隊(duì)雖然頑強(qiáng)抵抗，無奈裝備欠佳，訓(xùn)練不力，被日軍侵占了半壁江山，無數(shù)愛國將士鮮血染紅了中華大地。 
　　此時(shí)，廣州和武漢相繼失守，處于大后方的湖南省戰(zhàn)略地位異常重要起來，成為武漢之后的又一處搞戰(zhàn)大本營。南岳衡山素有五岳獨(dú)秀之譽(yù)，公路鐵路水路交通異常便利。由國民政府軍事委員長蔣介石親自主持召開了“第一次南岳軍事會(huì)議”，當(dāng)時(shí)還邀請了中共中央副主席周恩來和八路軍參謀長葉劍英。兩黨以民族大義為重，攜手抗日。  

 
　　在這個(gè)會(huì)議上，許多將領(lǐng)提到陣亡官兵多“暴尸戰(zhàn)場”，不能掩埋，言者傷心，聽者斂容。蔣介石聽后對此非常痛心，會(huì)后把陳誠、薜岳兩位將軍叫來，鄭重安排了修公墓的事。  
　　后陳誠調(diào)任四川，而薜岳兼任湖南省政府主席，所以建公墓的事基本上由薜岳在主持。

　　由于此期間一直在與日軍交戰(zhàn)，加上勘察、征地、籌款等前期準(zhǔn)備工作，一直到1940年9月10日，南岳忠烈祠第一期工程正式破土動(dòng)工。第二期于次年11月5日興工，至1943年6月全部竣工。7月7日，南岳忠烈祠舉行了隆重的落成大典，主持者薜岳在忠烈神位前恭讀祭文，鄭重宣布“抗戰(zhàn)以來，各忠烈將士，即日入祠，歲時(shí)奉祀”，第一批入祠的將領(lǐng)有張自忠、郝夢麟、佟麟閣、趙登禹等三十八名。 

 
　　忠烈祠建成后，1944年，南岳淪陷，遭日軍破壞，后又在文革中被紅衛(wèi)兵毀壞得厲害。 
　　1984年，胡耀邦到此瞻仰，87年全國政協(xié)提出修復(fù)意見。直到1992年，由當(dāng)?shù)卣�府全面修�?fù)。96年被中央政府評為全國重點(diǎn)文物保護(hù)單位。