谁知日本侵略者的炮声，惊醒了那些达官贵人、富商巨贾的迷梦！日寇飞机频频轰炸。衡阳一日数惊，风声鹤唳，战争阴云密布，人心惶惶。他们又纷纷携资西逃。1944年第三次长沙会战开始后，西迁的工商业户达3000多家，西逃人员5万多人。1944年5月，日本帝国主义由于通向东南亚的印尼、新加坡、马来西亚和印度支那地区的空中通道和海上通道，被盟国的海空军卡断，便企图急于打通从日本本岛出发，经朝鲜半岛，过鸭绿江，通过我国东北、华北、华南，和印度支那，直达南洋诸岛的“大陆交通线”。衡阳向为湘南军事重镇，是日本帝国主义设计的这条交通线上最重要的关隘，因而势在必夺。国民党政府如果丢失衡阳，让日本侵略者畅通无阻，就等于丢掉了南中国半壁江山，因而势在必守。日本侵略者为了达到这个目的，早已把魔爪伸向衡阳！据衡阳市志记载：1938年中秋节，日机夜袭，投弹数百枚，小西门一带被炸成焦土。1939年4月6日，敌机把1公里长的下横街全部炸毁。1940年以后，日机空袭更加频繁。1940年8月10日至23日，17架日机，两次袭击，轮番轰炸，衡阳市成为一个火海，半个城区被毁，惨不忍睹！1942年1月，湖南省防空司令部迁来衡阳，与衡阳防空司令部合并，加强防空工作。1942年4月8日，日机17架3次袭衡，在东北郊投弹。次日又6架袭衡。7月3至4日，日机30架分10批在市区上空同中美空军进行激烈空战、投弹，日机被击落6架。8月初，衡阳上空连日空战，击落日机7架。1943年2月8日，日机16架，在江东岸车站附近投弹50余枚，炸死、炸伤民众7人，焚烧房屋2栋。5月21日，衡阳市空战，击落日机1架，坠于黄茶岭。6月10日，日军24架袭衡，1架被击落，坠于酃湖，后该机残骸运市区陈列。7月23日，日军轰炸机和战斗机150架，分4批袭击中美空军第14航空基地，在衡阳和永洲上空与中美空军发生激战，日机被击落16架。7月25日，日机12架又在市区上空与中美空军激烈空战。12月10日，日机79架分批袭衡。1944年3月4日，日机两批在衡阳市郊投弹。3月13日晚10时至14日4时，日机不断袭衡，在市郊投弹多次。月内，日军派遣大编队飞机百余架，轮番轰炸市区和飞机场，虽然被中美空军第14航空大队击落30余架，但衡阳机场遭到严重破坏。4月6日，日机18架袭衡，全城大火，民众死伤甚众。月内，第九战区司令部由长沙迁驻衡阳市，司令薛岳，副司令杨森、王陵基、王赞绪，参谋长赵子立。下辖10个军，27个师，约30万人。随战事发展，司令部南迁耒阳、郴县。5月底，国民革命军第10军，由衡山大埔、石湾一线移驻衡阳市区。1944年春，日军在发动豫中会战的同时，就集结了10个师团约20万精锐兵力，准备进犯长沙、衡阳。6月18日长沙陷落。日军5个师团和一个旅团共10万人进逼衡阳城。国民政府军事委员会委员长蒋介石先生慑于日军的汹汹气势，对保卫衡阳犹犹豫豫，直到5月31日才命令驻防衡山休整的国军陆军第10军“固守衡阳十天乃至两周”。第十军是长沙第三次大捷时的守城部队，也是常德会战时解围最得力的援军，在湖南人民心中信誉正隆，号为“泰山军”。军长方先觉中将(1905—1983)字子珊，江苏萧县人。1926年黄埔军校第三期毕业；早年投身军界，自排长晋升至集团军副总司令。骁勇善战，善抚士卒，在北伐战争和抗日战争中，多著功勋。抗战期间曾参加台儿庄会战、长沙会战，常德会战等。他奉命保卫衡阳后，立即率第10军3个师（实际只有7个团加1个营，约17600人）担负起保卫衡阳的重任。
1944年6月18日，驻株洲、湘潭之日军第11军司令官横山勇率两个师团加一个旅团，兵分三路向衡阳突进。前锋于6月24日进至衡阳西南。27日，抵衡阳市郊二塘。三路兵力合计55000人。加上后续增援部队共110000人。同日，衡阳民船工人将90艘民船开往湘江上游沉没；火车站工人张学逸率粤汉码头工人20余人，将衡阳火车站火车头转盘折毁，以免资敌。6月下旬，衡阳境内各级各类学校全部停课。6月21日，日军派竹内情报参谋潜入衡阳市，负责收集情报。对日军日后破城起到了很大作用。6月22日，日军对衡阳城郊进行大规模轰炸，东西两岸市区均引发大火。同日，衡阳守军于城郊全部布阵完毕，设指挥部于市中心之中央银行，前线指挥部设五桂岭。同日，衡阳守军将湘江大桥炸毁。