在接下来的一段时间内，日军由于在察哈尔一战中惨败，损失惨重。华北日军受兵力所限，暂时无力在对察哈尔，绥远等地发动大规模的反攻，华北局势暂时平稳了下来。
趁着这个难得的机会，八路军加紧扩充兵力，进一步加强了对新收复的察哈尔等地的控制。而八路军第七纵队，也按照上级的指示，趁着这个机会，整编备战。
1940年5月，华中日军第11军，在司令官园部和一郎的指挥下，对我枣阳，宜昌等地发动大举进攻，枣宜会战爆发。
日军大举进攻我襄河防线，当时中国军队的第33集团军只有张自忠两个团驻守襄河西岸。张自忠作为集团军总司令，本来可以不必亲自率领部队出击作战，但他不顾部下的再三劝阻，坚持由副总司令留守，5月6日晚致书副总司令兼77军军长冯治安一函：
“仰之吾弟如晤：因为战区全面战争之关系，及本身之责任，均须过河与敌一拼，现已决定于今晚往襄河东岸进发，到河东后，如能与38师，179师取得联络，即率两部与马师不顾一切，向北进之敌死拼。若与179师，38师取不上联络，即带马师之三个团，奔着我们最终之目标（死）往北迈进。无论作好作坏，一定求良心得到安慰，以后公私均得请我弟负责。由现在起，以后或暂别，永离，不得而知，专此布达。”
张自忠亲笔昭告各部队、各将领：“国家到了如此地步，除我等为其死，毫无其他办法。更相信，只要我等能本此决心，我们国家及我五千年历史之民族，决不至亡于区区三岛倭奴之手。为国家民族死之决心，海不清，石不烂，决不半点改变。”
张自忠率2000多人东渡襄河后，一路奋勇进攻，将日军第13师拦腰斩断。日军随后以优势兵力对张自忠所部实施包围夹攻。张自忠毫不畏缩，指挥部队向人数比他们多出一倍半的敌人冲杀10多次。日军伤亡惨重。
在日军集结重兵南下时，我方主力本应暂时规避，寻机集中力量分别围歼来犯之敌。但是，当时的中国统帅部被日方的假情报迷惑，错误判断形势，下令第五战区部队同时围歼南北两路日军。
虽然张自忠在河东的部队只有五个师二万余人，兵力仅及对方一半，但军人以服从命令为天职，他立即根据自身情况调整部署。然而不幸的是，张自忠的电报密码被日军截获破译，他的军事部署已完全被敌方掌握。日军当即调集两个师团另加四个大队奔袭而来。14日，双方发生遭遇战。
15日，张自忠率领的1500余人被近6000名日寇包围在南瓜店以北的沟沿里村。当日上午，日军发动进攻。敌我力量极其悬殊，战斗异常惨烈。至下午三时，张自忠身边士兵已大部阵亡，他本人也被炮弹炸伤右腿。此时，他已撤至杏仁山，与剩下的十几名卫士奋勇抵抗，竟将蜂拥而至的日军阻于山下达两个多小时。
激战到16日佛晓，张自忠被迫率部退入南瓜店十里长山。日军在飞机大炮的掩护下，向中国军队的阵地发起猛攻。一昼夜发动9次冲锋。张自忠所部伤亡人员急剧上升，战况空前激烈。
到下午2时，张自忠手下只剩下数百官兵，他将自己的卫队悉数调去前方增援，身边只剩下高级参谋张敬和副官马孝堂等8人。
不久，大群日兵已冲到面前。根据日方资料，日军第四队一等兵藤冈是第一个冲到近前的。突然，从血泊中站起来一个身材高大的军官，他那威严的目光竟然使藤冈立即止步，惊愕地愣在那里。冲在后面的第三中队长堂野随即开枪，子弹打中了那军官的头部，但他仍然没有倒下！清醒过来的藤冈端起刺刀，拚尽全身力气猛然刺去，那军官的高大身躯终于轰然倒地。这时是1940年5月16日下午4时。
张自忠战死后，日本人发现张将军遗体，审认无讹，一起膜拜，用上好木盛殓，并竖木牌。并全军向他行礼，甚至在他的遗体运回后方之时，日军收到消息便下令停止空军的空袭一日，避免伤到张自忠的忠骸。可见，张自忠将军在对日抗战所展现军人武德，连当时崇尚军国主义的日军都为之感动。
当天深夜，日军设在汉口的广播电台中断正常广播，插播了张自忠阵亡的消息，并称：“我皇军第三十九师团官兵在荒凉的战场上，对壮烈战死的绝代勇将，奉上了最虔诚的崇敬的默祷，并将遗骸庄重收殓入棺，拟用专机运送汉口。”
日军对张自忠将军表现了极大的崇敬，由军医用酒精仔细清洗遗体，并包扎好伤口，郑重装殓，放进赶制的棺材里。此棺被葬于一处山坡上，并立墓碑，上书：“支那大将张自忠之墓”。
老蒋惊闻张自忠殉国，立即下令第5战区不惜任何代价夺回张自忠遗骸。一百多名优秀将士，抢回张将军的尸骨，经检视，张自忠身有八处伤口，其中炮弹伤二处，刺刀伤一处，枪弹伤五处。当灵柩经过宜昌时，全市下半旗，民众前往吊祭者超过十万人。全城笼罩在悲壮肃穆的气氛中。敌机在上空盘旋吼叫，却无一人躲避，无一人逃散。
1940年5月28日晨，当灵柩运至重庆朝天门码头，蒋、冯等政府军政要员臂缀黑纱，肃立码头迎灵，并登轮绕棺致哀。蒋在船上“抚棺大恸”，令在场者无不动容。
蒋亲自扶灵执绋，再拾级而上，护送灵柩穿越重庆全城。国民政府发布国葬令，颁发“荣字第一号”荣哀状。将张自