1940年，由于华北地区的八路军发起了规模空前的敌后攻势，造成日军后方的极大损失，为了维护后方占领区的稳定，日军将华中派遣军的第17、33师团调往华北，准备应对日益严峻的后方治安战。可是，在驻守南昌地区日军第34师团师团长大贺茂此时却认为以自己的万余人兵力要想控制住整个赣北地区，有些力不从心，所以在他的建议下，日军第11军司令园部和一郎批准了在33师团调走前，配合34师团进行一场旨在歼灭赣北地区国军主力的战斗，这就是“上高战役”。

1941年3月15日，日军第33师团率先向驻守奉新的国军第70军发起进攻，在前三天的时间里，日军接连攻城略地进展神速，因此另一股日军第34师团决心扩大战果，以一个整编联队的兵力继续向西突进，争取将国军第19集团军的指挥部彻底歼灭。3月18日，当先头日军闯入上高地区后，第九战区副司令长官罗卓英命令各路国军部队开始对日军第34师团进行战术合围，争取将这股冒进之敌彻底歼灭。

经过一昼夜的血战，日军第34师团发觉情况不妙，开始采取锥形突围战术集中师团所有重火力对塘坎的中国军队阵地发起猛烈进攻，企图在重围之下打开一个缺口。不过，虽然日军的攻势十分凌厉，但是驻守此处的国军部队始终没能让日军前进半步，战至21日，第34师团开始陷入绝望，因为此时中国军队的援军到了。

如果第34师团继续被困在原地，那么等中国军队集结完毕后，日军将再无突围之机会，所以此时师团长大贺茂不得不紧急向第11军司令园部和一郎发出救援电报，当日军司令部收到这份求援信后大吃一惊，他们没有想到短短一周之内战局竟然恶化到这种程度，而且园部和一郎并不清楚在34师团陷入重围之前，与其相邻的33师团竟然在没有打招呼的情况下独自脱离战场，导致第34师团独自与数万中国军队血战一周。

为了避免第34师团全军覆没，园部和一郎马上命令返回奉新的第33师团迅速前往上高地区救援被围日军，3月24日，第33师团派遣了214、215两个联队7000余人火速增援，27日，另一支日军的增援部队独立第20旅团也已赶到战场，两股救援日军在经过激烈的战斗后，占领国军位于收容的阵地，为被围的第34师团打开了一个缺口。

第34师团在33师团与独立第20旅团的接应下，丢弃了山炮大队的所有重武器以及辎重大队的行李后成功突围，此时的日军第34师团已经的精疲力尽，士兵减员已经达到80%，滨田联队长也已阵亡。中国军队在发现日军已经突围后，于当天夜里下令发起全线反击，各路部队随即开始追击各路逃窜的日军，28日余程万部在龙形山追上了一支日军断后的小部队，经过5个多小时的激战，全歼了600多名日军。

29日，国军主力继续沿湘赣公路追击逃窜的日军主力，在龙图圩、杨公圩一带日军独立第20旅团的2000余人又被我军追上，此时的日军士气低迷而国军则挟大胜之威，很快便击溃了这股日军。4月31日，在将日军全部驱赶至战役开始前的位置后，罗卓英下令停止追击，至此上高战役胜利结束。

此战毙伤日军共1.2万人，国军损失2万余人，上高战役是抗战进入相持阶段时中国军队所取得的最大胜利，不仅歼灭了一万多名日军，而且沉重的打击了日军的嚣张气焰，经过这场战役后，日军第34师团从此便再也不敢离开南昌城半步了。