台儿庄位于津浦路台枣（庄）支线和台潍（坊）公路的交叉点，北连津浦路，南接陇海路，西临微山湖和京杭大运河，是华北战略要地徐州东北30公里的一个门户，在军事上占有极为重要的地位。

　抗日战争截止到1938年2月，日军已攻占了华北五省的大部和南京、上海、杭州等地区，形成了南北夹击、企图会师徐州打通南北交通干线的战略态势。第五战区为了阻止日军打通津浦铁路，确定了对津浦路北段日军采取攻势、对津浦路南段日军采取守势的作战方针。2月6日，第五战区司令长官李宗仁命令第三集团军孙桐萱部以主力向济宁方向日军进攻，以一部由河镇附近迂回攻击汶上日军；命令第二十二集团军孙震部主力向邹县，一部迂回曲阜、邹县间攻击日军，另一部控制在临城、韩庄之间；命令第四十军团庞炳勋部于临沂附近在地方部队配合下，先向蒙阴、泗水方向进攻，然后向泰安、大汶口间南驿、曲阜间威胁日军，并对日照、莒县、沂水等北方要点，派一部兵力与海军陆战队共同防守。

         3月13日，日军第二军命令第十师团消灭大运河以北的中国军队，第五师团以一部分占领临沂，然后进入峄县附近，协助第十师团作战，以达到大体上占领滕县、临沂一带的目的。

　为达到这一作战计划，日本华北方面军第二军分两路向徐州的门户、鲁南军事重地台儿庄进发。一路是坂垣第五师团，于12日猛攻临沂，中国守军庞炳勋部及援军张自忠部拼死抗击，经昼夜激战，歼敌6000人，阻止了敌人的进犯。一路是矶谷第十师团，于15日进攻滕县。中国守军奋力抵抗，师长王铭章及其部下2000余人壮烈殉国。18日滕县失守，津浦路告急，刚刚调到郑州、洛阳一带的孙连仲第二集团军又奉命调到第五战区。该集团军的第三十一师池峰城部刚到许昌，便立即被调往徐州，归汤恩伯第二十军团指挥。3月21日，该师渡过运河，到台儿庄接防。

　　在同一天，李宗仁电告蒋介石、何应钦、徐永昌，颁布作战命令，部署台儿庄战役的作战计划。他在电文中指出这次战役作战的目的是“收复鲁中广大地域”；计划采取“攻势防御”的策略，将敌人消灭在“临枣支路与韩庄运河间地区”。根据这一电文，战区命令汤恩伯第二十军团集中主力于峄县东侧及枣庄东北方山地，击破峄县之敌，向临城、沙沟两地附近侧击，以“压迫敌于微山湖东岸而歼灭之”；一部分集结于台儿庄东北方地区，准备协助对峄县及其西北地区之主力作战。命令孙连仲第二集团军以一部在侯新闸以西运河南岸防御，待机渡河北进，主力控制贾汪附近及荆山、茅村镇间。张自忠第五十九军在费县集结整顿后，乘虚向滕县南北地区展开，与由南阳镇附近之第三集团军部队呼应，截击南下或北退之敌，对泗水方面自行警戒。孙桐萱第三集团军越过济宁南北地区，向兖州、邹县间及界河、官桥间转进，与张自忠第五十九军及临城以南之攻击部队呼应，袭击敌之侧背，并阻止敌增援或截敌归路。庞炳勋第三军团迅速扫荡汤头附近之敌，以一部向莒县方面追击，主力集结于汤头附近布防，对沂水、蒙阴方面自行警戒。

　　此时，在日军濑谷支队正面的中国军队第二十军团第十三军第一一○师已在运河东岸的韩庄附近，第二集团军的第三十一师在台儿庄一线。濑谷支队的东面则是第二军团的4个师。截止到3月22日，峄县、台儿庄一带的敌我双方的势力基本趋于势均力敌的状态。

     在战役中，中国军队采取了积极防御及阵地战与运动战、游击战相结合的作战方针。以汤恩伯军团置于台儿庄侧后的峄县以东地区，并在津浦路北段部署了曹福林和李明扬部，南下向枣庄、临城地区进攻；以孙连仲军在台儿庄南线组织防御，以形成对进攻台儿庄之敌的南守北攻西围的有利态势，使台儿庄战役按中方预定的方向发展。

　　23日，日军赖谷支队一部沿台枣铁路南下时，在北洛附近与第三十一师发生激战。此时第二集团军各师都已到达徐州附近地区，孙连仲已奉第五战区的命令赶赴台儿庄方面实施指挥，并指派第二十七师接守运河河防。

　　24日，日军由北洛向刘家湖进攻，当晚日军一支突破台儿庄城东北角，后被守军赶出。这时第三十一师采取了收缩兵力的办法，以第一八二团在北站、第一八一团在南洛、第一八六团在台儿庄、第一八五团在刘家湖进行防守。25日，日军1000余人配以坦克进攻南洛。中国军队主动出击，第三营营长高鸿立率领全营士兵与敌人展开了激烈的拼杀。与此同时，团长王郁彬率第二营赶来支援，血战两昼夜，高鸿立、王郁彬两人负伤。到26日，进攻台儿庄的日军兵力已达到3000多人，并补充了重炮、坦克和弹药。27日，日军在9辆战车的掩护下，猛攻台儿庄，并攻破了台儿庄北门，再度占领东北角。在此情况下，李宗仁命令汤恩伯以主力南进，先歼灭攻击台儿庄之敌。

　　28日，日军攻坚台儿庄的主力部队开始南下，会合台儿庄派遣队一起对台儿庄发动更大的攻击，阴谋占领西门，切断中国守军与庄内的联系。中国守军第三十一师师长池峰城指挥部队由东面发起反击，并组织数十名敢死队员冲入阵地，与日军展开肉搏战。汤恩伯军团关麟征第五十二军和王仲廉第八十五军则在外线向枣庄、峄县的日军侧背展开攻击。当时，守城的第三十一师主力以及直属部队和第三十师的一个团全部投入城内，并划分为北站守备队、中央守备队和台儿庄守备队，实施分区防守。第二集团军第三十军军长田镇南、第四十二军军长冯安邦也分赴左右两翼督战。与此同时，战区又命令第二十军团，以一部佯攻峄县之敌，牵制该地日军南下，另一部协同第二集团军消灭台儿庄附近之敌。