但在山西娘子关保卫战后，42军所剩只一空番号而已。该集团军实际可参加战斗的部队只有三个师，第27师黄樵松、第30师张金照、第31师池峰城。

汤恩伯是国民党中央军精锐，擅攻；孙连仲是西北军，擅守。

于是，李宗仁安排孙连仲守台儿庄，而汤恩伯则退入了抱犊崮东南的山区，待机出击。

1938年3月21日，李宗仁电报蒋介石、何应钦、徐永昌，关于颁发作战命令如下2点。

1：临城、峄县、韩庄间之敌约步兵三联队、骑兵一联队、炮兵一联队、坦克车五六十辆，自14日以来在界河、滕县、南沙河及临枣各地与川邓集团（第22集团军）及王军作战。现分部南进，已达韩庄及峄县附近，其主力似尚在临城。

2．第5战区战区以收复鲁中广大地域之目的，以一部在运河之线取攻势防御姿势，以主力由峄县东南方及东北方山地侧击南下之敌，聚歼于临枣支路与韩庄运河间地区。

按照以上作战目的与计划，战区命令汤恩伯第二十军团集中主力于峄县东侧及枣庄东北方山地，击破峄县之敌，向临城、沙沟两地附近侧击，“压迫敌于微山湖东岸而歼灭之”。

一部集结于台儿庄北方地区，准备协助对峄县及其西北地区之主力作战。

李宗仁命令孙连仲第2集团军以一部在侯新闸以西运河南岸防御，待机渡河北进，主力控制于贾汪附近及荆山、茅村镇间。张自忠第59军在费县集结整顿后，乘虚向滕县南北地区与由南阳镇附近河之第3集团军部队呼应，截击南下或北退之敌，对泗水方面自行警戒。

孙桐萱第3集团军应超越济宁南北地区，再向兖州、邹县间及界河、官桥间与张自忠第59军及临城以南之攻击部队呼应，袭击敌之侧背，并阻止敌增援或截敌归路。命令庞炳勋第三军团迅速扫荡汤头附近之敌，以一部向莒县方面追击，主力集结于汤头附近布防，对沂水、蒙阴方面自行警戒。

3月18日，日军矶谷师团濑谷支队攻陷滕县后，当晚攻占临城，以一部沿津浦线南下，于20日攻占韩庄，企图直犯徐州，遭到布防于运河沿线的我第52军郑洞国第2师的阻击；另一部福荣大佐的第63联队沿临赵墩铁路于18日攻占枣庄，20日攻占峄县城，矛头直指台儿庄

3月20日，日军矶谷师团借攻克滕县之威，在飞机的掩护下，集中4万人，配以坦克、大炮，向台儿庄发动了猛烈的进攻，企图一举攻占徐州。

3月23日，日军由枣庄南下，在台儿庄北侧的康庄、泥沟地区与守军警戒部队接战。为诱敌深入，第31师刘兰斋连长率骑兵连从台儿庄出发，向峄县方向搜索前进，91旅旅长乜子彬率183团跟进，在峄县城南20里康庄与日军遭遇。台儿庄地区战斗正式打响，中国军队马队为诱敌深入边打边撤；3月24日，日军逼近台儿庄开始向台儿庄地区大举进攻。

日军在台儿庄北五里刘家湖村设有炮兵阵地，排列10门大炮，向台儿庄猛轰。91旅183团3营营长高鸿立率领士兵，每人一把大刀，8颗手榴弹，杀入敌人炮兵阵地，砍得敌人无法招架，弃炮而逃。

3月24日，日军矶谷师团2000多人在飞机、大炮和坦克的配合下，开始向台儿庄大举进攻。

坚守台儿庄北门的孙仲连186团1营在王震团长和姜常泰营长的指挥下顽强抵抗，并在城北门外与日军展开白刃战，打退日军的多次进攻。1营是新兵，几乎全牺牲在台儿庄北门，王震团长也亲自架起机枪向城外日军扫射。

当晚，日军200人突破小北门，躲进小北门附近的泰山庙，王震团长亲率将士围攻泰山庙之敌，终将其消灭。24日起，日军反复向台儿庄猛攻，多次攻入庄内。守军第2集团军顽强抗击，与日军展开激烈的争夺战。日军猛攻3天3夜，才冲进城内。

3月24日，当台儿庄激战开始时，蒋介石即赴徐州视察督导，返回时留下副参谋总长白崇禧、军政部次长林蔚，军令部第一厅厅长刘斐、高级参谋王鸿诏组成参谋团在徐州协助李宗仁指挥作战。

3月27日，当日军增兵鲁南，战事趋向激烈的时刻，蒋介石亲赴台儿庄南车站会见了池峰城，这使池惊喜有加。

蒋拉着池的手说：你的长官说你是忠勇精干兼备之人，今天看来此言不虚。池答复：我师绝对战斗到底，与阵地共存亡，以报国家。

3月27日，得到增援后的日军对台儿庄城发动第3次攻击。日军炮轰台儿庄围墙，北城墙被炸塌，小北门亦被毁，守卫小北门的181团3营官兵牺牲殆尽，300多日军突入城内，惨烈的巷战开始，城内中国守军同日寇展开了激烈的巷战。

尽管日军占据了全庄的三分之二，但坚守在台儿庄南关一带的中国守军至死不退，死守阵地，目的是为了外线部队完成对日军的反包围，这是李宗仁早已制定好的作战计划，让作战部参谋长文衣谷亲自率领部分兵力死守台儿庄。

二十四的岁的文衣谷得到近战肉搏日军的第一次机会，十二岁时他亲手杀过山匪，时隔十二年，他终于又拿起圆环大刀猛砍日军白刃战士兵。

日军士兵都以为自己的拼刺刀技能远高于中国军人，但文衣谷不是一名普通的中国军人，他是气吞万里如虎的刘裕复活，他是中国个人武力值最高的皇帝。

高大魁梧的文衣谷一刀砍下，日军人马俱碎，他砍人上了头，追着十几名日军士兵在残垣瓦砾中乱砍，麾下的警卫员们怕参谋长有闪失，也跟随追杀日军。

3月28日，日军攻入台儿庄西北角，谋取西门，企图切断中国守军第31师师部与庄内的联系。该师师长池峰城指挥，以强大炮火压制敌人，并组织数十名敢死队员，与敌肉搏格斗。汤恩伯军团关麟征第52军和王仲廉第85军在外线向枣庄、峄县日军侧背攻击。

3月29日，日军濑谷支队再以兵力支援，并占领了台儿庄东半部。

31日，国军守军将进入台儿庄地区的濑谷支队完全包围。这时，坂本支队由临沂转向台儿庄驰援，到达向城、爱曲地区，侧击中方第20军团。

中方第20 军团即命第52军和刚到的第75军围攻坂本支队。激战数日，给予日军以重创，使其救援濑谷支队的计划落空。

矶谷师团濑谷支队见救援无望，决定以死相拼，一个个杀红了眼。国民党军队虽以5倍的兵力围攻，并付出极大的伤亡代价，但难以将敌人消灭，战争一时呈胶着状态。

4月3日，李宗仁下达总攻击令。

第20军团汤恩伯部之第52军、第85军、第75军在台儿庄附近向敌展开猛烈攻势。日军拼力争夺，占领大部分街市。国军又展开街垒巷战，逐次反击，肃清敌人，夺回被日军占领的街市。

台儿庄包围圈里的巷战完全变成近距离白刃肉搏战，双方士兵尸体堆积成一座座小山，尸臭熏天。

1938年4月3日，台儿庄全庄三分之二已为敌有。我军仍据守南关一隅，死拼不退。日军电台宣称已将台儿庄全部占领。

但台儿庄外围全是中国军队，李宗仁在狭窄巷战地域内外夹击日本孤军的战略意图基本实现，促使火炮飞机明显优势的日军无法发挥重型武器装备特长。内有白刃巷战，外有大军围歼。

国军守卫台儿庄内街巷的第31师师长池峰城，部队损失殆尽，深觉如此死守下去，必至全军覆没。向孙连仲总司令请示，可否转移阵地，暂时退至运河南岸。孙连仲与李宗仁参谋长通电话请示，得到了参谋长严令死守，绝不许后撤的答复。

于是，孙连仲直接电话李宗仁：“李长官，是否让池峰城部暂时撤退到运河南岸，已经战死殆尽！”

李宗仁此刻心如铁石，对孙连仲说：“敌我在台儿庄已血战一周，胜利就在眼前，最终胜负取决于最后5分钟，不许后退半步，我将亲赴台儿庄前线，以身作则，宁死不退！”

孙连仲知道了李宗仁态度坚决，便说：“我军绝对服从命令，战至最后一人为止。”

孙连仲总司令挂断电话后，赶在台儿庄内亲自督战，向死守最后一点的池峰城师长说：“士兵打完了，你师长就去填，你填过了，我司令就去填，填完最后一人为止，绝不后退！”

第二天黎明之后，汤恩伯军团在濑谷支队后出现，台儿庄内的矶谷师团陷入重围。

4日，中国空军以27架飞机对台儿庄东北、西北日军阵地进行轰炸。当晚，日军濑谷支队力战不支，炸掉不易搬动的物资，向峄县溃逃。

4月6日，李宗仁亲自赶到台儿庄东门附近，亲自指挥部队进行全线反击，为表示与广大中国士兵共存亡绝不后退的决心，骑马巡查的李宗仁命令警卫员抬着一口黑漆棺材在后跟随，如果当场战死，警卫员当场就把李的尸体装入棺材。

4月7日凌晨1时，中国军队吹响了总攻的号角，以孙连仲第2集团军为主组成的左翼兵团和以汤恩伯第20军团为主组成的右翼兵团在台儿庄及其附近地区大举反攻。