张自忠治军一向刚烈严明，在冀察政务委员会任职期间，与日本人进行各种的周旋，曾受到不少的怀疑、批评与委屈，因此张在从北平脱困，重掌握兵权之后，对日作战就特别的勇猛。
张自忠部此时远在淮河流域一带，但是在接到命令之后，立刻最快的速度，兼程向临沂方向增援，由火车将五十九军运到距离临沂还有一百八十公里的峄县。此时日军也掌握到张自忠部的动向，但是日方估计，五十九军最快也要三天的时间，才能从峄县赶到临沂，所以日军认为可以抢先击溃在临沂弹尽援绝的庞炳勋部，然后再以逸待劳地反击张自忠部，因此日军估算张自忠部不但不能及时赶到临沂成为救援军，反而成为送上门来的「找死军」。
但是张自忠却率领五十九军进行日夜并进的急行军，这是吃苦耐劳与豪气干云的西北军特质，在军长的一声令下，竟然能够在一日一夜之内，提前赶到临沂。因此五十九军在敌方完全没有预备的状况下，就有如从天而降般地猛攻日军第五师团背侧，庞炳勋部更是将士用命地从阵地反击，日军绝对没有想到华军竟然会进行这种内外夹攻的拼命打法，因此在三月十四日到十八日的临沂决战中，日军第五师团遭到极其惨重的损失（师团长板垣仅以身免，其私人对象都被华军掳获），造成日军部队已经无法继续支撑作战，只有先撤退回莒县以困守待援。（当时日军虽以超过一百多辆的卡车，满载阵亡的日军尸首匆促地奔逃，但战场上仍然遗留了不少的死尸。日军一向非常重视同袍尸首的处理，不是危急到没有办法，通常都会设法带回焚化，将骨灰带回日本。）
张自忠的援军，以急行军的速度，有如从天而降般地猛攻日军第五师团背侧，庞炳勋部更是将士用命地从阵地反击，日军绝对没有想到华军竟然会进行这种内外夹攻的打法，日军第五师团遭到极其惨重的损失，造成部队已经无法继续支撑作战正当日军第五师团因为大胆轻进，而在临沂遭到华军围攻之时，日本的第十师团，也同时在左翼沿着津浦铁路南下，形成对徐州的左翼攻势，并牵制攻击第五师团右翼的华军。三月十四日，日军第十师团先进攻滕县。面对日军左右呼应的钳形攻势，李宗仁所指挥的兵力有限，他优先将部队东调救援临沂，左翼西线只有先调川军一二二师王铭章部在滕县进行抵抗。李宗仁一方面急电蒋介石，请求派出驻在河南东部的中央军汤恩伯第二十军团，驰援华军左翼，蒋介石立刻答应。
但是由于华军的运动速度太慢，又被日军阻挡在临城，使得救援滕县的时间还是迟了，王铭章部的川军，无论在人数、装备与火力，都与日军相差过于悬殊，在遭到日本第十师团强大火力猛攻，以及空军的协同攻击之下，川军奋勇血战，但是整个被日军优势炮火猛轰，整个阵地化为灰烬，三月十七日，阵地被日军突破，师长王铭章力战身亡。但是滕县之战，为李宗仁的调兵遣将，争取到宝贵的时间。这时孙连仲的第二集团军，已经赶到徐州，立刻在徐州北部的台儿庄阵地，进行布防，而汤恩伯的部队，也渡过大运河，开始与南下的日本第十师团，进行接战。
日军第十师团的指挥官矶谷廉介中将，根本就不把华军的兵力放在眼里，他所率领的第十师团，是一支重装备的机械化部队，又拥有空军协同支持作战的能力，他在攻占滕县之后，又攻克临城，这是日军大本营给华北方面军的南下禁制线。
但是矶谷判断李宗仁手边的部队不足，可以调动的部队，已经先在右翼与板垣的第五师团缠上了，所以他决心大胆深入，越过临城与枣庄前线，准备直捣徐州，一举攻占华军第五战区司令部，好为自己建立一个显吓无敌的战功，所以他命令第十师团继续全速南下，根本不接受大本营设给日军在鲁南作战的禁制线。
这时候，鲁南战局的重心，移到左翼的津浦铁路，矶谷的部队原本可以沿着津浦铁路，由济宁南下，直接冲向徐州，但是矶谷在得知右翼的板垣部受到围攻的重创，以及孙连仲部又在东边的铁路支线，向日军发动诱敌攻击，因此造成矶谷的部队，先向东旋转，再向南沿着铁路支线顺势攻击。三月二十五日，日军第十师团已经进攻到台儿庄的华军阵地。矶谷认为日军只要攻占台儿庄，渡过运河，就可以直指中国的第五战区司令部徐州，同时也可以减轻左翼第五师团所受到的压力。
在攻击上，孙连仲的第二集团军是一支战力旺盛的队伍，在阵地防守上，更是会进行决死抵抗的部队。
但是矶谷低估了孙连仲部作战的韧性。第二集团军从卢沟桥事变之后奉命驰援华北战场，在与日军几次的大型接战之中，都表现得可圈可点，在攻击上，孙连仲的第二集团军是一支战力旺盛的队伍，在阵地防守上，更是会进行决死抵抗的部队。因此李宗仁要求孙连仲部在台儿庄附近布下袋形的防御阵地，以吸引日军的攻势，然后下令装备与火力较佳的汤恩伯第二十军团，在外围进行运动战，当日军的攻势在台儿庄受到阻挡之后，立即设法由外线进行包围，攻击日军的背侧，形成以内外夹攻的方式围歼日军。
24.5台儿庄血战十三天重挫日军
当时孙连仲在台儿庄的口袋阵地的部署，是以三十一师池峰城部，防守台儿庄主阵地，三十师与一一○师在台儿庄以西，二七师与独立四十四旅在台儿庄以东，分别建立阵地。这样日军一旦攻入台儿庄，就会陷入华军的口袋阵地之中。此时，蒋介石也充分地掌握到这场作战的重要性，于三月二十七日，亲自率领军委会的高级参谋白崇禧与林蔚等将领，前往徐州视察战局，并且设法调动所有能够动用的部队，前往徐州的第五战区增援，准备给予孤军深入的日军重大的一击。
这时日军却对于华军在台儿庄的布阵，缺乏真正的情报掌握，还以为只要日军运用优势火力狠打，华军就会溃败。蒋介石特别将将刚刚到手的一五五公厘巨炮以及反坦克炮，运到台儿庄前线作战，甚至出动空军，炸射日军（数量当然极其有限，巨炮只有九门而已，飞机也只出动了几个架次），但是这对于华军而言，帮助实在极大，因为华军面对日军优势的火力与坦克的打击，几乎是束手无策的挨打，现在有了可以让日军遭到压制的火力，士气大振，华军先后击毁日军几十辆攻坚的坦克，因此得以守住台儿庄的阵地。
台儿庄的血战，从一九三八年的三月二十五日，日军第十师团进攻到台儿庄阵地，进行到四月七日，日军整个溃败退出台儿庄，总共是十三天十二夜的血战。中、日两军在台儿庄及附近的阵地之中，进行多重包围与反包围的厮杀，在台儿庄内，更是到了逐街、逐房、逐门、逐窗的战斗，日军几度增援，曾经控制了台儿庄四分之三的地区，并且一度准备渡过运河，冲向徐州，但是华军拼死不退，孙连仲将军亲自下令守城的部队，即使全员战死，也绝对不能撤退。同时他也将司令部移往前线，表示必要时自己与司令部也将投入战场作战。
正当中日两军在台儿庄进行阵地争夺的殊死战之时，在台儿庄北部外围的战线上，正是汤恩伯部伺机而动的机会，他眼见矶谷把日军一波波的投入台儿庄战场，正是李宗仁所期待的口袋战术运作。汤恩伯的部队就是负责收紧口袋，切断日军补给线的主力，只要日军补给线一旦遭到切断，所有在台儿庄作战的华军，立刻就会蜂涌而出的进行里外合击，准备把日军予以围歼。三月二十八日，汤恩伯下令部队开始对深入台儿庄的日军，进行合围。直到这时候，矶谷廉介才大惊失色地发现，自己的部队已经深陷华军的包围之中，在台儿庄附近的阵地，华军攻势异常的勇猛，日军部队已遭华军的分割攻击，情况对于日方非常的不妙。在这种危急的状况下，矶谷只有向华北方面军发出求救的电文，华北方面军是绝对没有想到南侵的日军，在大胆的越过禁制线之后，无论是左右两翼的部队，竟然双双的都遭到败仗的打击。而日军大本营更是对于华北方面军不听号令，深入华军阵地，遭到包围而感到震怒，但是却不得不追认事实，要设法支持深入华军阵地的日军。
先前在右翼板垣的第五师团部队，败退到莒县，在得到酒井旅团的支持，正准备向临沂进行反攻，同时由于李宗仁低估日军在右翼的威胁，突在三月二十日，抽调张自忠部向东支持台儿庄战斗。
当张自忠部队刚刚向东调走，日军的板垣师团就立刻反扑临沂，差点击溃华军阵地，张自忠只有发挥在战场的独断指挥判断，直接向军委会请示，而又将部队紧急回防临沂。中日双方的军队正在临沂打成难解难分之际，日本另外的援军本支队由青岛赶到，板垣认为这是报仇良机，准备非在临沂大破张自忠部不可。但是这时在左翼矶谷第十师团已经面临被围歼的危机，因此日本华北方面军越级直接指挥本支队，命其不得投入临沂作战，立刻要以全速向西转进，以解救矶谷的部队，板垣力争无效，三月二十九日，本支队奉令以急行军方式脱离临沂向西转，经向城朝台儿庄阵地急攻，日军一下子就冲到汤恩伯部的侧背，这下子差点把汤恩伯部给反包围起来。因此汤恩伯当机立断地重新打开口袋，命令五十二军向东移动，让本支队进入台儿庄战场。