3月23日清晨，法军侵略头子尼格里纠集了2000多人，兵分三路，猛扑清军隘口阵地，其中两路分别进攻东、西高岭，一路直扑隘口长墙，他们鉴于前几次战役中越南人民和清军互通声气，所以这次以法国人打先锋，把诱骗来的北非洲人和越南人统统都放在后面。敌人以大炮队顺着东、西岭向下轰击，以枪队猛扑中路。登时"炮声震天，远闻七、八十里外，山谷皆鸣，枪弹积阵前厚者至寸许。"清军在东岭上赶修起来的五座堡垒，连续被攻陷了三座，眼看侵略军即将冲破隘口长墙的防线。冯子材镇定自若。当他亲自处决了几个临阵退缩的胆小鬼后，沉痛激昂地向士兵们大声地说："法再入关，有何面目见粤民？何以生为！"全体将士在主帅爱国热情的激励下，个个奋不顾身，拼命杀敌，坚守着东岭长墙阵地，剧烈的战斗一直延续到晚上，在各路友军的支援下，终于杀退了侵略军的猖狂进攻。深夜，冯子材正在布置防务，巡查阵地。广西军务督办苏元春来会，表现出怯敌欲退的情绪。冯子材即正色说："敌与我相距强得二里，我兵退步岂无知之，长墙尚不固守，岂他处便可战守？……我帝胄同怀不甘受辱之心，时欲杀却番奴为快，有如此奋发之士气，我辈握军权，正可因势利导，善以用之。……倘或战败，此长墙即我报国之地也，早巳嘱知两小儿矣！如老哥不以为然，请自去之，此间乃军法地，幸勿扰敌军心。"苏元春惭愧地说："老前辈既以身许国，晚生当随左右，尽力杀贼。"于是，前线两员主将共同坐镇长墙，决心和敌人血战到底。3月24日黎明，法这继续向清军阵地发动更为猛烈的进攻，企图侥幸于一逞。当时，清军阵地上"重炮、机枪交轰，药烟弥漫，至不辨旗别，弹积阵前逾寸，墙后且被毁"在炮火的掩护下，法军大队主力向中路进犯，侵略军气势汹汹象恶狼一样，猛扑过来，有的爬越了长墙前面的深壕，有的已经冲上长墙。在长墙上督战的冯子材，眼看形势十分危急，必须抓住战机立即进行反击，便命令打开长墙的栅门杀出去。年近七十的老将军"帕首短衣草履，操倭刀一柄，亲率在刀他，大呼一跃出墙外，其子相荣、相华，随之跃进出。"全军将士看到主帅身先士卒，也一齐跃进出长墙，排山倒海地冲向敌阵，与侵略军展开肉搏战，一场激烈的殊死战斗，终于把法国侵略军完全压倒在阵地前面。这时，东岭的清军经过反复的争夺，收回了被占的三座堡垒，重新控制所有的制高点，萃军的另一支队伍从扣波赶回抄了法军的后路；东路的王德榜军以厅兵截断了法国侵略者的后路运输线。关外中越人民的抗法武装千人也奋勇投入战斗，清军完全掌握了战斗的主动权。冯子材即命令发起总攻击。清军和中越人民抗法队伍个个争先效命，从各个山头、濠沟、树林、村庄里冲出，潮水般地向山谷里的敌人冲去，把侵略军杀得溃不成军。尼格里不得不督军率残军往同登方向仓惶逃窜，清军穷追至镇南关外20多里的地方，至深夜才收队回关。这一仗，取得"毙匪千余，擒斩数百，内有军官数十，夺获枪炮弹药、饼干不计其数。’取得中国近代史中清军反侵略战争第一次重大胜利，实现了"用侵略者的头颅重建我们的门户"的豪壮誓言。这就是威震中外的镇南关大捷。
3月26日，冯子材决定乘胜追击敌军，协调各路大军当即启程。他约令王孝祺与萃军一起，从镇南关正面进击，王德榜军由油隘侧面夹攻。一路上人不解甲，马不停蹄，斩将夺关，取得了节节胜利。当天攻克了同登城。两天后，冯子材、苏元春和王德榜三军联合对谅山发动了钳形攻势。在剧烈的战斗中，冯子材又七妙地组织军队，运用了"正兵明攻，厅兵暗袭"的战术，终于战胜顽敌。29日，各路大军胜利进入谅山城。总计清军出关6天推进了二百多里，"克复越南一省、一府、一州，擒斩法酋六画一画数十，法提督尼格里重伤，法之精锐尽歼。"形成了整个镇南关一谅山战役的伟大胜利。在镇南关一谅山大捷的同时，西线的滇军、黑旗军与越南军队也在临洮地方战败法军，在海战方面，虽然澎湖失守，但法军未能再次在台湾登陆，法国远东舰队司令孤拔此时重伤致死。在反侵略斗争取得大胜利的鼓舞下，英雄的越南人民纷纷高举抗法义旗，"越官北军总督黄迁经，纠集各路义民，立忠义五大团，二万余人，皆建冯军旗号，供粮米，作响导，或分攻或助战。"一时，法国侵略者陷入了到处挨打的被动局面。当法国侵略军中中越边界大败，尼格里被重伤的消息传到巴黎，立刻引起巨大震动和惊慌。法国统治集团中有人认为法军在镇南关一谅山的溃败，好比1815年拿破仑在滑铁庐的失败一样，造成了国家的巨大灾难，因此，群起斥责内阁总理茹费理的过错东证策，法国人民本来就反对这场不义的侵略战争，立刻行动起来，在巴黎举行反战示威游行，高呼"打倒茹费理！"茹费理内阁因此倒台了。在镇南关一谅山大捷后，冯子材又会合诸军以秋风扫落叶之势，冲破了法军新建立的屯梅、谷松防线后，准备再取北宁，克复河内，预期在一年之内，全部光复越南的大好河山。正当中国军队取得节节胜利，整个战局对中越两国都非常有利的时候，一笔肮脏的交易在幕后达成了。妥协投降的清朝证府通过客观存它的总税务司、英国人赫德和法国媾和。赫德派金登干代表清证府在巴黎与法国谈判，签订了《停战协定》，竟下令前线停战，并限期撤退，重演了一幕"金牌突诏岳家军"的历史悲剧。6月9日，李鸿章代表团清证府与法国驻华公使巴德诺在天津缔结了正式结束中法战争的不平等条约《中法会订越南条约》十款。这样，法国不胜而胜，中国不败而败。当停战撤军令到达前线时，面对朝迁的荒唐决定，中越军民无限悲愤，他们有的拔刀吹地，有的含恨呼天。冯子材代表前线军民，函电兼驰，要求杀议和的人来谢天下，请求给予一年工作期限，保证把法寇逐出越南。可是，除了遭到清证府的严旨申斥之外，一切都无济于事，有些将士主张"将在外，君命有所不受。"但是，冯子材忠勇和爱国心没有越出封建纲纪，终于挥泪奉诏，忍痛班师了。撤兵之日，越南人民扶老携幼，遮道挽留，挥泪送别，有几千人不愿受法军肆虐，跟随清军入关居住。冯子材回到龙州，"地方绅民郊迎三十里，爆竹之声不绝，并搭盖牌搂，张灯结彩，家家门前供奉’万家生佛’牌位，或作灯笼，供奉三日三夜。"
