1884年12月初,冯子材率萃军从钦州誓师出发。行前,他祭别祖先,嘱咐家人说:"万一军有不利,百粤非复我有,亟率我眷属,奉香火驰归江南祖籍,永为中国民,免奴外族也。"并带了相荣、相华两个儿子在身边,以备一旦战死沙场,为其料理后事。显示出他要和侵略者战到底的英雄气概和坚强决心。这时,接替徐延旭的东线最高军事指挥官是淮系将领潘鼎新,他忠实地执行李鸿章投降妥协的路线,造成了东线军事上的被动局面。1885年初,法国纠集了两个旅团共万余人的兵力,发动了谅山战役。法国利用清军分兵把口、各自为战的弱点,集中优势兵力,各个击破,先取北越重镇--谅山东省,再攻同登,然后挥军北进。2月23日下午,祖国南大门--镇南关(今友谊关)陷落。侵略者纵火焚毁了关上的堡垒兵营,炸掉了镇南关的城墙,并在镇南关的残瓦废圩上立下了一根木柱,上面写着"广西的门户巳不再存在了"的挑衅性标语,侵略气焰十分嚣张。法国侵略军攻占镇南关,清军往关内大溃退。潘鼎新一口气逃到距镇南关百里以外的海村,"各军多溃逃,无复队伍,淮军大斥龙州,商民迁徙一空,营官乘乱攫饷还省。游勇水陆肆斥,难民、逃军蔽江而下,关内大震。"敌人的侦察骑兵巳深入到国境纵深十余里的幕府村,没有遇到任何抵抗。我边民田园庐舍被毁,百姓任受枪击钉戮。前线已经没有一支完整的军队,祖国边疆处于万分危急之中。就在这个时候,冯子材率军赶到了前线,并被任命为广西关外军务帮办。由于潘鼎新放弃了指挥责任,广西提督苏元春的军队新败未集,冯了毅然以大局为巳任,积极备战,在当地人民群众的大力支持下,采取了一系列果断措施,重建祖国的门户。首先严格纪律,禁止军队扰害人民,冯子材吸取了以前徐延旭和潘鼎新惨败的孝训,认识到人心踊跃,可资借助。他的军队每到一处都大张旗鼓地宣传军纪,规定:"各路大军,露营住宿,禁入民村,禁住民房。全体官兵,严禁夜出,白天入街,须持手令。如违令者,军法不郝。一律严格,折首示众。"
由于冯军严格的约束队伍,影响及于各军,军民关系得到改善,人民群众就从各方面支援军队。其次是收集溃散兵勇,恢复军队的战斗能力。由于清军的几次溃败,整个战线瓦解。军队丧失战斗能力,边关一带溃勇充斥,为害地方,造成严重的社会问题。冯子材抵边后,"沿途拦回溃勇不下数千,均饰速回原营驻扎,毋庸畏惧,我大队随后即到,溃勇闻之心意略定,始行为伍。"不到一个月,各支军队都补充足额,重振旗鼓,恢复了战斗能力。接着,冯子材又在广西按察使李秉衡、粤军统领王孝祺的大力支持下,主动团结各军将领,大家表示,要同仇敌忾,一致对外。2月下旬,冯子材亲自踏勘前线阵地,又效法刘备三顾茅庐,请出了熟悉边情的壮族家民蒙大。在蒙大的指引下,冯子材选择了镇南关通往凭祥的险要有利地形--隘口,横跨东西两岭,抢筑了一条长3里多,高7尺,底厚1丈的长墙,墙前挖了一条4尺宽深壕,墙后1里的地方修造一条平行的土墙,又在两边高山修建了堡垒群。与此同时,冯子材又进行周密的军事部署:他统率的萃军和王孝祺粤军扼守长墙和东西两面高山为中路,苏元春桂军在隘口后的幕府村为后续队伍,蒋宗汉和方友升滇军驻在凭祥,是为第三梯队;王德榜汀军驻在镇南关东三十里的油隘为东路;魏纲鄂军驻镇南关西一百里的地方;马盛治军驻守高平一带为西路。这样,形成一个多梯队大纵深的防御体系,使中国军队处于退可守,进可攻的主动地位。当时,中国军队的武器装备十分落后,只有少数新式大炮和步枪,大部分是粉枪、抬枪,还有不少士兵是拿大刀、长矛的。在敌我武器对比十分悬殊的情况下,怎样战胜敌人呢?前线军民都议论着这个部题,大家出谋献策,认为应以我之长攻敌之短,最后冯子材博采众议,确定了近战取胜的作战方针。就是全军埋伏在长墙和地堡内,挡过了敌人的炮击后,待敌军逼近,突然杀出,把敌人消灭在阵地前面。于是他便分别通知龙州等地方,大批制造大刀、长矛。全军将士则自制"先锋煲"(一种土制手榴弹)作好肉捕战的充分准备。法军探知冯子材巳有周密部署,不敢贸然来犯,便施展从侧翼偷袭的诡计。3月初,越南人民送来了法国计划俞袭南关西面扣波、艽葑的情报后,冯子材毅然采取先发制人的策略。他立即商调苏元春率军截敌,又派出萃军的一支队伍进击法军据点扣波。3月13日,企图从侧翼来犯之敌军知清军早巳有备,未经接仗,回头便跑,留驻在扣波的侵略军亦被萃军击败,仓惶向同登逃遁。3月21日,冯子材又指挥萃军和王孝祺部,袭击了法军前哨据点同登,一度攻入了城中街心并摧毁了山头堡垒两座,大大地打击了侵略者的狂妄气焰,增强了中越军民的抗敌信心。