日俄在南满打开了锅，一直活动在南满的鲁山统领的南满支队不可避免地卷入了日俄大战。别说是他们这样被俄国人“招安”了的武装，在1904年，关东大地上几乎所有的胡子们都面临着选择，要么帮日本人打俄国人，要么帮俄国人打日本人。中立几乎是不可能的。便是公开发表了“局部中立”的满清朝廷，虽然打着中立的旗号，屁股实际上是坐在日本人这边的。东三省不必说，便是直隶总督袁世凯，都受好友青木宣纯大佐的要求，派遣精干的军官到关东，联络各地的胡子，接受日本人提供的武器和银两，干起了武装反抗俄军的事情。
表面上日本人占了大义。俄国老毛子借镇压义和团出兵满洲，几乎占领了东北全境。辛丑条约签订后，又找种种借口赖在东北不走，死活不愿意将东北“归还”给满清，自然得罪了视满洲为“龙兴之地”的满清朝廷。
李鸿章在世时，一直采取亲俄的外交政策，借俄国的力量与其他列强周旋，李死后，朝廷几乎没有人再帮俄国解释了。而俄国独占满洲的行为也开罪了英日美德等国家，除掉一直与俄国有着盟友关系的法国，几乎没有一个强国支持俄国。而日本出于自身“大陆政策”的考虑，打着为满清驱逐俄国势力出满洲的旗号，也容易获得关东胡子们的好感。
造成当地土匪武装亲日的另一个因素就是日本在关东的谍报工作做的很出色。
这样一来，一支帮助俄国作战的“胡子”就显得很另类。
南满支队自去年底进入关东，接受俄国临时番号后，大致经历了两个作战历程。
第一个阶段主要是针对南满大量的反俄中国武装，即关东胡子。其中主要是两大股，东满的冯德麟部和南满的张作霖部。
起先鲁山的活动区域在辽东，即海城以东。凤凰城以西的区域。枯树岭伏击战是南满支队的成名之战，一战消灭五十名日军使支队闯出了名头，让俄军重视起这支装备精良、战力不俗的武装来。要求他们尽快消灭“为祸”东满的冯德麟部土匪。随后不久，结束在下马塘休整的熊勋大队在海城东北的陈家屯一带与冯德麟部正面交手。重创冯部，还俘虏了一个日本军官，震惊辽东。随后，鲁山率会合了第三批增援人员的支队主力南下海城，开始了对冯德麟部的“清剿”。
冯德麟当然不知道南满支队的来历，将其当做了一股不明身份的胡子。如果他知道对手是经过严格训练，有着严密组织的正规军。冯德麟或者会采取躲避的策略而不会鲁莽地与南满支队硬拼。
陈家屯一战冯德麟失利，心里很不服气。迅速纠集了几股散匪，准备将闯入自己地盘的“外来户”消灭或者驱逐出去。错误的情报误导了冯德麟这个惯匪，他认为敌人不过二三百人而已。而自己最少可以集结四五百人，还有日本人提供武器。所以，冯部派出马队，加大了对南满支队的侦察。鲁山率主力抵达海城附近后，听取了一直与冯部周旋的熊勋的意见。示敌以弱，故意放出风声，让冯部掌握了熊勋大队的行踪，故意让冯德麟大队将熊勋所部二百余人合围在陈家屯。但激战一日，数次强攻均告失利。意识到中计已经晚了，鲁山的其余两个大队已经乘夜粘了上来，兵力优势，装备和战斗力更不是冯部可比。冯德麟终于见识了正规军与胡子的差距了。第二次陈家屯一战，冯德麟重伤而死，纵横辽东令俄国人头痛不已的冯德麟部被基本消灭。
陈家屯一战震动辽东。当地百姓对南满支队又恨又怕。鲁山为首的军政委员会研究了局势，意识到必须缓解当地百姓对南满支队的误解。办法很简单，他们采取了杀富济贫的传统措施，将缴获的冯德麟家的财货散发百姓。收集证据，严厉镇压海城周围帮助日军的富户，枪毙了一批勾结日军的当地士绅。这种做法很让俄军高兴，他们愈发重视这支一心向着俄军的武装了。
鲁山在龙谦手下时也算循规蹈矩，虽然因过失被降过职，但一直都是龙谦在军事上特别是军训上依赖的头号大将。其实鲁山对龙谦强调纪律，不轻易开杀戒是有看法的。总觉着自己的老大什么都好，就是过于书生气了。打天下嘛，哪个不是钢刀开路，杀出一片天空的？现在鲁山领军在外，有便宜行事之权。所以，在打击冯德麟部的过程中不免有些嗜杀了，凡是有通日证据着，一律枪毙。偏偏辽东地方还吃这一套，一通杀戮之后，海城以东的局势平静了许多。虽然很快由于俄军正面的失利，别说海城，连辽阳都丢失了，但南满支队的名头算是闯出来了，陆大山的名号威震南满，让胡子们面临艰难的选择，要么选择与陆大山的部队对抗，要么投降，加入陆大山的山头。这个时代，国家、民族、名节、正义等东西没几个人懂得，特别是胡子们，有奶便是娘是绝大多数共有的特点。便是在新民一带说了算的张作霖部，很多人也是或俄或日，摇摆不定。所以，鲁山兵威所致，辽东道上的胡子们大部分选择投降。
在1904年的春夏之交，总计有上千人的土匪投降了南满支队，被编入部队进行纪律、军事等方面的训练。胡子们习惯了自由散漫了，等他们加入南满支队，方知这支部队的军规之严，训练之苦。于是，开始有人拖枪逃跑，凡是被抓获的逃兵，鲁山一律枪毙，毫不容情。
鲁山性格中有龙谦不知的另一面，但参加过蒙山整军，自始至终见证了蒙山军从小到大，从弱到强过程，鲁山及其与高级军官们已经将龙谦治军的那一套正面的东西学到了手，所以，军规是前所未有的严厉。训练是前所未有的严酷，对于手下强奸妇女，打劫客商百姓者。鲁山跟对待逃兵一样，几乎就是一个结果。死刑！
一直跟随南满支队行动的俄军联络官索科洛夫少校对于支队的纪律整顿和军事训练大为惊异，他简直不相信这是土匪能做到的。他给阿尔杰米耶夫少将的报告中说，这支部队的主要指挥官们似乎在哪里接受过正规的军事训练，其条令、制度、训练方法颇有值得借鉴之处，希望总部予以重视。但他怎么也不会想到这支部队有数百人是来自关内的正规军官和士兵，而主管这方面事务的阿尔杰米耶夫少将只是关心这支部队的战果，哪里会去深究？支队战斗力越强。他就越高兴。
海城当地的亲日势力被镇压下去后，开始有贫苦农民参加南满支队，有了当地人的加入，南满支队越来越耳聪目明了。
五月初。南满支队再次整编，充实了三个大队的兵力，建立了一个骑兵中队。待第四批增援人员抵达后，鲁山展开了为期一个月的大练兵，待日军对于南满的攻势展开。南满支队已经是拥兵1700人的一支不可小觑的力量了。
第二阶段则是针对日军永沼支队的作战。
永沼支队是日军为配合辽阳战役而组织的一支精锐骑兵队，其中配备了几十名死心塌地帮助日军作战的胡子。这支越过战线深入俄军后方的骑兵支队带给俄军极大的损失。他们专门以破坏交通线，袭击俄军辎重部队为目标的骑兵令俄军极为头痛。俄军几次围剿，都因永沼支队有当地亲日胡子的情报支持，一无所获。因功升任俄军远东军副参谋长。当初主持招降鲁山支队的阿尔杰米耶夫少将建议动用已经兵强马壮的南满支队对付永沼支队。从去年八月起，鲁山指挥部队盯住了永沼部队，终于在十月份将永沼支队合围在奉天西北的陈家窝棚，经过两天一夜的血战，在赶来的俄军一个炮兵营的配合下，全歼了永沼支队，无一漏网。计击毙日军900余人，俘虏（含伤兵）340人。彻底解除了俄军的心腹大患。南满支队此战伤亡1200余人，算是伤筋动骨了。其中亲率突击队主攻的副司令范德平身重三弹，差点阵亡，因送入奉天俄军医院及时手术，才算脱离了危险。而联络官索科洛夫少校也被弹片击伤，送回俄军野战医院治疗，并因功升为中校，离开了南满支队，俄军又派了一个上尉接替索科洛夫充任联络官。
经陈家窝棚一战，南满支队算是脱胎换骨，浴火重生了。鲁山认为，部队虽然比不上蒙山军，但基本可以与日军正面相抗了。就一般规律，任何一部队，如果不经历一两场伤筋动骨的血战，很难成为真正的精锐。
南满支队由此获得了俄军总司令部的高度赞赏，改编为南满独立团，正式编入了远东军，鲁山获授俄军上校军衔，连长以上军官全部获得了俄军军衔，并为其大批地补充了被服武器，调入奉天整补，允许其自行招兵扩充实力。独立团在为期三个月的休整中大肆扩军，取消了原先的大队编制，组建了三个加强步兵营，一个机炮营和一个骑兵营。另外还建立一个拥有八十辆马车的辎重营和一个基本是蒙山军士兵组成的警卫连。
休整的后期，鲁山应俄军的要求，也为以战代训，率领骑兵营和最先完成整编的两个步营西进，清剿辽西一带的胡子，与张作霖部发生正面冲突，鲁山击溃了张作霖部，击毙张作霖将领兼结义兄弟马龙潭，生俘张作相。但此战鲁山脸部中了流弹，差点让南满支队失去了司令官，最终还是破了相。而那位来南满支队的俄军上尉却因为得罪了盛光，被盛光在混乱的战斗中打了黑枪。事情当然被鲁山压下了，上报联络官战死，俄军并没有发现蹊跷，直到一个半月后，才派来了新的联络官。
其时，张作霖部已经坚定助日抗俄了，但因一面之缘，鲁山并未杀掉张作相，而是将其扣在军中，逼迫张作霖让步。张作霖派人联系鲁山，希望用金银赎回张作相，鲁山现在不缺钱粮，俄军稳定足额的补给让他不用去考虑后勤问题，扣着张作相，有利于对张作霖部的行动。这件事影响甚大，鲁山自己根本没有意识到，他来不及处理张作霖问题，奉天会战爆发了。根据阿尔杰米耶夫的建议，俄远东军总司令库罗帕特金决定南满支队结束休整，调前线作为右翼军的预备队。