计擒杜匪
成了官军的张作霖对危害地方的胡匪十分痛恨，极力剿杀。在他的连年痛剿下，辽西的小股胡匪或被招抚，或被剿灭。就连党羽千余的大股悍匪田玉本也被张作霖部击毙，其徒众星散，百姓称快。
但是，还有一个奸诈凶残的土匪杜立三很难对付。杜立三盘踞在辽中县青麻坎。杜立三的势力越来越大，官军拿他无法。他自称马上皇帝。在他盘踞的地方，随意封官许愿，老百姓见他称之为杜大人。实际上，他已经造成了割据之势。盛京将军赵尔巽曾下令“严密访拿”，几次派兵进剿，但都败下阵来。1907年清政府在东北建立行省，任命徐世昌为东三省总督。徐世昌为了除掉这个心头之患，特派智谋之士知县殷鸿寿到新民府，去协助张作霖剿灭杜立三。
对杜立三是强攻还是智取，他们进行了仔细的商讨。杜立三自诩为马上皇帝，马上功夫了得。能双手使枪，弹无虚发。且城池坚固，徒众凶顽，关卡林立，防备极严。如像以前那样派兵强攻，恐师劳无功，难以奏效。因此，决定智取。他们设了一计。张作霖派人到辽中县送上一封贺信，祝贺杜立三被奉天省招抚，当上了大官，官位比张作霖还高。让杜立三速到新民府来面谒省里的招抚大员，以便到奉天向徐世昌总督致谢。杜立三有所察觉，不敢贸然行动。同他母亲和兄弟商量。他们也认为到新民风险很大，凶多吉少，都不主张他去。
此计落空。张作霖没有灰心，又生一计。他想到了黑山秀才杜泮林。杜泮林是张作霖的义父。张作霖在中安堡当保险队头目时，同绅士杜泮林结下交情，来往密切，关系甚笃。张作霖知道杜立三拜认杜泮林为同族叔，对其言听计从，十分尊重。张作霖就想打杜泮林的主意。他和殷鸿寿密谋，用杜泮林引诱杜立三上钩。
张作霖特地亲自到黑山把杜泮林接到新民府，并把他引见给省城大员殷鸿寿，以证明确实是省里招抚，并非虚构。又在新民街上，为杜泮林另设招待处，请杜泮林在招待处稍事休息，候杜立三来到之后，一同晋省。秀才杜泮林是老实人，不知是计，就给杜立三写了一封亲笔信，言辞恳切，感情真挚。有“游侠非终身之事，梁山岂久居之区；一经招安，不仅出人头地，亦且耀祖荣家”等语。
杜立三本来疑信参半，犹豫不定。突然收到他素来景仰的族叔张作霖的亲笔信，便疑念顿消，决定前往。于是，他在1907年6月6日仅率13人，作为随身护卫，由宋庆濂带领，奔向新民府，接受封官去了。他哪里知道此去是有去无回了。张作霖为了不出意外，事先做了周密布置。杜立三只身赴会，十分警惕。在晋见委员殷鸿寿时，他坐在背靠墙壁面对诸人的位置，同时两手插入兜内，握住枪柄，观察动静，以应突变。谈话完毕，殷高声喊道：“送客！”杜起身告辞，殷送至里屋门口，杜转身请殷“留步”时，刹那间，突被汤玉麟等几个壮汉按倒，死死捆住。事不宜迟，当晚就把杜立三在新民府西门外枪决了。其实，在这之前，张作霖早已派张景惠率大队人马，绕道台安八角台，做好进击杜立三老巢的准备。得到处决杜立三的消息后，张景惠等迅速出击杜立三的老巢。群龙无首，他的老巢辽中县青麻坎，被一举端掉。除掉了杜立三，扫除了一大害，辽西匪患遂绝，人心称快。
杜立三这个多年啃不动的硬骨头，让张作霖轻而易举地剔除了。这里便显示了张作霖的过人的智慧。得此消息，总督徐世昌喜出望外，上报清廷，为张作霖请奖。清廷除赏银五千两外，将张作霖升为奉天巡防营前路统领（旅长），管辖马步5营。其他还有中路、左路、右路、后路等4路统领。张作霖成为东北旧军5个举足轻重的武装力量之一，势力更加壮大了。
剿灭蒙患
1908年，徐世昌把剿匪得力的张作霖调到辽宁西北部的通辽、洮南一带，去剿除被沙俄收买的蒙古叛匪。据有关人记载：“洮南一带系干燥的草原，草有一二尺高，一望无边。夏日蚊虫甚多，大者如蜜蜂，叮人很厉害。”“虽在夏天，都得用棉花把头包上，否则寸步难行。狼群更多，一群就是十几条。当时队里的通信人员（当时叫做跑拨子的）往往被狼吃掉，剩下马跑回来……蒙古军队都是一个人乘两匹马，骑一匹，备一匹，力量足，跑得也快。以上种种，都是蒙军优于汉军的地方，所以张作霖清剿蒙匪不是一件容易的事情。”
洮南一带是广阔无垠的大草原，是蒙匪活动的根据地。他们熟悉地形，了解民情，精于骑射，出没无常。他们行踪无定，多用奇袭，打了就跑，渺无踪迹。其中，有几股大的蒙匪，如白音大赉、牙仟、陶克陶胡等，都“扰害边疆，至数年之久，此剿彼窜，滋蔓难除，国家视为巨寇”。
这些“巨寇”不除，国家不得稳定，百姓不得安宁。张作霖当此重任，开始并不顺利。后来，他采用了强攻和智取两手策略，派人打入蒙匪内部，取得情报，而逐渐扭转了劣局。1909年，徐世昌看到张作霖的兵力不足，便给他扩编，增强他的实力。把5个营扩编为7个营，又将驻扎在洮南的孙烈臣部划归张作霖部。这样张作霖的部队增至3500人，成为东北的一支劲旅。
张作霖是个很知道感恩的人。受到东三省总督徐世昌如此青睐、如此器重，他剿匪更加努力。同时，他也在不断地总结剿匪的经验教训，摸索出一套可行的规律。他本人也吃苦耐劳，身先士卒。因此，又经过年余苦战，终于将白音大赉击毙，生擒牙仟，并打败了陶克陶胡。后来追击陶克陶胡800里，一直将陶克陶胡赶到蒙古国。危害东北边疆多年的蒙患解除了，打击了蒙古分裂主义分子的嚣张气焰，维护了国家的统一和民族的团结，张作霖功不可没。
智进省城
在张作霖的政治生涯中，他于1911年智进奉天省城，是一大手笔。1911年10月10日爆发了武昌起义。各省纷纷响应，脱离清政府，宣布独立。奉省的革命党人张榕、宁武、商震等早有活动，新军中也有吴禄贞、蓝天蔚等从事革命活动。武昌起义的消息传来，东北革命党人群情振奋，准备积极响应。当时以蓝天蔚为协统（旅长）的新军第二混成旅驻扎在奉天的北大营，这是省城的惟一一支驻军。蓝天蔚又是革命党人，他如果抓住机会及时策动反正，可以立见成效的。他确实也在和革命党人张榕紧密磋商，秘密酝酿起义。
但是，由于经验不足，他们没有抓住先机。1911年5月赵尔巽又任东三省总督。辛亥革命爆发时，他正在外视察，得到消息，便急忙赶回奉天，并连夜开会，研究对策。当他得知握有兵权的蓝天蔚等革命党人正在酝酿起义时，顿时吓得不知所措，表示他即将入关，也就是说，准备逃跑了。这时奉天省咨议局副议长袁金铠立即跪求劝阻，并建议重用巡防营旧军。这个建议使赵尔巽如获至宝，茅塞顿开。他思忖，地方巡防营的将领都是忠于他的守旧军人，同革命党人没有任何联系，正是他可以利用的镇压革命党人的军事力量。他立刻来了精神，马上密调后路巡防营统领吴俊升率部自通辽迅即来奉天，以防备革命党人起事。
然而，这个重要消息却被张作霖在奉的部下探知。这个人就是张作霖驻奉办事处处长张惠临。他深知事关重大，就以最快的速度，把这个消息密报给张作霖。张作霖是个有很大政治野心的人，他不甘心在西北的洮南呆一辈子。为此，他早就在观察奉天省城的动静。他曾密嘱到奉天讲武堂学习的各营管带张景惠、汤玉麟、张作相等，注意省城的军政动向，并及时写信报告。同时，他对全国的政治形势也是极为关注的。得到这个重要消息，他认为这是天赐良机，不可错过。这是他大显身手的时候了。他当机立断，立即亲率所辖步骑7个营的全部人马，从洮南出发，马不停蹄，日夜兼程，直奔奉天。路过辽源（郑家屯）时，吴俊升等出城迎接，张作霖与其虚与委蛇，未露实情。
到达奉天省城后，张作霖为争取主动，马上晋见赵尔巽，诚惶诚恐地说：“因局势紧张，惟恐总督陷于危境，迫不及待，率兵勤王。如总督认为未奉命令，擅自行动，甘愿接受惩处。”赵尔巽急需用兵，感到张作霖来得恰逢其时。张作霖又信誓旦旦地说：“请恩师听我部署，只要我张作霖还喘着一口气，我是愿以生命保护恩师，至死不渝。”张作霖这一披肝沥胆的表态，深得赵尔巽的嘉许。因此，张作霖不但没有受到惩处，反而得到夸奖。除补发调防令外，赵尔巽还命张作霖兼任中路巡防营统领，以加强忠心耿耿的张作霖的军力。这样，张作霖就统率15个营的兵马了。到此，张作霖实质上已经是奉省现有部队最大的军事力量的首领了。我们不难看出，张作霖关注信息，研究形势，抓住时机，闻风而动，显示了他的不同常人之处。
持枪赴会
东三省总督赵尔巽有了张作霖这个拥有军事实力的张作霖保镖，就有恃无恐了。他们先是迫使新军将领通过了赵尔巽提出的“保境安民”的主张。这个主张实质是反对革命，继续保皇。继而又在奉天国民保安公会上贯彻赵尔巽的保皇主张，成立了由前东三省总督赵尔巽为会长的奉天国民保安公会，这是换汤不换药，继续代表清廷行使皇权。在这个过程中，张作霖都扮演了一个流氓打手的角色。
武昌起义爆发不久，奉天省的革命党人都云集省城，研究运用何种方式响应武昌首义。经过反复争论，最后得出采取和平手段，进行东北革命，即“谋运用政治手腕，实现东三省革命”1。革命党人的首领蓝天蔚、吴景濂等事先密议，用会议的方式兵不血刃地夺取东北政权。拟由吴景濂以奉天省咨议局议长的名义，召集省城各界领导人开会，在会上解决这个问题。他们研究了一个方案，以维持治安为名，成立奉天全省保安会，逼走东三省总督赵尔巽，然后推举蓝天蔚为关外都督，吴景濂为奉天省民政长，脱离清廷，宣布独立，完成东三省革命。如果“东北大局既定，继进兵关内，会师燕郊，直捣虏穴”1。幼稚的革命党人以为采取会议表决的方式，就可以一举夺得东北大权。
吴景濂于1911年11月12日，以他的名义召开保安大会，绅商各界到会的有二百多人。赵尔巽到会，他带来了张作霖。会上还有他的支持者，如袁金铠等。袁金铠，奉天省辽阳人。1909年任奉天咨议局副议长，他是赵尔巽一党。
此次会议，老辣的赵尔巽也早有准备。他派张作霖在会场内外布置人马，持枪待命，明施压力。张作霖则持枪赴会，满脸杀气。会场气氛，非常紧张，大有一触即发之势。但是革命党人并没有胆怯，而是慷慨陈词，主张脱离清廷，宣布独立。赵尔巽极为不满，表示坚决反对。他说：“你们要搞自治还可以商量，独立？怕有未便吧？”他的话还没讲完，就被革命党人的发言驳回，革命党人强烈要求赵尔巽宣布独立。
这时，张作霖急不可耐地跳了出来，把手枪往桌子上一拍，蛮横凶恶地叫道：“我张某身为军人，只知听命保护大帅。倘有不平，我张某虽好交朋友，但我这支手枪它是不交朋友的。”这是个信号，会场四周他的党徒，均立刻抽出手枪，情况极为险恶。在这种情况下，已经没有办法再讨论下去了。倾向革命的议员，都愤然纷纷离开会场。但这也就等于把这个会议的主动权让给了保皇派。
会议一度中断，后又复会。这时由赵尔巽的党羽袁金铠以副议长的身份主持会议，会议意见自然一边倒。最终成立了奉天国民保安公会，赵尔巽任会长，伍祥祯、吴景濂任副会长，袁金铠任参议总长，蒋方震、张榕任参议副长。这个保安公会实质是个变相的保皇会。他的会长仍然是东三省总督兼东三省将军和奉天巡抚赵尔巽，东北大权仍然掌握在他们的手里。而革命党人吴景濂、蒋方震和张榕不过是为了掩人耳目的摆设罢了。而张作霖则当上了保安公会军政部副部长，取得了军事实权，这一回合，幼稚的革命党人没有斗过老辣的保皇党人。革命的路还很长。
挤走天蔚
蓝天蔚，字秀豪，湖北黄陂人，1878年生。1902年入日本陆军士官学校。1904年加入同盟会。1906年任同盟会辽东支部负责人。1910年任东北第二混成协协统（旅长），是个坚定的革命党人。此次会议本来是蓝天蔚等发起，目的是推举蓝天蔚为关外都督。但不承想，却让赵尔巽占了上风。
赵尔巽深知兵权的重要，他必须立刻剥夺蓝天蔚的兵权。于是，他于成立保安公会的第二天，即1911年11月13日，向袁世凯发一密电：“此军即令聂汝清暂兼协统，并留奉防，可保目前治安。”这就是说，第二混成协的协统由原任该协标统（团长）的聂汝清担任了。这个聂汝清是个顽固守旧的军人，坚决反对革命，是赵尔巽最放心的忠于他的奴才。赵尔巽把第二协的兵权交给了他。
还不止此。这个老奸巨猾的赵尔巽还把蓝天蔚挤到了关内，让他远离东北，以免在他的眼皮底下变生事端。他的手法是很高妙的。在成立保安公会的第三天，即1911年11月14日，赵尔巽就以考察的名义，把蓝天蔚派到了关内。赵尔巽给蓝天蔚下了一个札令：“查有第二混成协蓝统领天蔚，志趣远大，识见明敏，堪以派赴东南各省考察此次战事之实情、公众之意见，并传布奉省保安会宗旨，以谋国民之幸福。为此，札委札到该协统，即便遵照，克日前往妥办，随时报告。”
就这样，赵尔巽不费吹灰之力，轻易地就把蓝天蔚挤走了。但在外界看来，好像是给蓝天蔚委以重任似的。把拟任关外都督的人选撵到了关内，使关外的革命没有了领袖，赵尔巽的这一着是够狠毒的了。在挤走蓝天蔚的过程中，张作霖曾与蓝天蔚发生冲突，张作霖想下掉蓝天蔚的枪，被赵尔巽假意制止。但这一举动，也给蓝天蔚构成了威胁。张作霖是挤走蓝天蔚的帮凶。