段祺瑞是北洋军阀直系的首领，又是北京政府的内阁总理，是袁世凯死后北洋派最有威望最有实力的头目。张作霖为了实现自己更大的人生目标，对段祺瑞采取了阿谀奉承的作法。本来对张作霖这个马贼出身的人，段祺瑞是看不起的。但是，因为张作霖拥有军队和地盘，段也不能小觑他。
１９１８年２月２４日，直系的冯玉祥在南进的过程中，突然于湖北的武穴发表了“促进南北和局”的通电。这个主和通电对段祺瑞的主战派是一个沉重打击。在武穴发表通电是经过深思熟虑的。武穴处于湖北和江西的交界线上，冯旅在此驻足，对主战派两路军队的南进，造成了重大影响。这就打乱了段祺瑞的整个军事布局。段祺瑞手中没有军队，感到束手无策。在走投无路的情况下，只得求救于张作霖。 于是，段派他的心腹爱将徐树铮以“接洽国防”的名义，到奉天调张作霖出兵。
张作霖表现积极。１９１８年２月２５日，奉军第二十七师第五十三旅进入山海关，开到河北滦州。这里还有一个有趣的插曲。奉天督署参谋长杨宇霆，绰号“小诸葛”的，带兵到达秦皇岛，他是别有所图。他不费吹灰之力，在秦皇岛港口一举截走了２．７万余支步枪。这些步枪是根据段祺瑞同日本的中日军械借款协定第一批运到中国的。不料想，刚一上岸，就成了奉军的囊中之物。 这个消息传到北京，着实让段祺瑞吃惊不小，也十分心疼。因为这是段祺瑞准备用来装备他的私人武装“参战军”的。２６日，段祺瑞给张作霖发一电，让张把军械送回北京。张作霖也会演戏，同一天，张发一通电，说他早已布置南征，只因缺少军火，未便起行。此次“提去”军火，事先未予请示，因为公文来往费时，只得先斩后奏。
２７日，张又给段一答电，称“所练军队，无论对内对外，均属拥护中央，一旦编练成军，悉听政府驱策”，还振振有辞呢！其实，据推测，这批军火是徐树铮为了讨好张作霖，而故意送给张的。因为没有礼物，很难说动张作霖出兵。事先请示段，肯定不准。所以，徐就来了一个“将在外，君命有所不受”。提取军火是要证件的，而这个证件就是徐树铮在任陆军部次长期间私自留下来的空白证件。段对张无法，只得不了了之了①。
３月５日，奉军一部由天津开到廊房，靠近北京。张请北京政府在天坛一带指定营房，让奉军驻扎。张的到来，使人们回想起了张勋的野蛮的辫子兵，由此给北京城造成了极大恐慌。张发表通电，表示自己没有个人野心，“毫无私意。若有虚言，鬼神鉴察”。这才使北京市民稍稍安心。
３月１２日，在距离天津５０里的军粮城组成了关内奉军总司令部。张作霖自兼总司令，徐树铮以副总司令代行总司令职权。此时，段、张勾结，才大白于天下。１６日，徐树铮同杨宇霆到天津，召开北方各省督军代表会议，再次敦促大总统冯国璋让段祺瑞组阁。
３月２３日，段宣布组阁，段从后台走到了前台，又在大力推行他的“武力统一”中国的政策。段上台不久，奉军又在塘沽劫持军火。这是段从日本购进的第三批军火，段只能吞下这颗苦果。 张作霖是想利用徐树铮，借以扩张奉系的势力。但是，徐树铮却企图假借奉军的力量，达到扩展自己势力的目的。在北军南下不利的情况下，徐树铮决定在汉口设立一个奉军前敌总指挥部，把奉军的６个混成旅全部调到湖南战场上。并命令奉军的３个师长孙烈臣、汲金纯、吴俊升速到长沙，布置作战计划。 此举引起张作霖的警觉，他迅速调回３个奉军师长，并要调回摆在前线的奉军。虽然徐树铮信誓旦旦，但张作霖不傻，不想让自己的部队当替死鬼，打头阵。自此，张、徐之间产生了嫌隙。
７月２８日，在天津召开了督军团会议，张作霖第一次参加。关于总统问题，张作霖赞成徐世昌担任大总统。这是很重要的一票。会后，张作霖有意留在天津，查一查徐树铮代行总司令期间的表现。这一查，看出了问题。从３月２３日段内阁复活时起，徐树铮一共代领奉军军费５１５万元，奉军实收只有１８０万元。其余绝大部分都用在编练参战军和新国会的选举上了。这就是说，徐树铮在欺骗张作霖。徐口蜜腹剑，心怀鬼胎。
张作霖岂是好惹的。他当即下令撤掉了徐树铮的副总司令的职务，并向段告状。段十分惊慌，除令徐向张道歉外，还答应在短期内归还徐的欠款。后来欠款没有还清，张作霖不答应。只得从徐树铮编练成的５个混成旅中，拨给张作霖３个旅，此事才算罢休。
不过，从此徐树铮对张作霖怀恨在心，埋下了要杀掉张作霖的阴险的种子。前文提到，徐世昌在当上大总统的第４天，就任命张作霖为东三省巡阅使。这既是徐世昌对张作霖赞成自己当总统的回报，也是对这个具有深厚潜力的东北王的一个拉拢。这是徐世昌的一招妙棋。此一时期，张作霖还没有过多地过问关内事务，他的眼光基本是在东北。在关内经过两年的历练，张作霖具有了关于国家方面的相当的军政经验，他想入主中原了。
