直系获胜后，吴佩孚不可一世。他一再催促北京政府严惩张作霖。不得已，徐世昌于５月１０日下令裁撤东三省巡阅使，张作霖免去本兼各职，听候查办。１１日又下令裁撤蒙疆经略使，这就剥夺了张作霖的一切军政大权。徐世昌并根据直系的意见，任命黑龙江督军吴俊升为奉天督军，冯德麟为黑龙江督军，袁金铠为奉天省长，史纪常为黑龙江省长。“直系借此离间作霖旧部，而迫其下野。究之计不得逞”①。冯德麟等人心知肚明，这是直系的离间计。他们于５月１５日发出通电，表明心迹：“北庭乱命，免去张巡阅使本兼各职，并调任德麟等署理督军等语……德麟等对此乱命，拒不承认，合电奉闻。”
其实，张作霖的实力地位，不是北京政府可以轻易动摇的。他们的命令并没有生效，但也产生了一些风波。有一本书《辽海小记》，其中关于北京政府命令颁布后，对吴俊升及其幕僚反应的描写很是生动。听到徐世昌的任命，吴俊升的幕僚兴奋异常。“小河沿之吴公馆中，吴督幕僚，食指频动，人思一脔，几乎弹冠相庆矣”。无形中，奉天小河沿的吴俊升公馆，成了东三省的政治中心，车水马龙，人声鼎沸。吴的幕僚有的忘乎所以，等待着分一杯羹了。
但是，吴俊升并没有被这个喜讯冲昏头脑，他知道进退行止。他马上召来督军署于秘书长，口授一封通电，文曰：“徐大总统均鉴：俊升材具粗劣，一向追随雨帅，黑疆之寄，已感陨越是惧，况其他乎？”明确表示拒绝担任奉天督军一职。
但是，于秘书长感到文电意犹未尽，没有结尾，似乎文气不足，想改一改，又怕吴大舌头怪罪下来，就去找参谋长应善一商量。应善一一看电报，没加思索，就擅自在文电的末尾加上了“惟政府之命是从”这句话。这就完全违背了吴俊升电文的原意。
这个通电最后没有让吴俊升看，就公开在《盛京时报》上全文刊登了。吴看到报纸后，十分愤怒，马上把于秘书长叫来大骂道：“你这个王八羔子，谁叫你添上‘惟政府之命是从’这句话？这样，你不是把我和张大帅的交情给弄糟了吗？”说完，抓住于秘书长的衣领子，连踢带打，当时就把他赶了出去。
这个于秘书长是有些冤枉的。因为当时主张吴俊升接受奉天督军任命的大有人在，其中最积极的就是吴俊升的参谋长应善一。应善一曾当过总统冯国璋的侍卫，与直系有私下勾结。如果吴俊升坐上奉天督军的宝座，水涨船高，他也会成为东三省一人之下万人之上的头面人物。同时，曹锟、吴佩孚等直系把持北京政府，对他也是大有好处的。为此，应善一便暗中与直系通款，希图攫取高位。但是，他的这些秘密活动，早就被张作霖留守在奉天巡阅使署、奉天督军署和奉天省长公署的心腹，一一掌握了。
看到这封电报，他们非常气愤，决定把应善一杀掉。第二天，应善一从吴公馆南面右侧甘露门出来，被人对面打了三枪，当即身死。刺客就是奉天督军署的副官高金山，高金山是张作霖的随身副官，跟随张作霖多年，对张作霖忠心耿耿。
事发后，留守的奉天省长王永江担心事态闹大，不好收场，便故意给吴俊升挂电话问：“应参谋长是谁打死的？《盛京时报》上刊登的电报是怎么回事？我得缉拿凶手。”吴俊升机智地回答：“电报后尾的那一句听说是应善一这个糊涂鬼给加上去的，我已经把秘书长打了一顿，又把他赶走了。至于应善一，真是坏人有恶报，今天上半晌他就叫人打死了，活该！”至于应善一是谁打死的，吴俊升心里明镜一般，但他抱着息事宁人的态度，对王永江轻描淡写地说道：“唔！应善一是个窑皮，他逛窑子得罪了人。我想是地痞流氓把他打死的，千万别管这类鸡毛蒜皮的闲事。”此案便不了了之了。
这是张作霖对觊觎他权位的人的一个警告，杀鸡儆猴。吴俊升粗中有细，深知此事非同小可。吴严令家人，不准外出。闭门谢客，不事张扬。 应善一被打死，奉天的谣言蜂起。吴俊升左思右想，为了让张作霖对他不产生一点误会，便决意只身到山海关亲谒张作霖，以释嫌猜。临行前，他把此行只告诉了王永江，嘱咐他负责奉天省的秩序。他摒去卫队，只带一名副官处长陈振之及两个卫士，以示坦然，挂专车一辆，匆匆西下。
到山海关时，张作霖正在收容部队，整理残军。忽报吴俊升乘专车前来见张，《辽海小记》书中写道：“专车到站时，张恰在旅邸门前散步，见吴到来，即转身回室（向例张见吴，必款接欢迎，足恭有加）。吴趋入谒，张板起面孔说：‘你怎这时才来，我正等你，好办交代。不该玩忽国家命令，赶快回奉就职，以安人心。咱是老朋友，你干不比别人干强吗！我交代完，你叫我住在哪里，我就住在哪里。’吴说：‘唔！大帅，咱不提这个。我在江省，有熟地多少垧，生荒多少方，够我过几辈子了。钱呢，日本正金银行、朝鲜银行、东三省官银号，我还存有多少万款子，我的财产不比你少。再说，他们北京政府尽闹把戏，咱们斗不过。北京对付广东，还不是这一套。今天撤掉陆荣廷，明天撤掉陈炳琨，结果大家谁都干不成。唔！大帅！你的肩膀比我宽，什么都能担当得起。教我在黑龙江剿匪放马，垦荒种地我会。把我搁在奉天，外国交涉，各省代表，文的武的，我一样也应付不来。我一天也干不了。我这时才来，我把家都安置好了。你住大连，我跟你住大连。你到哪里，我到哪里。’张听完，笑了说：‘他们怎不来？’吴说：‘大帅生气，谁敢来！打电报叫他们，他们就来了。大家捧柴火焰高。咱们还是干哪！’”
