治安别动队的长官
胡林翼在安顺待了一年多，安顺从大乱恢复了大治，他这个代理知府可以离开了。乔用迁把他当成了一把治安的利剑，要靠他整顿其他治安混乱的地区。
道光二十九年（1849）三月八日，胡林翼交卸安顺知府的官印，返回贵阳。两个月后的一天，乔用迁召见他，说：“胡知府，你是本部院手中的王牌啊，哪里有难，你就去哪里救急。”
胡林翼微微一笑，说：“大人过奖了。如今又是何处有难？”
“东部的镇远府，大盗为害二十多年，无人能治。近年来势不可遏。本部院想让你去当几个月的代理知府，狠抓治安，胡知府可愿前往？”
“大人如此信任，属下岂敢推辞？”
“如此甚好！本部院正在增募士兵，胡知府若有需要，可以随时调用。”
镇远在贵州东部，从贵阳前往，路途太远。胡林翼怕母亲受不了长途跋涉，请她留在贵阳。
镇远府的辖地位于潕阳河南北两侧，居民以苗族和瑶族为主。西部的黄平，南部的台拱和清江，寇盗充斥；黄平以东，从施秉到天柱，治安状况略好。高山、革夷、山丙、沙邦四个苗寨，位于省界边缘，地势险峻，寨民经常出外抢掠，这就是乔用迁的心腹大患。
胡林翼一到镇远，就添设卡哨，购买眼线，信赏必罚。受印半个月，破获了前任廖知府移交的一桩大案。
这是一桩轮奸杀人的重案，罪犯是一个团伙，其中五人是强盗。他们轮奸了杨秀才的妻女，还将杨秀才杀伤。此案发生已有两月之久，廖知府尚未侦破，府城内人心惶惶。
胡林翼一进镇远城，立刻听到了有关此案的反映。他召集衙役和捕快，责令迅速破案。衙役说：“知府大人，我们也想早日破案，可是没有办案经费啊。”
衙役说的是实话，镇远的财政非常困难。
胡林翼脸色一沉，说道：“没有经费就不办案了？你们以本府名义去借，由本府出具借条。”
衙役借来一千两银子，捕快们不敢怠慢，用了不到十五个工作日，就抓到凶手及奸犯十一人，从重惩办，府城民心稍稍安定。
事后，衙役们问胡林翼：“大人为何要借款办案？”
胡林翼回答：“本府矢志为民除害，豁出去了，借钱办案也甘心。”
破了这个大案，还只是走了第一步。镇远地势复杂，盗匪隐匿方便，出没无常，所以势力猖獗。胡林翼知道，必须搞到一手的情报，摸清地势与匪情，才能有的放矢。办完此案以后，他便离开了府衙，四处走访土著居民，了解山径和险僻处所，以及何处居民守法，何处居民行盗。一边走访，一边描画地图，随手记载。一天下来，记载的图文就有了一大册。
走访上百人之后，经过详细考证，胡林翼已经成为本地通。要隘之处，险僻之区，当地土人知之不全的，他都全部掌握了。
一个月后，胡林翼报告乔用迁，请求调派官军和乡勇攻打高山寨。此寨有五十八户人家，只有三户不做强盗，胡林翼决定一锅端掉。乔巡抚没有食言，给他派来一支官军。胡林翼集结一百二十名官兵，加上六千名乡勇，在奇险万状的山路上行军，包围了高山寨，随即展开攻势，很快就结束了战斗，抓获匪徒多名，兵勇未伤一人。
剩下的问题寨子还有三座。革夷是一座大寨，分为上、中、下三寨，共有七百户人家，并非都是盗匪，也有良民。胡林翼派人分别登记户口。其余各寨良民很多，为盗的只有十分之二三。
经过此仗以后，胡林翼提议暂停攻击。攻打深山中的苗寨难度极大，高山寨就很典型。它的地理位置格外孤峭，仰攻很难，若非道路熟悉，靠突袭得手，否则很难成功。山里人身手灵活，翻山越涧，矫捷如飞，或分或合，忽聚忽止，而且林密箐深，易于隐身。若无得力的部队，肯定要吃败仗。
胡林翼是一名文官，接触军事不久，就已发现，官军绿营已经蜕化变质，官兵斗志不强，贪生怕死。一人受挫，万队先奔。靠这样的军队作战，一无地利，二失人和，贸然攻击，毫无把握。
与此相反，盗匪的消息非常灵通。官军刚刚出发，盗匪已先逃遁，官军刚刚返回，盗匪便重新集结。官军频繁出动，无功而返，既有损军威，又无伤于盗匪。即使侥幸碰上盗匪，贸然攻击，又恐怕误伤了良民，放跑了奸恶，有伤于仁义。
胡林翼经过一番思考，认为上策是发动良民团练自卫，使盗匪没有空子可钻；中策则是收买盗匪来捕盗，以毒攻毒，使盗匪互相猜疑。乔用迁赞同他的看法。正好知府朱逢辛请求返回本任，胡林翼便于八月二十五日交卸官印，返回贵阳。
胡林翼消停了一个月，于十月份奉命出任武举人乡试的监考官。可是道光末年已没有太平的日子。黄平县的巨盗抱禾等人，聚集部众，抢劫云南和贵州进京赶考的学子，事情传到了北京。道光爷极不愿意听到出乱子的消息，无奈事情已经传开，他只得下诏诘责贵州巡抚，命他赶紧摆平此事。
乔用迁本想把案子压着不报，却不料皇帝已经知晓，他不得不打起精神，再次对镇远的盗匪用兵。派谁去呢？想来想去，还是胡林翼去最令他放心。
