在实行府兵制的时期，武则天即在地方上设置团结兵。团结兵又叫团练兵、团兵，由家境殷实、身体健壮的丁男充当，其身份比府兵灵活，定期集合训练，免除差役，在当地执行军事任务。还有一种人类似民兵，"凡州县城门及仓库门须守当者，取中男及残疾人，均为番第以充，而免其徭赋焉。若修理廨（xiè，衙门）宇及园厨，亦听量使"。（《大唐六典》卷5《兵部》）在实行募兵制时期，团结兵继续保留，身份比健儿灵活，经济待遇不像健儿那样全家由官府包下来。大历十二年（777），中书门下的奏状提到二者的差别："兵士量险隘召募，谓之健儿，给春冬衣，并家口粮。当上百姓，名曰团练，春秋归，冬夏追集，日给一身粮及酱菜。"（《唐会要》卷78《诸使杂录上》）在国内遍设藩镇的情况下，藩镇辖区的州县依然有自己的地方部队。幽州藩镇下属的瀛州（治今河北省河间县）刺史刘澭（yōng），同任节度使的异母兄刘济有矛盾，"遂请以所部西捍陇塞，拔其所部兵一千五百人、男女万馀口直趋京师"。（《旧唐书》卷143《刘怦传附刘澭传》）本文所讨论的唐代地方军队，除了这些成份，还包括中央能够支配的藩镇军队。
唐代的地方军队，要负责把守关津，值勤烽堠。关以潼关为例，镇国军副使李元谅，"尝在潼关领军，积十数年，军士皆畏服"。唐德宗建中四年（783），朱泚叛军攻占镇国军驻地华州（今陕西省华州市）。李元谅"自潼关将所部"，收复华州，抵御叛军，被朝廷任命为"华州刺史、兼御史大夫、潼关防御、镇国军节度使"。（《旧唐书》卷144《李元谅传》）至于烽堠，由军士充当烽帅、烽子，轮班执行任务。
唐代没有警察，因而由军队执行警察职能。在通常情况下，地方社会秩序由游徼（jiào，巡察）卒巡视维护。游徼卒的情况，可从周朴的事迹窥其大概。周朴是晚唐闽中（今福建）人士，穷愁潦倒，性格怪诞。一次在野外，一位陌生的樵夫负薪而过，他突然抓住樵夫的胳臂，厉声吆喝道："我得之矣！我得之矣！"樵夫猛吃一惊，连忙扔下柴禾（薪），挣脱而逃。"遇游徼卒，疑樵者为偷儿，执而讯之。"周朴缓步前往，向游徼卒说明自己所谓"得之"，并非指抓住人了，而是"适见负薪，因得句耳"，想出了"子孙何处闲为客，松柏被人伐作薪"的诗句。这样，游徼卒才放走樵夫。（计有功《唐诗纪事》卷71《周朴》）
但在出现警急情况时，地方军队便被政府用来从事战斗。初唐时期，张万福从军辽东有功，多次在今安徽省境内担任摄舒、庐、寿三州刺史、三州都团练使职务。当地租赋上缴长安，运到颍州（治今安徽省阜阳市）地界，被盗贼抢劫。张万福"领轻兵驰入颍州界讨之"，"悉聚而诛之，尽得其所亡物，并得前后所掠人妻子、财物、牛马等万计，悉还其家"。（《旧唐书》卷152《张万福传》）安史乱后，社会秩序更加败坏，特别是在漕运线上，盗贼经常出没，抢劫财物。唐代宗下《缘汴河置防援诏》做出部署。诏文说："如闻东都至淮泗，缘汴河州县，自经寇难，百姓凋残，地阔人稀，多有盗贼，漕运商旅，不免艰虞。宜委王缙各与本道节度计会商量，夹河两岸每两驿置防援三百人，给侧近良沃田，令其营种，分界捉搦。"（《全唐文》卷46）为捉拿盗贼而在驿站添置人员，应是地方部队。
唐武宗会昌年间（841-846），江淮地区治安严重败坏，这里是国家赋税重心所在地，引起当地官吏和朝中重臣的高度关注。地方官杜牧上书给宰相李德裕，描述了事态的严重程度，提出了相应的对策。这份《上李太尉论江贼书》指出："今长江连海，群盗如麻"，"日杀不辜，水满冤骨"。这些盗贼或系流窜作案，或系就地配合。其具体分布情况是："濠、亳、徐、泗、汴、宋州贼，多劫江西、淮南、宣、润等道；许、蔡、申、光州贼，多劫荆襄、鄂岳等道"；"更有江南土人，相为表里，校其多少，十居其半"。盗贼的劫杀有两种情况。一是"水劫"。大股盗贼"至三船两船百人五十人"，小股盗贼"不减三二十人"。他们在江河上"劫杀商旅，婴孩不留"，"沉舟灭迹者，即莫知其数"。盗贼将抢劫到的财物，用于从事茶叶走私活动。他们把财物带往南方山中换取茶叶，然后"出为平人，三二十人，挟持兵仗"，"凡千万辈"。有的"北归本州货卖，循环往来，终而复始"。二是"陆劫"。"亦有已聚徒党，水劫不便，逢遇草市，泊舟津口，便行陆劫。白昼入市，杀人取财，亦多纵火，唱棹徐去。"一次，"劫池州青阳县市，凡杀六人，内取一人屠刳心腹，仰天祭拜"。"江南江北，凡名草市，劫杀皆遍，只有三年再劫者，无有五年获安者。"杜牧自称"详观格律敕条百二十卷，其间制置无不该备，至于微细，亦或再三，唯有江寇，未尝言及"。因此，他提出"自出五道兵士，不要朝廷添兵"的方案，以达到"活江湖赋税之乡，绝寇盗劫杀之本"的目的。具体地说，这便是"宣、润、洪、鄂各一百人（按：上海古籍出版社1984年版《樊川文集》校点者陈允吉校勘记说：'按上下文意似当作二百人'），淮南四百人，每船以三十人为率，一千二百人分为四十船，择少健者为之主将。仍令本界江岸创立营壁，置本判官专判其事，拣择精锐，牢为舟棹，昼夜上下，分番巡检。……江南北岸添置官渡，百里率一，尽绝私载，每一宗船上下交送"。这样的话，"桴（fú，鼓槌）鼓之声，千里相接，私渡尽绝，江中有兵，安有乌合蚁聚之辈敢议攻劫！"（《樊川文集》卷11）
同时，由于会昌毁佛，还俗僧没有生活出路，又在江淮地区杀人劫货。李德裕向唐武宗奏上《请淮南等五道置游奕船状》，指出："自有还僧以来，江西劫杀，比常年尤甚。自上元至宣、池地界，商旅绝行。"他建议淮南道地盘广大，可出三百人，浙西、宣歙、江西、鄂岳四道，各出一百人，由熟悉江路和善长弓弩的人充当，组成游奕（巡逻）部队。每一百人设置一位游奕将，由"清白强干稍有见会者充"。再制造游奕船五十只，将一百名士卒分为两番，轮流乘船，巡察江路，缉捕盗贼。各道的分工是："淮南游奕至池州界首，浙西游奕至宣州界首，江西游奕至鄂州界首。"各自的责任是："常须每月一度至界首交牌，各知界内平安，申报本使。其下番人便于沿江要害处置营，不得抽归使下。"关于对游奕将士的考核奖惩，奏状建议："如三度以下擒捉得贼，委使司超与职名，其官健以下，便以贼赃物赏给，务令优厚。如两度有贼不觉察，游奕将科责差替。如容纵贼盗，不问有赃无赃，并委本道差人所在集众决杀。"奏状还建议各道配合行动："如贼大段巢穴去处，仰数道计会，一时掩捉，倘去根本，军将授官酬赏。所贵邻接之地，同心叶（协）力，江路盗贼，因此断绝。"（《全唐文》卷704）
为了对付叛乱和农民起义，政府还设置了防御团练使、招讨使和都统，率领军队进行防御和讨伐。天宝十四载（755），安禄山叛乱爆发，为了抵御叛军，经唐玄宗部署，"诸州当贼冲者，始置防御使"。（《唐会要》卷78《诸使杂录上》）嗣后，很多地方都设置了防御使。这些防御使都设于大州要害之地，主管军事，由刺史兼任，不赐旌节。唐代宗宝应元年（762）以来，停设诸州防御使，改为团练守捉使。唐代宗大历十二年（777），除都团练使外，诸州团练守捉使全部取消。唐德宗建中二年（781），又恢复了防御使的建置。
招讨使的称谓，在唐德宗贞元十六年（800）十二月的敕文中已经出现。（《唐会要》卷78《诸使杂录上》）此后，根据用兵情况临时设置，完成任务即行撤销。都统是唐肃宗乾元元年（758）十二月开始设置的，当时任命户部尚书李峘（huán）为都统淮南、江东、江西节度宣慰观察处置等使。起初，或总三道，或总五道，但并非专管军事，而是包括宣慰、观察等多方面事务的。后来，都统逐渐定名为"兵马都统"或"行营兵马都统"，则成了招讨、平叛的高级军事长官。大中五年（851），唐宣宗任命宰相白敏中为邠（bīn）宁节度使、招讨南山平夏党项兵马都统处置等使，这是用于对付西北地区党项族的侵扰的。乾符五年（878），黄巢起义军在江淮地区活动，宰相王铎上奏唐僖宗，说："臣忝宰执之长，在朝不足分陛下之忧，愿自帅诸军，荡涤群寇。"（《唐会要》卷78《都统》）于是，唐僖宗拜他为守司空、平章事、荆南节度使、诸道行营兵马都统，又以镇海军节度使高骈为诸道行营兵马都统，共同镇压黄巢起义。这是用于对付内地反政府武装斗争的。
