经过隋末唐初十多年的战乱，唐王朝人口急剧减少，相当长的阶段内只有隋炀帝时期的三分之一。为了动员所有的力量恢复和发展社会经济，唐王朝不可能保留一支庞大的职业军队，于是拾起隋代已经疲软的府兵制，重新注入空气，而把职业兵骁果制陈列在古玩店中，供好事者凭吊、鉴赏。
府兵制在唐代实行了一个世纪，便销声匿迹了，但后来的唐人对府兵制一直津津乐道。白居易《策林四十五·复府兵、置屯田》说："昔高祖始受隋禅，太宗既定天下，以为兵不可去，农不可废，于是当要冲以开府，因隙地以营田。府有常官，田有常业，俾（bǐ，使得）乎时而讲武，岁以劝农。……故有虞（有料想不到的情况出现）则起为战卒，无事则散为农夫。"（《白居易集》卷47）刘蕡（fén）策试答卷说：府兵"居闲岁则櫜（gāo，盛放弓箭的器物）弓力穑（无事则把兵器收拾起来，致力于农业生产），将有事则释耒荷戈（有事则丢下农具，拿起武器）"。（《旧唐书》卷190下《刘蕡传》）李泌、杜牧等人，都有类似说法。实际上，唐朝的府兵制分作两种情况：一种因袭隋代兵农相兼性质，府兵、农民，一身而二任焉；另一种具有优待照顾高级官僚、贵族的性质，由他们的子孙组成特殊部队。由于前一种情况在府兵制中占主导地位，以至于人们一提起府兵制，往往以为仅仅是亦兵亦农的性质。以上唐人说法就是这种情况。他们对府兵制加以理想化的猜测和虚构，认为尽善尽美，便错误地估计了府兵制对农业生产的作用；但他们指出兵农合一、寓兵于农，则反映了占主导地位府兵成分的真相。
让我们先来看府兵制中占主导地位的情况。这种情况的军府叫做折冲府。武德元年（618），唐高祖建立唐朝，着手设置军府，把隋的鹰扬郎将先后改称为军头、骠骑将军，副手为车骑将军；武德七年（624）又改称骠骑将军为统军，车骑将军为副统军。贞观十年（636），唐太宗又改称统军为折冲都尉，副统军为果毅都尉，军府正式定名为折冲府，这便把隋代募兵制骁果系统的名称借来用作府兵制长官和军府的称谓。武则天垂拱年间（685－688），折冲府分为三等：兵士一千二百名为上府，一千名为中府，八百名为下府。在唐代，县政府治所设在上都长安、东都洛阳及北都太原的县叫作赤县或京县，长安有长安、万年二县，洛阳有河南、洛阳二县，太原有太原、晋阳二县；三都周围由京兆府、河南府、太原府管辖的一些县叫作畿县，分别如咸阳、偃师、文水县。这样，在赤县和畿县的折冲府又分别叫作赤府、畿府。折冲府设正长官折冲都尉一人，副长官左右果毅都尉各一人，还设长史、兵曹、别将各一人，校尉六人。校尉统领的单位称作团。其下为旅，长官是旅帅。其下为队，长官是队正、副队正。其下为火，长官是火长。《新唐书》卷50《兵志》、《唐会要》卷72《府兵》等史籍，都说士兵三百人为一团，五十人为一队，十人为一火；旅的人数失载。那么，一个折冲府设六个校尉，各统领一个三百人的团，兵士总数应为一千八百人，多出上府人数三分之一，显然有误。《唐律疏议》卷16说："每一旅帅管二队正，每一校尉管二旅帅。"又说每府有五校尉、四校尉、三校尉者。那么，可以推知正确的数字是一团二百人，一旅一百人。全国共有府兵"约六十八万"。（王应麟《玉海》卷138《兵制》引李繁《邺侯家传》）至于全国折冲府的总数，多种典籍说法不同，有574、593、594、630、633、634乃至于八百多等等说法。近人谷霁光先生加以研究，认为关内道288个，河东道163个，河南道74个，河北道46个，陇右道37个，山南道14个，剑南道13个，淮南道十个，岭南道六个，江南道五个，总计656个。（岑仲勉《隋唐史》上册第213-214页引谷霁光说，北京：中华书局，1882）从全国十道折冲府的分布来看，京师长安所在地关内道折冲府最多，超过全国总数的五分之二，这种格局目的在于强干弱枝、居重驭轻，即加强政治中心的防卫和控制力量，以巩固唐王朝的统治。
府兵制是建立在均田制上的义务兵制，府兵由农民充当，国家不但不给他们发放军饷、津贴，还责成他们自备兵器和粮饷。府兵个人要自备弓一张，箭三十支，胡禄（箭袋）、横刀、磨刀石、角锥（解绳结的工具）、毡帽、毡装、裹腿布帛各一份，麦饭九斗，米二斗；每火备六匹驮马，乌布幕、铁马盂、布槽、锸、大锄、凿、碓、筐、斧、钳、锯各一份，甲床两张，镰刀两把；每队备火钻一个，胸马绳一根，首羁（马络头）、足绊各三份。仅就个人自备部分而言，负担已经够重了。火、队所备东西，府兵个人要承担多少，可以作点推测。《新唐书》卷50《兵制》说："当给马者，官予其直（值）市之，每匹予钱二万五千。刺史、折冲、果毅岁阅不任战事者鬻之，以其钱更市，不足则一府共足之。"州刺史是地方长官，怎么也参与检查马匹的健壮程度，看样子更新马匹的经费是由折冲府所在地的州支付的，不足部分由本折冲府自行解决。折冲府又不兼营商业、高利贷，钱从哪里来，只能由府兵分摊。那么，火、队所备马匹以外的东西，也只能由府兵分摊。政府规定府兵"皆取六品以下子孙及白丁无职役者充"（《旧唐书》卷43《职官志二》），即农村户口中凡享受均田的20至60岁的普通健康丁男，都有承担兵役。鉴于府兵既要执行军事任务，又要从事农业生产，还要自备兵器和粮饷，国家在征点士兵时不得不在家庭财产、个人健康和丁男多寡几方面做出统筹考虑，规定出折衷的标准："财均者取强，力均者取富，财力又均，先取多丁。"（《唐律疏议》卷16《擅兴》）即：家庭财产相当，取身强力壮者；健康状况相当，取家境富裕者；财产、体格均相当，取家中丁男多者。
府兵平时可从事自己家庭的农业生产，农闲时节组织在当地的折冲府内进行军事训练。府兵能够骑马射箭者编为越骑，否则编为步兵、武骑、排矛赞（zuǎn，小矛）手、步射。府兵的军事任务有两项。其一是"番上"，即轮班到京师执行宿卫任务。关中府兵要执行番上任务，外地府兵也要番上。值班府兵在京师宿卫一个月，路途往返时间不计在内。为了负担均衡，府兵番上的周期依据折冲府距离京师的远近而确定。一般地说，五百里内为五番，五百至一千里为七番，一千至一千五百里为八番，一千五百至二千里为十番，二千里以外为十二番。所谓五百里内五番，就是折冲府内一千名左右的兵士分为五班，轮流派遣。这样，每人每年轮上两次，加上路途往返，大约须用去三个月时光。那么，路途遥远者分成七至十二班轮换，大致劳逸均衡。军事任务之二是征戍，即由折冲府调出去从事战斗或镇守，这有时是针对边地民族和外国的，有时为着平定内地的起义或叛乱。府兵的最高机构是十二卫，每卫设大将军，直接听命于皇帝。大将和府兵分离，调兵权由尚书省的兵部掌握。若四方有事，兵部调动府兵，归大将指挥作战，战事结束则将归于朝，兵散于府。府兵在执行军事任务期间，本人免除租调，但他的家属并不免除徭役。
府兵制的另一种情况所占比重很小，这类军府不叫折冲府，叫做亲勋翊五中郎将府，简称五府，指在京师的一个亲卫府，即亲府，两个勋卫府，即勋一府、勋二府，以及两个翊卫府，即翊一府、翊二府。五府设正长官中郎将一人，副长官左右郎将各一人，还有校尉、旅帅、队正、副队正等。中郎将负责统领本府士兵宿卫宫殿、城门，在大朝会、巡幸等等皇帝亲自出场的时候，参与礼仪和保卫活动。这些任务既荣耀又重要，因而五府士兵的入选很重视资荫。唐初规定：二品、三品官员的儿子补亲卫府；二品官的曾孙、三品官的孙子、四品官的儿子、五品职事官的子孙、封为国公的三品以上勋官的儿子，补勋卫府；五品官的和上柱国的儿子，补翊卫府。可见国家设置五府，目的在于优宠高级官僚和贵族，由他们的子弟组成皇家仪仗队，州县普通民众不能染指其间，因而中看不中用，不参与战争。
初唐时期，为了巩固新生政权，进行了平定国内群雄的大范围战争，为了解除外患、保证丝绸之路畅通和收复中国故土，进行了同周边民族政权的战争，战绩辉煌，武功显赫，府兵制在其中发挥出巨大的积极作用。但由于农民当府兵，负担太重，无暇顾及家庭农业生产，于是纷纷逃亡或自残肢体以逃避兵役，府兵制因而遇到危机，终于在一片哀歌声中于唐中叶寿终正寝，由募兵制代替自己行使职责。
