唐朝兵制，基本上承袭隋的府兵制。初期，由于战事需要而临时采取一些措施，所以变化形式较多。李渊入关建立唐政权后，为解决统一战争中所需的兵源和粮食问题，积极谋求恢复耕战兼顾的府兵制。
武德元年（618），改隋鹰扬郎将为军头。不久又改军头为骠骑将军，副手为车骑将军。设置军府，以骠骑和车骑两将军府统领。分关中为十二道，均置府。武德二年（一说三年）七月置十二军，分关内诸府隶属，取天星为名：万年道为参旗军，长安道为鼓旗军，富平道为玄戈军，醴泉道为井钺军，同州道为羽林军，华州道为骑官军，宁州道为折威军，岐州道为平道军，豳州道为招摇军，西麟州道为苑游军，泾州道为天纪军，宜州道为天节军。每军置将、副各一人，由威名素重者担任，以督耕战，由车骑将军府统率。武德六年（623），车骑将军府隶骠骑将军府，以天下大定，废十二军。七年，改骠骑将军为统军，车骑将军为别将（一说副统军），骠骑将军府与车骑将军府合为统军府。八年，复置十二军。每军设将军一人，军有坊，坊置主一人，以检察户口，劝课农桑。
唐太宗时，政局已趋稳定。于是，在贞观十年（636）对府兵制进行了重大改革。军府改称折冲府，统军改称折冲都尉，别将改称果毅都尉，从而使府兵制更趋完备、成熟，更有利于巩固李唐统治。