公元前221年，秦始皇统一中国，遂分全国为三十六郡。《汉书·地理志》云：“秦京师为内史，分天下作三十六郡。”此后陆续又有增置，至秦末，已有近四十郡。这些郡约管辖着全国一千多县，每郡管十几或二三十县。

但秦的郡也大小不一。有的数郡相当于今之一省，有的一郡即相当于今之一省。如会稽郡就大体相当于今之浙江省，九江郡大体相当于今之江西省，桂林郡相当于今之广西壮族自治区。

到了汉朝，朝廷把有些郡分封给诸侯王，称为王国。开始一国可领数郡，汉景帝、武帝之后规定一国只领一郡，遂为定制。王国的官吏即相或太傅，都由王朝直接派遣。如贾谊便曾任长沙王太傅，张衡曾出为河间相。故国与郡在行政制度上无甚区别。

只是王国的赋税收入归诸侯王自己享用，而郡的赋税收入归朝廷而已。西汉后期，全国有郡、国103个，领县1500余个。东汉中叶以后，又在边境的少数民族地区设立“属国”，每个属国也辖几个县，相当于郡，这样，全国共有郡、国、属国105个。但东汉的县实际数目较西汉为少，已减至1180多个。

汉代的郡较秦代的郡增加了一倍有余。这一方面是汉郡的划分较秦代为小，另一方面，也与汉武帝的开拓疆域，增加新郡是分不开的。如河西四郡（武威、张掖、酒泉、敦煌）便是武帝开疆的结果。