夏朝建九州，今甘肃大部分属雍州，少部分属梁州，这就是甘肃古称“雍梁之地”的原因。
    商周二朝承夏制，全国仍分九州，甘肃也仍属“雍梁之地”。
    春秋战国时期，诸侯割据?熏互相兼并?熏甘肃境内也出现一些诸侯国?熏如密须、义渠、共、秦等。甘肃最早正式的行政区划始于公元２６６年秦昭公灭义渠戎（今陇东一带）之后，将今甘肃中部首次划分为陇西（郡治在今临洮县）、北地（郡治在今宁县西北）二郡。
    秦朝统一全国后，在甘肃境内亦建置陇西、北地郡。
    西汉划全国为１３部、１０２郡（国）、１３１４县。自汉武帝建立河西四郡后，甘肃境内共有十郡，即陇西郡、金城郡、天水郡、武威郡、张掖郡、酒泉郡、敦煌郡、安定郡、北地郡、武都郡，前九郡属凉州刺史部，武都郡属益州刺史部。十郡共辖１２３县。
    东汉仍分全国为１３部，甘肃所辖郡略有变化，具体是：凉州刺史部，改领十郡二属国。十郡中除河西四郡没有变化外，其余六郡均有变动；二属国是张掖属国和居延属国。
    三国时，甘肃属魏地。其建置区划是：凉州八郡即四平郡、西郡、西海郡、金城郡、张掖郡、酒泉郡、敦煌郡、州治武威；秦州六郡，即陇西郡、广魏郡、阴平郡、汉阳郡、武都郡，州治上邦。
    西晋时，分全国为１９州、１７３郡、１１０９县。在甘肃境内有凉州七郡，即金城、西平、武威、张掖、西郡、酒泉、敦煌等七郡，州治武威；秦州六郡，即陇西、南安、阴平、天水、略阳、武都，州治冀（今甘谷县）。
    东晋之后，北中国处于分裂割据局面，即所谓“五胡十六国”时期。其在甘肃境内建国或版图包括甘肃的国家不下十个，如河西五凉（前凉、后凉、南凉、北凉、西凉）、西秦、前秦、后秦、仇池等。
    南北朝时期，甘肃先后为北魏、北周所据。北魏在甘肃境内有原州二郡，泾州六郡，渭州三郡，秦州六郡、南秦州六郡，河州兼置沙洲六郡，凉州十郡及河西的鄯善、张掖、酒泉、敦煌四军旗，北周在甘肃境内有二十二州，４１郡。
    隋朝统一全国后，置州１９７个，县１２５５个。在甘肃境内有２３州，辖７０县。后又改州置县，甘肃置１７郡，即安定、北地、宏化、陇西、金城、天水、武威、张掖、敦煌、武都、汉阳、同昌、河池等，辖县８５个。
    唐朝划全国为十道，以道统州。十道在甘肃境内有关内道，山南西道一部分及陇右道大部分。关内道在甘肃境内有五州，泾州、原州、宁州、庆州、会州；山南西道有三州，即兴州、扶州、文州。陇右道有十六州，即秦州、成州、武州、兰州、河州、洮州、岷州、叠州、宕州、凉州、甘州、肃州、沙州、瓜州、临州、渭州等。
    宋朝初年仍分全国为十道，后又改置十五路，分领府、州、军、监。当时，宋国力不能远服，陇右地区始终与西夏平分，河西全部为西夏占领。南宋时，全国具有北中国，势力西渐，凤翔、庆原、临洮各路、州、府，又多为全国割据。宋代三百年，甘肃实为宋、夏、金三方所割据。
    元朝开始建置省，省下辖路、州、府、县。除中书省（京城周围）外，又将全国划为十一行中书省。其中甘肃行中书省（取甘州、肃州首字得名）包括今甘肃西部及宁夏、青海。行省机构设甘州，统辖七路（甘州路、永昌路、肃州路、额旗纳路、宁夏路、乌拉海路、沙洲路），二直隶州（山丹州、西宁州），五属州（西凉州、灵州、鸣沙州、应理州、瓜州）。可见，元时的甘肃行中书省和今天的甘肃省所辖地是不一样的。今属甘肃东部的四府（巩昌府、平凉府、庆阳府、临洮府），十六州（泾州、宁州、安定州、庄浪州、秦州、镇原州、西和州、环州、金州、静宁州、兰州、会州、徽州、阶州、成州、定西州）归陕西中书省管辖；西南部的河州路、脱思麻路则属吐蕃宣抚使管辖。
   明朝改元制，将行中书省改为布政司?熏划全国为两直隶地?熏十三布政司。甘肃行政隶属与陕西布政司。陕西布政司所辖甘肃境内的有四府（平凉府、庆阳府、临洮府、巩昌府），九州（固原州、泾州、宁州、秦州、静宁州、兰州、河州、徽州、阶州）。除此外，还有两镇（全国共有九边镇），即固原镇和甘肃镇，以及河西七卫。
    清代恢复了行省建置，甘肃是当时１８个行省之一（清末增设了新疆行省）。省下设置?押府、直隶州、厅、县。甘肃设置虽始于元代，但完善的省区建置实在清代。当时属甘肃行省的有八府：兰州府、巩昌府、平凉府、庆阳府、宁夏府、西宁府、凉州府、甘州府等；五直隶州：泾州、秦州、肃州、定西州、阶州等；二厅：迪化厅、镇西厅。从以上可以看出，清代甘肃省的建置，除包括今天的新疆、青海、宁夏一部分外，大致与今天的甘肃省区域一致了。
    中华民国成立后，废除了清代的府、州、厅，改为以省统道，以道统县的三级建置。甘肃省省会设皋兰县，所辖区域包括今甘肃全境、宁夏东南部及青海东北部。
    １９２８年，另置青海、宁夏为省，原属西宁道之７县，宁夏道之８县，划归青海、宁夏管辖。
    此后，中国工农红军到达陕北后，于１９３７年建立陕甘宁边区，辖延安等２０余县，在甘肃境内有庆阳、合水、环县、镇原、宁县、正宁等６县。
    １９２７年，废道改区，不久又改为省、县两级建置。１９３６年后，又实行行政督察专员公署建置，即在省县之间设立专员公署建置。
    １９４１年７月１日，兰州正式设市，遂成为甘肃省省会，皋兰县仍在兰州域内。
    中华人民共和国建国后，甘肃省的行政区划发生了新的变化。１９４９年８月２６日，兰州宣告解放，当日即成立兰州市军事管制委员会，不久即又成立甘肃行政公署。１９５０年１月８日，甘肃省人民政府成立。同年，甘肃设立十个专区（庆阳、天水、平凉、武都、岷县、定西、武威、张掖、酒泉、临夏），一个省辖市（兰州），三个市（天水、平凉、临夏）四个少数民族自治区，共辖县６８个。
    １９５２年，撤消定西专区洮沙县，将酒泉专区额济纳划归宁夏管辖。１９５４年，宁夏省并入甘肃，与此同时，先后设立了甘南、西海固（后改为固原）、蒙古（后改为巴音浩特）、河东（后改为吴忠）四个专区级自治区和张家川、泾原、广通、阿克塞、肃南五个县级自治区，并设立了银川专区和甘南藏族自治区所属的舟曲、玛曲、碌区三个行政委员会。至此，甘肃省共辖九个专区，四个专区级自治区，六个市、８０个县，１个镇，１０个县级自治区，３个行政委员会，８个市辖区。
    １９５５年至１９５６年，将庆阳专区和平凉专区合并为平凉专区，酒泉专区和武威专区并入张掖专区；临夏专区改称临夏回族自治州；甘南藏族自治区改称甘南藏族自治州，并将所属的舟曲、玛曲、碌区３个行政委员会分别改设县；撤消鼎新县，合并于金塔县；增设了玉门市；将巴音浩特蒙古自治州划归内蒙古自治区管辖。至此甘肃省所辖７个市，７个专区，４个自治州，９０个县，２０个旗。
    １９５８年，将原宁夏部分及甘肃固原回族自治州的固原、海原、隆德３县一并划出甘肃省，成立了宁夏回族自治区。同时，撤消了武都专区，裁并了３６市、县，新设了张掖、酒泉、白银、德乌鲁（今合作）４个县级市。
    １９６１年，甘肃省行政区划重新进行调整，恢复了庆阳、武都、武威、酒泉４个专区，设立了临洮专区，撤消了徽成、西礼、洮江等县和张掖市、德乌鲁市、清水回族自治县的建置，恢复了徽县、成县、西和、礼县等３６个县，新设了迭部县。至此，甘肃省辖有６个专区，两个自治州，７个市，６４个县，６个自治县，５个市辖区。
    １９６３年，撤消临洮专区和白银市，将兰州市管辖的永登县划归武威专区。
    １９６４年，撤消酒泉、平凉二市，恢复了酒泉、平凉二县建置。
    １９６９年９月，根据中央《关于变更内蒙古自治区行政区划的规定》，将内蒙古自治区的阿拉善右旗，额济纳旗划归甘肃的武威、酒泉地区（“文革中把专区改称地区”）管辖。
    １９７０年３月，将原定西地区所辖的榆中县、皋兰县和武威地区所辖的永登县划归兰州市管辖。
    １９７１年１１月，增设地级市嘉峪关市。
    １９７３年１２月，撤消临夏市。
    １９７９年９月，敦煌县改置为县级敦煌市。
    １９８０年，将阿拉善右旗，额济纳旗重新划归内蒙古自治区管辖。
    １９８１年，在临夏回族自治州增设积石山保安族东乡撒拉族自治县，设立省辖地级金昌市，将武威地区的永昌县划归金昌市管辖。
    １９８３年，恢复县级平凉市和临夏市建置。
    截止到１９８３年底，甘肃省行政区划为：省辖地级市三个，即兰州市（辖榆中县、皋兰县、永登县）、嘉峪关市、金昌市（辖永昌县）；地区八个，即定西地区、平凉地区、庆阳地区、天水地区、武都地区、武威地区、张掖地区、酒泉地区；自治州两个，即甘南藏族自治州、临夏回族自治州；县级市５个，即天水市、平凉市、玉门市、临夏市、敦煌市；自治县７个，即张家川回族自治县、天祝藏族自治县、肃南裕固族自治县、肃北蒙古族自治县、阿克塞哈萨克族自治县、东乡撒拉族自治县；市辖区（县级）７个即兰州市所辖的城关区、七里河区、西固区、安宁区、红古区、白银区、金昌市金川区；除市辖县、市辖区和自治县之外，全省另辖６２个。
    １９８５年５月，撤销酒泉县，设立县级酒泉市；划出部分庆阳县辖区，设立县级西峰市；设立地级白银市，辖白银区、平川区、景泰县、卷扬机金靖远县、会宁县。
    １９８５年６月，撤消武威县设立县级武威市。１９８５年７月，撤消天水地区，设立地级天水市，以市辖县，原县级天水市改设秦城区，将天水县改置为北道区?熏另辖县５个?押清水县、张家川回族自治县、秦安县、甘谷县、武山县。
    进入二十一世纪后，为了加速城市化进程和经济的发展，甘肃加快了地改市，以市辖县的步伐，行政区域随之发生了重大变化。
    ２００１年，撤消武威地区，设立地级武威市，原武威地区行署所在地县级武威市设立凉州区，为地级武威市人民政府所在地。辖县有天祝藏族自治县、古浪县、民勤县。
    ２００２年６月，撤消张掖地区，设立地级张掖市，原张掖地区行署所在地县级张掖市撤消，设立甘州区，为地级张掖市人民政府所在地。辖县有山丹县、民乐县、肃南裕固族自治县、临泽县、高台县。
    ２００２年８月，撤消酒泉地区，设立地级酒泉市，原酒泉地区行署所在地县级酒泉市撤消，设立肃州区，为地级酒泉市人民政府所在地。原酒泉地区所辖玉门市、敦煌市由省直辖，现暂由地级酒泉市代管。辖县有金塔县、安西县（现改名为瓜州县）、肃北蒙古族自治县、阿克塞哈萨克族自治县。
    ２００２年５月，撤消平凉地区，设立地级平凉市，原平凉地区行署所在地县级平凉市撤消，设立崆峒区，为地级平凉市人民政府所在地。辖县有泾川县、灵台县、崇信县、华亭县、庄浪县、静宁县。
    ２００２年８月，撤消庆阳地区，设立地级庆阳市，原庆阳地区行署所在地县级西峰市撤消，设立西峰区，为地级庆阳市人民政府所在地。辖县有庆城县、镇原县、环县、华池县、合水县、宁县、正宁县。
    ２００３年１０月，甘肃藏族自治州设立合作市（县级），州另辖县有夏河县、卓尼县、临潭县、舟曲县、玛曲县、碌区县、迭部县。
    ２００３年１０月，撤消定西地区，设立地级定西市，原定西地区行署所在地县级定西县撤消，设立安定区，为地级定西市人民政府所在地。辖县有临洮县、渭源县、陇西县、通渭县、漳县、岷县。
    ２００５年１０月，撤消武都地区，设立地级陇南市，原武都地区行署所在地县级武都县撤消，设立武都区，为地级陇南市人民政府所在地。辖县有文县、康县、徽县、成县、西和县、礼县、宕昌县。
    临夏回族自治州，辖县级临夏市、临夏县、和政县、康乐县、广河县、永靖县、东乡族自治县、积石山保安族东乡族撒拉族自治县。
    截止到２００５年１月，甘肃省行政区划为：省辖地级市四个，即兰州市、嘉峪关市、金昌市、白银市；地级市八个，即定西市、平凉市、庆阳市、天水市、陇南市、武威市、张掖市、酒泉市；地级自治州两个，即甘南藏族自治州、临夏回族自治州；省辖县级市２个，玉门市、敦煌市；县级市２个合作市、临夏市；市辖县级区１７个：兰州市所辖的城关区、七里河区、西固区、安宁区、红古区、白银市白银区、金昌市金川区、平川区、安西市安西区、平凉市崆峒区、庆阳市西峰区、天水市秦川区（由秦城区改称）、麦积区（由北道区改称）、陇南市武都区、武威市凉州区、张掖甘州区、酒泉市肃州区；省辖市辖县７个兰州市榆中县、皋兰县、永登县、金昌市永昌县、白银市景泰县、靖远县、会宁县；另外，八地级市和和自治州辖县５８个。综合以上，甘肃全省共计辖地级市１２个，地级州２个，县级市、区、县８６个。