黄河中游是中华民族的发祥地。绥德县地处黄河中游的陕北中部，有着悠久的历史和灿烂的文化。根据境内出土文物的推断，在旧石器晚期就有人类定居，到四、五千年前的新石器时期，大量的人类在这里生息，遍布于境内的龙山文化遗址（土语米面场）充分说明这一点。
   上古为五龙氏地（人皇之后，皇伯、皇仲、皇叔、皇季、皇少，兄弟五人乘龙上下曰五龙氏。）
   夏、商为雍州之地（禹分天下为九州，雍为其一。）
   周为荒服之地（周天子划侯国为甸、候、宾、要、荒五服戎狄为荒服，见《史记·匈奴传》）。
   春秋先为赤翟（狄）、白翟共居之地，后只居白翟（见《史记·匈奴传》、《春秋》、《史记·晋世冢》）。
   战国属魏上郡。（见《史记·匈奴传》）。后上郡归秦（见《史记·秦本记》）。后属赵为肤施（见《史记·赵世冢》·《史记正义》）再后又属秦仍为上郡（见《史记·秦本记》、《史记·赵世冢》）。
   秦统一全国后，实行郡县制。始皇帝初分全国为三十六郡，上郡为其中之一。今绥德为上郡（见《括地志》、《元和志》、《寰宇记》、《广韵》、《通鉴辑览》等）。上郡辖肤施、高奴、雕阴、阳周等县（肤施城在今县城，一说城东之义合，另一说城东南之铁骑坪）,值得一提的是，此处为秦公子扶苏自尽和埋葬之地。
   汉高祖元年（前206年），项羽改上郡为翟国，由其所分之翟王董翳管领，翟国都于高奴。
   汉统一全国后，沿袭秦制。汉高祖二年（前205年），翟国地归汉，汉仍置上郡、肤施县。上郡治肤施统领肤施、独乐、阳周、白土、奢延、高奴等二十三县（见《汉书·地理志》）。
   新莽时，改上郡为增山，增山领上陵广信、积粟、卑顺等十四城。
   东汉实行州、郡、县制。增山复为上郡，隶并州。治肤施。上郡领肤施、白土、奢延、雕阴、定阳、高奴等十城（见《后汉书·郡国五》）。
   汉永初五年（111年）零羌占上郡地，上郡治所遂徒于衙（今白水），永建四年（129年）上郡归旧土。永和五年（140年）冻羌侵上郡地，上锦治所徙居夏阳（今韩城）。中平元年（184年）前后，羌胡大掠上郡，上郡郡治又徒迁（见《后汉书·顺帝记》）、《晋书·地理志》。
   建安十八年（213年）上郡改入冀州管（见《晋书·地理志》）。
   晋初隶并州，无建置，有时仍曰上郡。永安年（304年）后，匈奴、羌氏不断占领，故较荒乱。
   东晋安帝义熙三年（407年）后，入大夏赫连勃勃之吴儿城。（见《元和志》。吴儿城在今四十铺附近，一说在城西二十五里吴儿砭一带）。
   北魏（386--534），拓拨氏建魏，实行州、郡、县制。在今县东界设政和县，县东部属之。今县西则属魏平县（治所在今子洲县老君殿一带）。政和县与魏平县均属东夏州之朔方郡。（见《魏书·地形志》、《陕西地理沿革》）。
   西魏（535--556）的行政建制因循北魏。因局面混乱，废设无常。废帝元年（552年）在今县城设绥州。安宁郡和上县，在今县东（义合一带），设安宁县，县东南（崔家湾或河底）设安人县。绥州辖三郡：安宁郡、安政郡和抚宁郡。安宁郡辖六县：上县、安宁县、安人县、绥德县、延陵县、城中县。此期三级并置，上县既是州治又为郡治。（见《隋书·地理志》《元和志》、《陕西地理沿革》。）《隋书·地理志》《元和志》、《陕西地理沿革》。）
   北周（557--581），仍设绥州、安宁郡和上县。另在县东部置义良县。绥州领四郡：安宁郡、安政郡、绥德郡、抚宁郡。安宁郡领七县：上县、安宁县、良乡县、安人县、绥德县、延陵县、城中县。（见《隋书·地理志》《元和志》、《陕西地理沿革》。）
   隋（581--618）初实行州、县两级地方行政制度，不久改绥州为上州，三年（607）撤消上州设立雕阴郡。开皇三年改安人县为吉万县。大业元年撤安宁县、吉万县、义良县，并入上县。雕阴郡领十一县：上县、绥德县、延福县、大斌县、儒林县、开疆县、抚宁县、真乡县、开光县、银城县、城平县。大业十三年（617）梁师都称帝，今县城属梁国。（《隋书·地理志》）