五原這個古地名源于夏朝。相傳四千多年前天下洪水泛濫，大禹采取疏導之法，根治洪水，待水勢減退后，在高埠處首先出現了若干個丘狀原所，其中有五個較大的原所，人們在原所之上辟田、造屋、繁衍、生息、耕作。五原稱謂始而至此。

戰國以前，相傳唐虞、三代時期，五原地區是北方少數民族繁衍生息的場所之一。商朝時期河套地區為鬼方轄域。西周屬昆夷、熏粥、獫狁諸民族牧區。周赧王16年（前301年）趙武靈王置云中郡。九原是云中郡的一個屬縣，五原為九原的西部地區，自此，五原地域始有隸屬。為了鞏固新開拓的疆宇，公元前298年“趙武靈王命吏大夫奴遷于九原”并實行移民屯墾。

戰國末年，當中原諸侯國互爭雄長，激烈交戰，無暇顧及北方地區之際，占據陰山南北一帶的匈奴族乘機南下，占領了河南地（“河”指黃河，當時在陰山下，現在河套平原的北端。之后才逐漸移至現在位置）。

秦統一六國后，為了解除匈奴對秦王朝的威脅，始皇33年（前214年）派蒙恬將兵三十萬北擊匈奴，經過兩年的爭戰，收復了“河南地”，迫使匈奴向北退卻七百余里。從此“胡人不敢南下牧馬，士人不敢彎弓而報怨”。為了加強邊境防御，秦“因河為塞，筑三十四縣城。”（又一說為四十四座縣城）。分天下為三十六郡，將九原升為九原郡，郡址設在五原。五原為九原郡之西部地。秦王朝還采取了修直道、筑長城、墾北假等相應措施來鞏固北疆。公元前210年，始皇駕崩，趙高殺蒙恬，楚漢相爭，中原大亂，匈奴乘機復越長城，渡河南下，占據河套地區和陰山一帶，在冒頓單于的統馭下，匈奴的部落聯盟更加強大，它東滅東胡，南并樓煩、白羊、燕代，北并丁零、堅昆，往西擊走月氏，征服塔里木盆地西域諸國，雄居在兩漢王朝的北方，控制了整個蒙古草原。此時，河套是匈奴的主要活動地區。

西漢初期，經過數十年的休養生息，到漢武帝時，為了徹底解除匈奴的威脅，派衛青反擊匈奴，元朔二年（前127）收復了河南地。由于九原郡是匈奴南下的要沖，為了加強防御，將九原郡一分為二，東部地區改名五原郡，西部地區改稱朔方郡。五原郡治九原縣，領縣十六，即：九原、固陵、五原（此五原并非今五原，當在包頭孟家梁故城西，《水經注》載“九原縣西北接對一城，蓋五原縣之故城也”即今包頭孟家梁故城西郊哈德門故城）臨沃、文國、河陰、浦澤、南興、武都、宜梁、曼 柏、成 宜、禾固陽、莫黑旦、西安陽、河目。這些縣大部分設置在黃河河套東部兩岸的臺地上。朔方郡治朔方縣（在今西山咀黃河南岸伊盟杭錦旗北獨貴烏拉鄉境）領縣十，即朔方、修都、臨河、呼遒、渠搜、沃野、廣牧、臨戎、三封、窳渾。這些縣除三封、臨戎、窳渾在西套外，大都設置在鄂爾多斯北境的黃河兩岸，五原隸屬朔方郡臨河縣之東部地。漢宣帝后（前58年）匈奴內部五單于爭立，并繼續南侵，襲擾陰山南北地區，呼韓邪單于戰敗后降漢，留居光祿塞下（今昆都侖后口子小召門梁故城），曾三次到長安朝見天子求婚，漢王室為保持邊塞久安，采取了和親政策，于元帝競寧元年（前33年）以宮女王嬙嫁單于，即歷史上名傳的昭君出塞。此后數十年間，使沿邊諸郡出現了偏安局面。西漢末年，王莽覆滅后，匈奴支持盧芳稱帝，占據了五原、朔方、云中、定襄、雁門五郡，建都于九原。由于長期爭戰，使北方“邊陲蕭條，靡有孑遺，障塞破壞，亭墜絕滅。”

東漢光武帝建武十六年（公元41）收復五原、朔方諸郡復置郡州。建武二十五年（公元49）匈奴內爭，分為南北兩部，南單于附漢仍入居塞內，活動于陰山南麓河套一帶，并于鄂爾多斯之美稷建南單于庭，命左賢王屯朔方。東漢末年，三國鼎立，隨著匈奴、鮮卑等的不斷南進，漢王朝無力顧及邊遠地區，于獻帝建安二十年（215）放棄了五原、朔方等沿邊諸郡，將百姓遷到山西，置新興郡以統轄之。從此，河套一帶為匈奴族牧地。

魏、晉、南北朝時期，活動在蒙古大草原整個北方民族，有匈奴、鮮卑、羯、氐、羌，名稱五胡，大多進入長城，移居黃河流域，他們彼此互相爭伐，河套地區先為前趙匈奴遺族劉虎、劉衛辰所據。繼而由鮮卑族拓跋氏所占領，后趙又為羯族石虎所攻占，前秦氐族符堅得其地，后秦為羌族姚興部所轄領。東晉安帝義熙二年（407）匈奴族鐵弗劉武復進入河套、陜西一帶，建立夏國，后由赫連勃勃統領，建都統萬城（今伊克昭盟烏審旗南）。此后，鮮卑族拓跋部勢力日漸強大，從東北大興安嶺南遷大澤，向西進入河套地區，最后統一了北方各部落。天興元年（398）建立北魏王朝，北魏為了防御柔然民族的侵襲在塞北一帶建立七個軍事重鎮。河套地區為沃野鎮之轄境。北魏時，黃河南遷，故道改稱烏加河，至此，始有黃河后套之說。孝武帝永熙三年（534），北魏王朝復分為東魏、西魏，五原屬西魏轄境。他們統治的時間很短，很快就被北齊、北周所取代。北周宇文氏置銀、夏兩州，分領今河套鄂爾多斯全境，并于今巴彥淖爾市河套地區置永豐鎮（今臨河區境內）。

公元581年，隋文帝纂周滅陳，統一宇內，建立隋王朝，開皇三年，廢郡置州，五原屬豐州。州初不領縣，仍稱永豐鎮，至五年始廢鎮置永豐縣。六年又于州東南四十里置豐安鎮，五原隸屬之。隋煬帝大業三年（607）又改州為郡，五原屬五原郡（郡址在城南西土城故城），后因戰亂，近邊難守，未久即廢。

唐朝初年，突厥又復強盛，“控弦百萬”，五原為突厥所踞。唐貞觀四年（630）命將李靖、徐　　 分道北伐，逐突厥于潮海之北，唐王朝將全國分為十道，二百九十三府州，五原屬關內道豐州所轄。唐中葉沿邊增設六都護府以治理邊疆各少數民族。貞觀二十一年（647），在今內蒙古西部一帶改設燕然都護府，轄狼山羈糜府州二十七處，河套地區屬豐州都督府。高宗永徽年間（650），在河套地區置永豐、九原兩縣，后又增置豐安縣。武則天時期，突厥默啜可汗連年犯邊，景龍二年（708），張仁愿任朔方大總管，當默啜可汗出兵新疆之機，乘虛奪取河南地，在黃河北岸修筑屯兵城堡，即東、中、西三受降城，以絕突厥南進之路。迨至唐中葉以后，五原為西受降城（今烏拉特中旗烏加河鎮北圐圙補隆古城）轄境。后改為定軍制，府州悉由節度兼領，五原隸屬于天德軍使節度兼安北都護府統領。唐末，黨項族拓跋部（羌族的一支），趁宋遼連年交戰之機，不斷擴張勢力，據有銀、夏、綏、宥、靜五州之地（今陜西西北部、寧夏東部及內蒙古河套、伊克昭盟、阿拉善盟境域），成為五代時期西北一大強國。公元1038年，元昊稱帝，建立大夏（又稱西夏），定都興慶府（今寧夏銀川市）共傳十世，歷時194年。五代及宋、遼、金、夏時期，五原皆為西夏屬地。

自12世紀始，游牧在北方草原的蒙古族部落日趨強盛，鐵木真（成吉思汗）經過十年征戰，于公元1227年滅夏，1260年成吉思汗的孫子忽必烈繼汗位，公元1271年正式定國號為元，定都燕京（今北京）。元代施行行省制，省下設路，路下設州，五原屬中書省大同路云內州西部地。

明代270多年間，北方蒙古草原，兵連禍結，蒙古各封建領主之間，互爭雄長。明初，套內則為元將擴廓鐵木兒（小字王保保）占領。洪武中期，王保保被逐，收其地。洪武末，置衛所，巴彥淖爾市西部河套屬寧夏轄境隸陜西統領。明中葉以后，河套全境為元裔達延汗之子孫轄領。天順、弘治時為蒙古族阿羅出、毛里孩、滿都護等相互攻占之地。成化四年（1468），阿羅出為其黨　加思蘭所殺，并其眾屬，與滿都護結合居套內。未幾，火篩部復入套地，號稱鄂爾多斯，服屬于察哈爾部，有子九人，分牧而居。河套東部則為俺答（阿拉坦汗）之部，名叫土默特。隆慶五年（1571），俺答議和，明朝封為順義王，萬歷中始改其所居庫庫忽洞為歸化城（即呼和浩特市舊城）。明末河套內外悉為蒙古之游牧駐地。

公元1644年，滿族入關，推翻明朝統治，建立清王朝。太宗于天聰六年（1632）征服土默特部，歷崇德、順治至康熙三年（1664），清政府以戈壁為界，將塞北蒙疆先后劃定內外蒙古牧地，內蒙古設置二十五個部、六個盟、五十個旗，五原屬鄂爾多斯部伊克昭盟左翼后旗（亦稱達拉旗）、右翼后旗（亦稱杭錦旗）地各一部。雍正、乾隆間，置道設廳。雍正六年（1728）設歸綏道。乾隆六年（1714）設薩拉齊協理通判。乾隆二十五年（1760），因塞外人口增多，墾荒日繁，隨于口外設七廳（后增為十二廳），改薩拉齊為理事通判廳，五原屬薩拉齊廳西部地。從此，實行旗不管漢，廳不管蒙，蒙漢分治，旗縣并存的兩種特殊建制。同治四年，改設同知，光緒十年又改撫民同知廳。光緒二十九年（1903）析薩拉齊廳西部地區（達拉特、杭錦、烏拉特前旗地區）設五原廳，治大佘太，后移治于隆興長（今五原縣城所在地）。

民國元年（1912），改五原廳為五原縣，三年建縣城于白（北）圪梁（舊城），統領后套全境。中國的大上海市區，街、路的規劃名稱均按全國較有名聲的市、縣和地區方位選定，因五原是塞外河套地區著名的糧倉，故在上海市區的西北角設有五原路。民國八年，析烏拉特前旗地一部別隸固陽。民國14年，又劃出五原東西各一部，設安北、臨河兩縣。民國31年（1942），綏西實行新縣制，將五、臨、安三縣劃為六縣，析五原縣西部地增設晏江縣（1954年改稱達拉特后旗）。1958年7月，撤銷達拉特后旗建制，轄區復并入五原縣轄領。至今，五原縣之建置再未改變。