Langt er síðan búseta hófst í Rúmeníu og fram til 5000 f.Kr. bjuggu þar veiðimenn og safnarar. Merkar fornleifar frá steinöld hafa fundist í helli við Dóná. Um 5000 e.Kr. fóru íbúarnir að stunda landbúnað, bæði kvikfjárrækt og kornrækt.

Lítið er vitað um sögu landsins þar til á tímum Grikkja og Rómverja. Forn-Grikkir kölluðu íbúa landsins Getae. Talið er að sú þjóð hafi verið skyld Þrakverjum sem bjuggu víða á Balkanskaga um það leyti. Rómverjar hertóku landið skömmu eftir 100 e.Kr. Þeir innleiddu margar breytingar í landinu. Landsmenn tóku upp tungu heimsveldisins og er latína enn undirstaða rúmensku. Rúmenar hafa síðan kallað sig Rómverja - Roman og gera enn. Rúmenar tóku kristni á fjórðu öld e.Kr.

Rúmenía var í fyrstu hluti austrómverska ríkisins en innrásir Gota, Húna, Avara, Slava, Ungverja, Búlgara og Mongóla inn á Balkanskaga á 4. til 13. öld leiddu til þess að Mikligarður missti yfirráð yfir Rúmeníu og náði þeim aldrei aftur. Litlum sögum fer af Rúmenum á þessum tíma en þó héldu þeir tungu sinni og trú.

Á 14. öld voru stofnuð furstadæmin Moldavía og Valakía á því landsvæði sem Rúmenía nær yfir í dag. Á 16. öld var landið lagt undir veldi Ottómana en gert að verndarsvæði Rússa árið 1774. Moldavía og Valakía nutu umtalsverðrar sjálfstjórnar þar til á 17. öld þegar Ottómanar hertu tökin.

Landið var sameinað og varð sjálfstætt konungsríki árið 1877. Fremur illa gekk að halda uppi lýðræði og var saga hinnar sjálfstæðu Rúmeníu fremur óróasöm lengst af. Í fyrri heimsstyrjöldinni var landið í fyrstu hlutlaust en gekk svo í lið með Bandamönnum. Her Austurríkis og Ungverjalands hertók allt landið og sömdu landsmenn um frið í febrúar 1918. Þeir fóru aftur í stríð gegn Öxulveldunum 9. nóvember 1918, tveimur dögum fyrir uppgjöf þeirra. Rúmenía græddi mjög á hruni Austurríkis-Ungverjalands og fékk alla Transylvaníu til viðbótar við Valakíu og Moldavíu. Transylvanía hafði verið hluti Ungverjalands og þar býr fjöldi Ungverja.

Eftir fyrri heimsstyrjöldina komst á einræði fasista. Landsmenn börðust við hlið Þjóðverja í seinni heimsstyrjöldinni. Sovéskt lið hertók Rúmeníu árið 1944. Konungdæmi var afnumið 1947 og kommúnistastjórn tók völdin. Flokksforingi frá árinu 1965 var Nicolae Ceausescu. Hann jók sjálfstæði landsins gagnvart Sovétmönnum en hélt þjóðinni í heljargreipum. Andstaða gegn ógnarstjórninni fór vaxandi.

Í desember 1989 var gerð allsherjaruppreisn sem lauk með falli ríkisstjórnarinnar og aftöku Ceausescus og eiginkonu hans. Ný stjórn undir forystu Þjóðfylkingarinnar reyndi að koma á lýðræði og umbótum í þjóðfélagsmálum en þær tilraunir hafa ekki enn borið þann árangur sem menn væntu. Einhverjar framfarir hafa samt sem áður orðið og Rúmenía komst í Evrópusambandið og gerið það árið 2007. Landið gekk í Nató 2004.