Mae'r Ysgrifennydd Addysg, Kirsty Williams wedi dweud mai cau ysgolion ddylai fod y cam olaf, ar ôl ystyried yr holl effeithiau ar y gymuned leol.
Am y tro cyntaf, bydd ysgolion gwledig yng Nghymru yn cael eu diffinio'n benodol, gyda Llywodraeth Cymru yn ffurfio rhestr o 'ysgolion gwledig' er mwyn eu diogelu ymhellach.
Bydd newid hefyd i'r Cod Trefniadaeth Ysgolion, sef y drefn sy'n rhoi arweiniad wrth wneud penderfyniadau am ysgolion.
Mae'r Ceidwadwyr yn dweud nad ydy'r rheolau'n mynd i'r afael â diffyg buddsoddiad, tra bod Plaid Cymru'n dweud bod rhaid "cydnabod y gost ychwanegol i gynghorau".
Dywedodd Mrs Williams bod ysgolion gwledig "yn galon i'w cymunedau" ac y dylen nhw gael "gwrandawiad teg".
Yn y gorffennol, mae cynghorau sir wedi cau rhai o ysgolion gwledig sydd â nifer bach o ddisgyblion ar draws Cymru, gyda nifer o rieni'n brwydro yn erbyn y penderfyniadau.
Mae Mrs Williams hefyd yn annog ffederaleiddio ysgolion ac y bydd rhaid i lywodraethau lleol egluro pam mai cau'r ysgol yw'r cam mwyaf priodol i'w gymryd.
Bydd rhaid hefyd ystyried yr effaith ar addysg y plant a threfniadau teithio'r disgyblion.
Er mwyn rhoi cyfle i gymunedau gymryd rhan yn y broses o benderfynu, bydd rhaid i unrhyw ymgynghoriad gael ei gyhoeddi ar ddiwrnod ysgol.
Dywedodd Kirsty Williams: "Mae'r cynigion hyn yn cryfhau'r Cod Trefniadaeth Ysgolion er mwyn sicrhau bod cynghorau'n gwneud popeth yn eu gallu i gadw ysgol wledig ar agor cyn penderfynu ymgynghori ynghylch cynnig i gau'r ysgol.
"Os cynhelir proses ymgynghori i gau ysgol, mae'n rhaid ystyried pob dewis ac awgrym sy'n deillio o hynny cyn gwneud penderfyniad.
"Mae'n bosibl fod hynny'n cynnwys ffurfio ffederasiwn gydag ysgolion eraill neu gynyddu defnydd y gymuned o'r adeiladau er mwyn gwneud yr ysgol yn fwy hyfyw."
Y llynedd, cyhoeddodd Kirsty Williams grant newydd gwerth £2.5m y flwyddyn ar gyfer ysgolion bach ac ysgolion gwledig.
Dywedodd Llyr Gruffudd, llefarydd Plaid Cymru ar addysg, ei fod yn croesawu'r cyhoeddiad ond fod angen sicrhau fod digon o gyllid ar gael.
"Os ydi'r llywodraeth am fynnu cadw ysgolion bach ar agor, rhaid hefyd cydnabod y gost ychwanegol i gynghorau mewn cyfnod o gynni a thoriadau", meddai.
"Byddaf yn gofyn am sicrwydd na fydd y Cod newydd yma'n golygu arian yn cael ei golli i'n hysgolion mwy trefol. Mae £2.5m yn gyfystyr â £110,000 i bob sir yng Nghymru - eith hynny ddim yn bell iawn."
Ond beirniadu'r rheolau newydd wnaeth llefarydd y Ceidwadwyr, Darren Millar.
"Mae diffyg gweithredu ar ran Llywodraeth Lafur Cymru i atal cau ysgolion wedi achosi torcalon a thrafferthion i ddisgyblion, rhieni ac athrawon - heb sôn am niwed i'r economi wledig.
"Fydd y mesurau yma'n gwneud dim i wneud yn iawn am y boen sydd wedi'i achosi'n barod, na mynd i'r afael â'r tanfuddsoddi parhaol, sef y rhwystr mwyaf i gadw ysgolion gwledig ar agor."
Mae rheolau newydd ynglŷn â chadw ysgolion gwledig ar agor wedi cael eu cyhoeddi gan Lywodraeth Cymru.