Ym mis Ionawr, fe bleidleisiodd y cyngor sir i ollwng y ffrwd Saesneg yn Ysgol Llangennech ger Llanelli.
Yn ystod y ddadl honno fe gyfeiriodd un cynghorydd Llafur at y penderfyniad fel "arwahanu" ac fel "apartheid ar ei waethaf", tra bod un ymgyrchydd blaenllaw wedi awgrymu y gallai pobl sy'n anhapus "groesi'r ffin".
Yn ystod sesiwn holi'r Prif Weinidog yn y Senedd, fe gyhuddodd arweinydd Plaid Cymru, Leanne Wood rhai aelodau Llafur o weithio gydag UKIP mewn ymgyrch yn erbyn y newidiadau.
Dywedodd Mr Jones: "Mae yna rai sylwadau sydd wedi cael eu gwneud gan wleidyddion nad wyf yn cytuno â nhw.
"Rwyf wedi gweld y sylwadau hynny ac yr wyf yn credu ei fod yn hynod o bwysig nawr bod pobl yn tawelu, a bod y gwenwyndra rydym wedi ei brofi yn lleihau."
"Lle Cyngor Sir Gaerfyrddin ydy hi i egluro'r penderfyniadau a wnaed ganddynt yn Llangennech."
Ychwanegodd Mr Jones fod Llywodraeth Cymru wedi ymrwymo i gyrraedd targed o 1m o siaradwyr Cymraeg.
Mae'r Prif Weinidog wedi galw ar bobl i bwyllo yn y ffrae chwerw dros y penderfyniad i newid statws iaith ysgol gynradd yn Sir Gaerfyrddin.