Cafodd siopwyr eu hebrwng o Ganolfan Siopa Quadrant toc wedi 14:00, ac mae'r digwyddiad hefyd wedi cau gorsaf fysus a marchnad y ddinas.
Dywedodd Heddlu De Cymru eu bod wedi derbyn adroddiad o "becyn amheus", ond fe ddaeth i'r amlwg fod y pecyn yn ffug ac fe gafodd dyn ei arestio.
Mae lefel y bygythiad terfysgol ym Mhrydain wedi cael ei godi i'r categori uchaf posib ers yr ymosodiad terfysgol ym Manceinion nos Lun.
Dywedodd yr heddlu mewn datganiad: "Roedd digwyddiad am 14:05 yng nghanolfan siopa'r Quadrant, Abertawe, lle cafodd pecyn amheus ei osod. Fe ddaeth i'r amlwg bod y pecyn yn ffug.
"Fe gafodd y ganolfan ei gwagio gyda chymorth ein partneriaid, ac fe gafodd un dyn ei arestio - mae ymchwiliad yr heddlu'n parhau."
Fe gafodd canolfan siopa yn Abertawe ei gwagio brynhawn dydd Mercher am gyfnod yn dilyn pryderon am ddiogelwch.