34th Arkansas puolusti Little Rockia syyskuussa 1863 Faganin prikaatin kanssa. Liiton etenemistä Little Rockissa vastustivat pääasiassa kenraalit Marmaduke ja Walker. Konfederaation jalkaväkijoukot olivat pohjoispuolella Arkansas-jokea. Kapteeni Ethan Allen Pinnell 8. Missouri-jalkaväkirykmentistä kertoi: "Työmme ulottuu Arkansas-joelta 2 mailia kaupungin alapuolelle Crystal Hillin itäosaan, 10 kilometrin etäisyydelle. Kenraali Faganin ryhmä on äärioikealla, Parson Faganin vasemmalla, Frost keskellä ja McRea vasemmalla". Unionin joukot rakensivat pontoonillan Bayou Fourchen lähellä ja ylittivät hyvin alhaisen Arkansas-joen eteläpuolelle. Kun hänen työtään joen pohjoispuolella oli nyt piiritetty, kenraalimajuri Price joutui hylkäämään kaupungin 10. syyskuuta, lyhyen taistelun jälkeen.
Kihlaus Bayou Fourchessa. Price'n armeija vetäytyi Rockportin suuntaan. Eversti Alexander T. Hawthorn otti prikaatin komennon syksyllä 1863. Rykmentti vietti talven 1863-64 Camdenissa, Ouachitan piirikunnassa.