Son histoire est très ancienne puisque des traces de peuplements préhistoriques datés de 8 500 av. J.-C. à 5 400 av. J.-C. y ont été découverts et témoignent de la civilisation capsienne. Cet adjectif vient de Capsa, nom de Gafsa lors de sa fondation au II siècle avant J.-C. sous le règne de Jugurtha. Ce roi numide considérait la ville comme son trésor. Si les Romains la détruisent en 107 avant J.-C., ils la rebâtissent et en font une municipe. Au V siècle, elle devient la capitale du Royaume berbère jusqu’à l’arrivée des Byzantins en l’an 553. Elle est conquise en 667 par les Musulmans. Malgré les dominations successives, les Gafsiens se montrent toujours rebelles et font preuve d'indépendantisme.