Akelaitis syntyi Marijampolen lähistöllä maanviljelijäperheeseen. Hänen isänsä osallistui vuoden 1831 kansannousuun ja tuomittiin pakkosiirtolaisuuteen Siperiaan, jossa hän kuoli. Akelaitisin isäpuolen isoisä taisteli Maciejowicen taistelussa Kościuskon kapinan aikana.
Hänen isoisänsä veli palveli Puolan legioonissa Italiassa ja taisteli Somosierralla Espanjassa Napoleonin sodissa. Orpo Akelaitis kasvoi isoisän ja isovanhempien kanssa ja kuuli tarinoita näistä kampanjoista. Hänen äitinsä hankki kotitaloudenhoitajan työpaikan Marijampolėsta, jossa Akelaitis otti yksityistunteja paikalliselta papilta ja Sasnavan orgenilta. Sitten hän ilmoittautui Marijampolen peruskouluun, josta hän valmistui 17-vuotiaana. Hän jatkoi opintojaan Marijampolen nelivuotisessa lukiossa, jossa hänet luokiteltiin jatkuvasti yhdeksi parhaista oppilaista, mutta lopetti valmistumatta noin vuonna 1850. Hän jatkoi itseopiskelua oppimalla useita kieliä. Äidinkielensä liettuan kielen lisäksi hän oppi puolalaista, venäjää, saksaa, ranskaa, latinaa, hieman kreikkaa, sanskrittia ja hepreaa.