Staraïa Roussa a probablement été fondée vers le milieu du , mais apparaît pour la première fois dans des chroniques de l'année 1076. C'est alors l'une des trois principales villes de la république de Novgorod, aux côtés de Pskov et Ladoga. Son nom remonte à l'époque des Varègues, qui s'appelaient eux-mêmes "Rous". Staraïa Roussa contrôlait des routes commerciales importantes menant de Polotsk à Novgorod et Kiev.