Le château de Petit-Geroldseck, situé au sud du Grand-Geroldseck, appartenait à la même famille, mais date sans doute d'une époque plus tardive ; sa construction peut être située au milieu du 13e siècle, entre 1230 et 1270, d'après Jean-Michel Rudrauf, qui a publié un article circonstancié sur l'histoire et la description du Petit Geroldseck en 1986. La taille des pierres à bossages, dont certaines portent des marques de tâcheron et la plupart des trous de pince de levage, la présence d'un arc de décharge en plein cintre, permettent d'avancer une date plus ancienne pour la construction que celles données par les ouvrages précédents. Les fenêtres en arc brisé du logis méridional peuvent dater de cette époque ou avoir été percées au début du 14e siècle, quand le logis fut remanié. La basse-cour sud est peut-être contemporaine du château central, celle du nord est plus tardive. Aucune trace de destruction violente ou d'incendie n'a été relevée sur le site et il est probable que le château ait été abandonné à la fin du 15e siècle, après la destruction du Grand-Geroldseck.