Un premier monastère aurait été fondé en 676 par Dagobert II sous le vocable de saint Sigismond, dont une relique était gardée dans cet édifice. Ruiné au 10e siècle, le couvent fut restauré par le pape Léon IX en 1050, la nouvelle église étant sous la protection de saint Marc, qui lui donna son nom. Après un incendie en 1101, l'église fut reconstruite dans la 1ère moitié du 12e siècle. Un chapiteau roman sculpté de scènes de la vie du Christ en provient, il est conservé au musée d'Unterlinden à Colmar. Le couvent avait été rattaché à l'abbaye de Saint-Georges en Forêt-Noire et transformé en prieuré, occupé par des religieuses bénédictines qui durent l'abandonner au moment de la guerre des Paysans en 1525. Il revit à nouveau en 1749 lorsqu'il fut mis sous la protection de l'abbaye d'Ebersmunster : l'église fut rebâtie en 1760, les bâtiments conventuels en 1762 (armoiries de l'abbaye d'Ebersmunster et de Saint-Marc). A la Révolution le couvent fut vendu comme Bien National, l'église partiellement détruite, l'enclos racheté en 1831 et à nouveau en 1845 par l'abbé Pierre Blanck qui désirait lui rendre sa fonction première. En 1868 fut fondée la nouvelle congrégation des soeurs de Saint-Joseph et de Saint-Marc, chargées d'oeuvres de charité. Un noviciat fut élevé en 1882, une nouvelle église en 1889, ainsi que plusieurs bâtiments d'accueil. En 1972 une nouvelle église remplaça celle du 19e siècle. Plusieurs nouveaux bâtiments ont été élevés en 1995.