Одним из немногих административных зданий, выстроенных в Вологде в соответствии с проектным планом губернскому городу Вологде от 1781 года, было здание удельного ведомства. Дата его постройки – 1810 год. Здесь помещалась контора ведомства и квартира начальника ведомства Григория Абрамовича Гревеница, племянника известного русского поэта Константина Николаевича Батюшкова. Ведомство занималось удельными имениями Вологодской губернии, то есть земельной собственностью царской семьи, которой пользовались удельные крестьяне.

Батюшков – печальная вологодская легенда. В 1833 году его привезли в этот дом в состоянии сильнейшего душевного расстройства, из которого он так и не вышел до самой своей смерти в 1855 году. Батюшков подолгу простаивал у окна, глядя на вологодский кремль.

В 1860 году в здании поселилось училище для девиц, созданное на основе частного женского пансиона Генриетты Дозе. В  1862 году училище было преобразовано в Мариинскую женскую гимназию, долгое время бывшую единственной в городе.

В 1890-х годах к зданию сделана пристройка.

В 1918-1922 годах в доме Батюшкова работали курсы среднего комсостава, с 1947 года – музыкально-педагогическое училище, с

1978 года – педагогическое училище, ныне называемое педагогическим колледжем.

В здании расположен музей-квартира К.Н.Батюшкова.