Sinds 1951 is de stad eigenaar van dit kasteel, dat ook als huis voor gemeentediensten dienst doet. Vroeger was dit eigendom van de abdij.

Het is in feite gebouwd nabij de oude stadsomwallingen, en speelde wellicht een rol bij de verdediging van de stad. In het park bevindt zich daarvan nog de zuidertoren.

Het huidige gebouw werd in 1589 gebouwd. Daaronder bevinden zich nog 12e en 13e eeuwse kelders. In 1937 werd het in oostelijke richting vergroot. Het bureau van de burgemeester bevindt zich in dit nieuwe gedeelte. Maar ook tijdens de 18e en 19e eeuw werden een aantal aanpassingen gedaan.

De naam, 'Maison du Bailli', duidt op het feit dat het de woonst van de bailli (baljuw) van de stad was. Deze werd door de abt en heer van Gembloux aangeduid. Maar naar het schijnt, verbleef die niet hier.