L’arrière du bâtiment est construit sur l’ancien mur d’enceinte de la ville, érigé au XIVème siècle. Le jardin permet d’observer le dernier tronçon conservé du mur
d’enceinte avec son chemin de ronde, si l’on excepte les vestiges de la tour du Bollwerk et les deux tours du XIIIème siècle, vestiges de la forteresse épiscopale, que sont les
tours Nessel et du Diable. Le cours d’eau, qui traverse le jardin des senteurs, a été aménagé entre 1987 et 1989, et symbolise les anciens fossés de la ville, bras dérivés de l’Ill
et d’un embranchement d’un canal dérivé de la Doller (Dollergraben, sur l’emplacement de l’avenue Kennedy).