Od počátku 19. století se místní magistrát snažil o vyčištění a zvelebení prostoru lemujícího vnější městské opevnění zhruba v linii dnešní Komenského aleje. Tyto nevzhledné končiny připomínaly tehdy spíše skládku. Výjimkou bylo místo poblíž Čeradické brány, kde pro svoji potěchu založil lékárník Vincenc Kaiser krásnou romantickou zahradu. V ní vybudoval altánek a čínskou věžičku – rozhlednu. Ta byla známa jako Kaiserova věžička nebo také Paraplíčko. Pro špatný technický stav byla zbořena roku 1931.
Přes počáteční neúspěchy se však nakonec podařilo upravit celý prostor na jižním okraji města podél bývalých hradeb. Z iniciativy hejtmana Ferdinanda Wussina a purkmistra Wenzla Kopřivy došlo v letech 1821-22 podle projektu krajského inženýra Müllera k úpravě zanedbaného prostoru mezi tehdejší Červenou a Čeradickou bránou. Byly zbourány mýtní domky, vyrovnán terén, založena silnice a mezi silnicí a zahradami vysázena široká promenáda s alejí ořešáků a keřů, pojmenovaná po Wussinovi. Na konci aleje u Čeradické brány vzniklo malé jezírko, jehož voda byla odváděna do Špitálské rokle.
