Hinter dem Rathaus sind noch Überreste der Kaiserpfalz zu sehen, so der Blaue Turm. Etwas weiter entfernt steht das romanische Haus, das sogenannte Steinhaus. Hier ist ein Museum untergebracht, das die Stadtgeschichte von Bad Wimpfen seit der Römerzeit erzählt. Von der Aussichtsterrasse gelangt man zur Mauer. Von dort aus geht der Blick auf romanische Arkaden mit Doppelsäulen. Es handelt sich um einen ehemaligen Gang des alten Palastes.