Anton von Grafenstein übernahm die Burgreste 1818 und gründete einen Verein zur Erhaltung der Altenburg. Das war der erste Denkmalschutzvereins in Bayern.
Der heutige Palas (Saalbau) wurde um 1900 auf den noch erhaltenen Keller des früheren Hauses erbaut. Eine erste Burgkapelle, geweiht der heiligen Walburga, errichtete man 1124. Der Standort ist unbekannt. Die Nachfolgekapelle ging 1553 verloren. Ab 1617 fanden Gottesdienste in einem Zelt statt.
Die heutige Kapelle mit dem Eingang im Torhaus entstand 1834. Das Brunnenhaus wurde 1880 abgebrochen und mit einem Überbau versehen. Der Brunnen ist 30 m tief.
Der Dichter E.T.A. Hoffmann lebte von 1808 bis 1813 in Bamberg und bewohnte öfters die E.T.A.- Hoffmann - Klause.