Die alte Burg kam an den kaiserlichen Rat Paumgartner und dessen Erben verpfändeten die Burg an den Markgrafen von Brandenburg-Ansbach-Kulmbach. Dieser verkaufte sie weiter an die Wittelsbacher. In Zuge des Dreißigjährigen Krieges verfiel das Schloss. König Maximilian verkaufte sie 1820 zum Abbruch. Der Fürst von Wallerstein-Oettingen verhinderte den Abbruch, indem er das Schloss erwarb.
Der Kronprinz Maximilian (später Maximilian II.) erhielt 1829 das Hohe Schloss Füssen und war von der Lage des Schlosses Schwanstein begeistert und kaufte es 1832 auf. Ab jetzt hieß das Schloss Hohenschwangau. Von 1836 bis 1842 wurde das Schloss renoviert und im Neogotischen Stil umgebaut. Es diente als Sommerresidenz.
Nach der Thronbesteigung 1848 erfolgten weitere Erweiterungsbauten. Später diente das Schloss in Schwangau als Witwensitz der Königin.
Seit 1923 gehört das Schloss dem Wittelsbacher Ausgleichsfond. Es kann als Museum besucht werden.