Ursprünglich gab es eine Burganlage im Tal in der Siedlung Beuren. Während der Restaurierung entdeckte man Reste des alten Bergfrieds aus der Stauferzeit. Erbaut wurde die Burg wahrscheinlich von den Grafen von Gleichen. Landgraf Ludwig IV. von Thüringen ließ sie 1219 zerstören. Bis in die Mitte des 13. Jahrhunderts wurde die Burg wieder aufgebaut. 1287 wird der Mainzer Erzbischof als Pächter genannt. 1294 kaufte sie der Erzbischof. Im Besitz des Erzbistums blieb sie bis 1802 als das Eichsfeld preußisch wurde.
1521 -1523 wirkte der Zisterziensermönch Heinrich Pfeifer hier und in der Umgebung, er wurde im Bauernkrieg einer der wichtigsten Mitkämpfer von Thomas Müntzer in Mühlhausen. Im Frühjahr 1525 wurde die Burg Scharfenstein und das Kloster Reifenstein von den Bauern gebrandschatzt.
Danach erfolgte durch die von Wintzingerode. Ab 1814 war die Burg Vorwerk der Domäne Reifenstein. 1909 brannte die Burg durch einen Blitzschlag aus.
Ab 1960 war sie Ferienheim und Naherholungszentrum.