Ausgangspunkt der Burg war die Höhle eines Eremiten, des Heiligen Hilarion; daraus entstand eine Kapelle, im 10. Jahrhundert ein Kloster, dessen Kirche die Byzantiner im 11. Jahrhundert in ihre Festung integrierten. Von dieser Zeit zeugt noch die auffallend lange Mauer auf der Südseite. Die Anlage zerfällt in eine Unter- und eine Oberburg; das berühmteste Objekt der Oberburg ist das "Fenster der Königin".