Le premier château des Hohenzollern a été bâti au cours de la première moitié du XIe siècle et est mentionné pour la première fois en 1267 exactement. On ignore l'aspect et les dimensions exacts du premier édifice, mais les fondations mises au jour en 1836 permettent de conclure que le premier château, aussi bien par son importance que par son architecture, constitua à l'époque un ensemble fortifié capable de répondre à toutes les exigences des premiers comtes de Zollern. Le château devint rapidement une sorte d'effigie des Hohenzollern, considéré alors comme « la perle des châteaux souabes ».

En 1423 le château a été assiégé pendant plus d'un an par les troupes de la Souabe villes libres impériales. Le 15 mai 1423, il fut finalement pris et détruit (sauf trois bas-reliefs de la chapelle). L'empereur Sigismond interdit alors toute reconstruction ultérieure. Quelque temps après, Frédéric III leva l'interdiction de son prédécesseur, ce qui permit au comte Jos Niklas von Zollern de poser la première pierre du second château. Les Zollern du Brandebourg et de Franconie, les ducs autrichiens et la noblesse souabe considéraient le château comme un symbole de puissance et encouragèrent sa reconstruction.

En 1454, on commença la construction du deuxième château. Plus beau et mieux fortifié, le deuxième château est composé d'un bâtiment principal, doté sur les côtés extérieurs de quatre tours de protection en demi-cercle. Au nord s'élève la tour de l'Empereur, au sud « la tour du Margrave ». Les travaux de construction furent menés à bien et le château est doté de pièces d'artillerie et de munitions. Bien qu'il ait été beaucoup plus fort que le premier, et malgré sa réputation d'invulnérabilité, pendant la Guerre de Trente Ans (1618-1648), il est capturé par les troupes du Wurtemberg, en 1634. Après la Guerre de Trente Ans, le château passe sous le contrôle des Habsbourg pendant près d'un siècle. Pendant la guerre de Succession d'Autriche (1740-1748), il est occupé par des soldats français au cours de l'hiver 1744/45. Après la guerre, les Habsbourg occupent encore le château, mais il était rarement habité. Lorsque le dernier propriétaire autrichien du château l'abandonne en 1798, il commence à vraiment tomber en ruine. Au début du XIXe siècle, il ne subsiste pratiquement plus que la chapelle de Saint-Michel.

En juillet 1819, le roi Frédéric-Guillaume IV de Prusse, alors prince héritier, décide d'entreprendre sur-le-champ sa reconstruction. Lors d'un voyage en Italie, il visite l'Allemagne du Sud et souhaite en apprendre davantage sur les racines de sa famille. Il grimpe au sommet du mont Hohenzollern[1].

En 1844, devenu roi, Frédéric-Guillaume IV écrit dans une lettre : « Les souvenirs de l'année 1819 sont excessivement chers pour moi et comme un rêve agréable, et surtout le coucher du soleil, que nous avons regardé de l'un des bastions du château, ... maintenant ce rêve d'adolescent est devenu le désir de rendre le château des Hohenzollern de nouveau habitable... »

Le château actuel, réaménagé entre 1850 et 1867, est l'œuvre du célèbre architecte berlinois Friedrich August Stüler, élève et héritier artistique de Karl Friedrich Schinkel. Il est construit dans le style néo-gothique. L'entrée impressionnante est l'œuvre de l'ingénieur-officier Moritz Karl Ernst von Prittwitz qui était considéré comme l'ingénieur de premier plan des fortifications de la Prusse. Les sculptures autour et à l'intérieur du château sont l'œuvre de Gustav Willgohs. Le château des Hohenzollern est un monument dédié aux idéaux du mouvement romantique allemand et incorpore la vision idéalisée de ce château par un chevalier médiéval. De cette façon, il est similaire au château de Neuschwanstein en Bavière, mais sans ses éléments fantastiques. Il a également servi à améliorer la réputation de la famille royale de Prusse, par la reconstruction de son château.

La construction a commencé en 1850 et a été entièrement financée par le Brandebourg-Prusse et les branches de Hohenzollern-Sigmaringen de la famille des Hohenzollern. Dix-sept ans plus tard, la construction est achevée le 3 octobre 1867 sous Guillaume Ier. Le château a été endommagé lors d'un tremblement de terre le 3 septembre 1978 et fut restauré jusqu'au milieu des années 1990.