El primer castillo medieval de la familia Hohenzollern fue mencionado por primera vez en 1267, en un libro del convento de Stetten, cerca de Hechingen. El castillo, sin embargo, se remonta al siglo XI. En siglo XV fue asediado durante 10 meses por tropas de una liga de ciudades libres de Suabia y totalmente destruido el 15 de mayo de 1423. Todavía existen registros escritos de este primer castillo.

En 1454, a instancias del Conde Jobst Niklas de Zollern, empezó la construcción de un segundo castillo, mucho más fuerte que el anterior y concebido como fortaleza en la que los condes de Hohenzollern pudiesen guarecerse en tiempos de guerra. La planta principal tenía forma de herradura, con tres torres al noroeste. La reconstrucción del castillo efectuada en el siglo XIX respetó la planta medieval. Fue nuevamente capturado por el ejército de Wurtemberg el 3 de abril de 1634, en el curso de la guerra de los Treinta Años. El 1 de noviembre de 1635 la fortaleza sería ocupa por las tropas católicas imperiales. Al final de la guerra pasó a dominio de la dinastía Habsburgo, que lo retuvieron bajo su control durante un siglo. En la guerra de sucesión austriaca (1740-1748) la fortaleza fue ocupada por soldados franceses durante el invierno de 1744-1745. Después de la guerra los Habsburgo volvieron a recuperar el castillo pero rara vez lo ocuparon. El último emperador germánico dejó el castillo en 1798, ya para entonces la fortaleza había caído en el olvido y se encontraba muy deteriorada. En la primera mitad del siglo XIX tan sólo quedaba en pie la capilla de San Miguel Arcángel.

El castillo fue reconstruido por el príncipe heredero que luego rey Federico Guillermo IV de Prusia. En 1819, durante un viaje a Italia, la comitiva real atravesó Suabia. El príncipe, deseoso de conocer las raíces de su familia, subió a la cima del monte Hohenzollern donde se encontraban las ruinas del antiguo castillo y decidió reconstruirlo desde cero con un nuevo diseño.

El castillo actual es obra del famoso arquitecto berlinés Frederico Augusto Stüler, que había sido nombrado arquitecto real en 1842. El edificio está inspirado en el estilo neogótico inglés. La imponente entrada es obra del ingeniero-jefe Moritz Karl Ernst von Prittwitz, que era considerado el mejor experto en fortificaciones de Prusia. Los grupos escultóricos son obra de Gustav Willgohs. El castillo de Hohenzollern es un monumento al Romanticismo alemán e incorpora la visión propia de la época sobre cómo debía ser un castillo caballeresco. En este sentido el castillo de Hohenzollern es similar al castillo de Neuschwanstein en Baviera, pero sin los elementos fantásticos que inundan el castillo bávaro. El castillo sirvió también para engrandecer el prestigio de la familia real prusiana, que había reedificado el castillo de sus ancestros de un modo tan bello y contundente.

La construcción comenzó en 1850 y fue financiada enteramente por el rey de Prusia y la línea Hohenzollern-Sigmaringen de la familia. Después de 17 años, el 3 de octubre de 1867 se finalizaron las obras bajo el reinado del emperador Guillermo I de Alemania. Un terremoto en 1978 dañó partes de la estructura, que estuvieron en reparación hasta los años 90.

El Salón de los Condes era el salón de las fiestas y las cenas, y es el mayor y más representativo del castillo. Con su bóveda formada de nervios cruciformes con ornamentos de oro y sostenida por pilares de mármol de Nassau, se parece mucho a una iglesia de tres naves. En realidad, el arquitecto Stühler utilizó como modelo la iglesia inferior de la Sainte Chapelle en París y la capilla del castillo de Karlstein en Praga. El suelo está hecho con azulejos de Solnhof y mármol de Italia, con los colores de los Hohenzollern, el blanco y el negro.

La Biblioteca en forma de galería, de roble, es la conexión entre los salones de representación y las habitaciones privadas. Los muros están adornados con ocho pinturas del pintor berlinés Wilhelm Peters, representando leyendas y episodios de la historia de los dos primeros castillos.

El Salón Azul era el aposento de la Reina, llamado así por el color azul del tapizado de sus muebles. Con los suelos compuestos de cinco tipos distintos de madera y el artesonado recubierto con una lujosa capa dorada, puede considerarse una de las estancias más esplendorosas del Castillo. Los medallones a lo largo del friso representan a esposas de príncipes electores de Brandeburgo. Las pinturas murales muestran el águila de Prusia con la “A” inicial del nombre de la reina Augusta, esposa de Guillermo I.

La Cámara del Tesoro se encuentra en la antigua cocina del castillo y contiene objetos preciosos y de gran valor. Recuerdos y objetos de arte, que después de las disputas por la liquidación de los bienes en 1926, les quedaron a los Hohenzollern, fueron expuestos al público por iniciativa del príncipe Luis Fernando de Prusia. En la antesala están expuestas armas y armamento de la Edad Media, como la gran espada Gassenhauer de 1,80 metros.