Первое укрепление на месте замка было возведено в 1546 году как опорный пункт буддийского движения икко-икки. Оно называлось Ояма-гобо (яп. 尾山御坊) и представляло собой укреплённый монастырь, окружённый частоколом и сухим рвом[1].

В 1580 году укрепление захватил Сакума Моримаса  (англ.) (рус., военачальник Оды Нобунаги. Он построил замок и стал править оттуда дарованной ему провинцией Кага[1].

Через три года после этого Сакума, поддержавший Сибату Кацуиэ, потерпел поражение от сил Тоётоми Хидэёси в битве при Сидзугатакэ  (англ.) (рус. и был казнён. Хидеёси передал его земли Маэде Тосииэ, при котором Канадзава стал фамильным замком рода Маэда. Тосииэ переименовал его замок в Ояма (яп. 尾山城), но позже вернул прежнее название. В 1587 году он принял в замке Такаяму Укона, потерявшего свои владения вследствие приказа об изгнании священников. Под руководством Такаямы замок был перестроен и укреплён[1].

Поселившись в замке, Тосииэ стал прилагать усилия по развитию призамкового города. Одним из указов он повелел всем своим вассалам жить в Канадзаве. Другие указы даровали разнообразные льготы, включавшие в себя бесплатную землю, торговцам и ремесленникам, необходимым для развития города. В результате население Канадзавы выросло с нескольких тысяч до более 50 тысяч в начале XVII века[2].

В 1602 году тэнсю (главная башня) замка сгорела от удара молнии, на её месте возвели более скромную трёхэтажную башню. В 1759 году замок вновь пострадал от пожара[1].

14 поколений Маэда правили из замка, пока в 1870-х годах реставрация Мэйдзи не положила конец феодальной системе[1][3]. В 1873 году замок перешёл в ведение министерства Сухопутных войск, через два года там были расквартированы войска[1]. В 1881 в замке произошёл крупный пожар, уничтоживший все его строения, за исключением ворот Исикава (яп. 石川門), склада Сандзиккэн-нагая (яп. 三十間長屋) и склада Цурумару (яп. 鶴丸倉庫)[1][4][5].

В 1898 на месте замка разместился штаб 9-й дивизии, который оставался там до конца Второй мировой войны. В 1949 году территория замка стала частью кампуса Маруноути университета Канадзавы  (англ.) (рус.. В 1995 году университет переехал в новые здания, а площадь замка передали префектуре, которая разбила на этом месте парк. В 1999 началась масштабная реконструкция исторических зданий, утраченных в результате пожара, с использованием традиционных строительных методов. В 2010 году завершена реконструкция ворот Кахоку-мон, в 2015 — ворот Хасидзумэ-мон, в 2020 — ворот и моста Нэдзумитамон[1][3][6][7][8].