La zona intorno a Shirakawa faceva parte della storica provincia di Hida. Con le riforme catastali seguite al rinnovamento Meiji, l'area venne organizzata nel distretto di Ōno, all'interno della prefettura di Gifu. Il villaggio di Shirakawa si è formato il 1º luglio 1897, con l'istituzione del moderno sistema dei comuni.