Ідея створення палацу народилася на Першій мирній конференції з роззброєння, скликаній з ініціативи Імператора Миколи II від 24 серпня 1898 року. Палац був побудований під патронажем Царя та Королеви Нідерландів Вільгельміни на гроші американського залізничного магната і мецената Ендрю Карнегі.

З 1946 р. в будинку міститься Міжнародний суд ООН (до 1940 року там була розташована його попередниця — Постійна палата міжнародного правосуддя). У новому крилі за Палацом, побудованому в 1978 р., знаходяться службові кабінети суддів і дорадча кімната Суду. Воно було розширене в 1997 р., зокрема, для розміщення зрослого числа суддів ad hoc. У тому ж році було переобладнано мансарду Палацу, в якій були розташовані нові службові приміщення для посадових осіб секретаріату Суду.

В даний час палац і парк закриті для відвідування. Ознайомитися з історією палацу і установ, що знаходяться в ньому, можна в «Інформаційному центрі», розташованому біля головних воріт.