O canal foi escavado por soldados entre 1671 e 1673 a mando do rei Cristiano V, para permitir o acesso dos barcos mercantes a Kongens Nytorv. Muitos e ricos mercadores instalaram-se então em seu redor, dando início à era de ouro de Nyhavn. Os dias de prosperidade chegariam ao fim no início do século XIX, quando os mercadores abandonaram a zona depois do bombardeamento da cidade por parte da marinha inglesa em 1807, durante as Guerras Napoleónicas.

Seguiu-se um período de decadência, em que a zona ganhou a reputação de ser um antro de prostitutas e marinheiros. Foi precisamente neste período que viveu em Nyhavn o seu mais ilustre morador, o famoso escritor dinamarquês Hans Christian Andersen. Andersen viveu em Nyhavn durante mais de vinte anos, e foi aqui que escreveu os seus primeiros contos em 1835.

Actualmente, quase todos os edifícios de Nyhavn foram transformados em bares, cafés e restaurantes, muitos dos quais se gabam orgulhosamente do seu passado como bordeis. A zona transformou-se numa das mais famosas e concorridas da cidade, e basta um pouco de sol para que as pessoas venham até à zona para passear, sentar-se na beira do paredão ou numa das dezenas de esplanadas a beber uma cerveja, ou dar um mergulho nas águas do canal.