A sziget, Trossö, amelyre Karlskronát építették az 1600-as években, a földbirtokos Vittus Andersson tulajdonában volt. A szárazföldön, pár kilométerrel odébb, a dán időszakban volt egy régebbi, Lyckå nevű város és vagy 30 kilométerrel keletre a dánok építeni kezdték Kristianopel-t, mielőtt Blekinge svéd lett 1658-ban.

A svéd királyság 1679-ben kisajátította a szigeteket és ugyanabban az évben megkezdték a tervet, hogy az ország flottájának legnagyobb részét Trossö-n állomásoztassák.

Az új város, Karlskrona (Károly koronája), a nevét alapítójáról, XI. Károly (Karl XI) svéd királyról kapta, akinek a szobra a város főterén áll.

Az elhelyezése stratégiai volt, ellenőrizte a bejáratot a szárazföld felé, és a tenger felőli oldalon katonai erődítményrendszer épült 1681-ben, hogy megvédje a haditengerészeti bázist. Annak, hogy idehelyezték a haditengerészetet két fő oka volt. Először is Svédország meg akarta mutatni hatalmi helyzetét, Dániával és a kontinenssel szemben. Másodsorban, a kikötő az év nagy részében jégmentes.

Karlskrona 1680. augusztus 10-én kapott városi rangot. Hajóépítőket az új haditengerészeti bázisra és a hajógyárba, Österbotten-ből (most Finnország) és Stockholmból toboroztak. A híd, amely összeköti a város központját a szárazfölddel 1682-ben épült. Az Amiralitetskyrkan (Admiralitás templom) alapításakor 1685-ben, már említik a Marinens musikkår (Tengerészet zenekara) elődjét, az Admiralitás zenészeket először. A zenekar az ország második legrégebbi kulturális intézménye, csak a Kungliga Hovkapellet (Királyi udvari zenekar) idősebb. A város első tervén, amit 1683-ban Erik Dahlberg, Hans Wachtmeister és Carl Magnus Stuart mutatott be, Karlskrona egy kimondott erődítmény. Az 1694 éves tervben amit Erik Dahlberg, készített, már helyet kapott a városfejlesztés.

Karlskrona hamarosan az ország harmadik legnagyobb városává vált, a második Riga (ma Lettország) és Stockholm mögött.

Mint egy zárt katonai kikötő, a ”svéd nagyhatalommal” együtt a város sokat veszített egykori dicsőségéből, de megtartotta pozícióját mint kulcsfontosságú haditengerészeti bázis. A hajógyár (Karlskronavarvet) még ma is működik.

Az 1790-es tűzvészben leégett a város nagy része, de gyorsan újra felépítették. Még 1887-ben és 1909-ben is tűzvész sújtotta Karlskronát. Az 1800-as évek stagnálása után, az ipar és a vasút fejlődése (1874 vasút Karlskrona-Växjö, 1889 Blekinge tengerparti vasút és 1899 Kelet Blekinge vasút) új fellendülést hozott. Az 1910-1949 évek között villamos forgalom is volt a városban.

Itt futott 1981-ben zátonyra az U 137-es szovjet tengeralattjáró, ami annak idején nagy port vert fel.