La terre François-Joseph est peut-être découverte par les navigateurs norvégiens Nils Fredrik Rønnbeck et Johan Petter Aidijärvi en 1865, qui, selon de rares comptes-rendus, naviguent vers l'est à partir du Svalbard jusqu'à atteindre une nouvelle terre. On ignore s'ils ont débarqué et l'archipel est alors oublié. La découverte de l'archipel par les Norvégiens est largement remise en cause aujourd'hui[1].

La première exploration reconnue de l'archipel est effectuée par l'expédition austro-hongroise au pôle Nord, conduite par les explorateurs Karl Weyprecht et Julius von Payer, tandis que leur navire est bloqué dans les glaces à la recherche du passage du Nord-Est[2]. Après l'exploration des îles du sud, l'archipel est baptisé en l'honneur de l'empereur François-Joseph Ier[3]. Les norvégiens Fridtjof Nansen et Hjalmar Johansen traversent les îles en 1895-96 après une tentative avortée d'atteindre le pôle. Par pur hasard, ils rencontrent l'explorateur britannique Frederick George Jackson sur l'île Northbrook en 1896.

En 1914, le navigateur russe Valerian Albanov et un homme d'équipage, Alexander Konrad, uniques survivants de l'expédition Broussilov, atteignent le cap Flora sur l'île Northbrook, où ils savent que Frederick George Jackson a laissé des provisions et bâti une hutte lors d'une expédition antérieure. Albanov et Konrad sont secourus par le navire de Gueorgui Sedov, le Saint Foka, alors qu'ils se préparent à passer l'hiver.

Avec l'introduction de navire à vapeur, un certain nombre d'expéditions phoquières sont entreprises dans l'archipel à partir de la dernière décennie du XIXe siècle, 80 % provenant de Norvège.

À la fin des années 1920, l'URSS et la Norvège revendiquent les îles. Les Norvégiens les appellent « Fridtjof Nansen Land ». L'Union soviétique revendique un secteur de la région arctique qui inclut l'archipel François-Joseph et l'île Victoria proche par un décret du 15 avril 1926. La décision est notifiée le 6 mai à la Norvège qui proteste officiellement le 19 décembre, contestant les revendications soviétiques.

Les années suivantes, les autorités norvégiennes poursuivent leurs efforts pour récupérer l'île Victoria et la terre François-Joseph. Le ministère des Affaires étrangères ne souhaite pas prendre des mesures pour émettre une revendication officielle, mais n'objecte pas aux initiatives privées. En 1929, le consul Lars Christensen de Sandefjord, un magnat baleinier dont les expéditions ont annexé les îles Bouvet et Pierre Ier en Antarctique, finance une expédition de deux navires, le S/S Torsnes et le M/C Hvalrossen. À son départ de Tromsø, l'équipage reçoit des instructions détaillées en vue d'ériger une station radio et de laisser une équipe d'hiver sur la terre François-Joseph et de revendiquer l'île Victoria pour le compte de Christensen. L'objectif est d'obtenir une base légale sur une partie de l'archipel avant les Soviétiques. L'expédition n'atteint pas l'archipel à cause des glaces ; tandis qu'elle attend des conditions meilleures, elle est dépassée par le brise-glace soviétique Gueorgui Sedov.

Le 29 juillet 1929, Otto Schmidt de l'expédition Sedov, à laquelle participe notamment la biologiste Nina Demme, lève le drapeau soviétique sur la baie Tikhaïa, sur l'île Hooker, et déclare que l'archipel François-Joseph fait partie de l'Union soviétique. La Norvège ne conteste pas cette annexion, mais continue ses efforts envers l'île Victoria. Le différend se termine en septembre 1932, quand les Soviétiques annexent l'île.

En juillet 1932, le Graf Zeppelin voyage de Berlin à l'île Hooker, en passant par Leningrad. Il livre 300 kg de courrier commémoratif et rencontre le brise-glace Malyguine. Après avoir longé le 81e parallèle vers l'est jusqu'à la terre du Nord, il retourne à l'île Hooker et entreprend une reconnaissance aérienne de l'archipel, volant au nord jusqu'à l'île Prince Rudolf.

Pendant la guerre froide, les zones polaires deviennent une zone tampon entre les États-Unis et l'Union soviétique, et de nombreux lieux de l'Arctique deviennent des endroits stratégiques. Les îles sont déclarées zone de sécurité nationale depuis la fin des années 1930 jusqu'à la dislocation de l'URSS en 1991, et sont donc interdites aux étrangers. Un aérodrome est construit sur l'île Graham Bell afin de servir de base de transit pour les bombardiers russes, et les missions d'entrainement sont courantes entre l'archipel, le continent et la Nouvelle-Zemble.

À la fin des années 2010, en lien avec le réchauffement climatique, les ressources pétrolières de l'Arctique confèrent à cette région un caractère stratégique. La Russie crée au nord de l'archipel la base militaire Trèfle arctique, sous la responsabilité de la Flotte du Nord, armée par 150 soldats ; elle comporte un aérodrome et un système de défense côtière Bastion[4].