Gegründet wurde sie als Forschungsbibliothek des US-Kongresses am 24. April 1800, nachdem Präsident John Adams den Regierungssitz von Philadelphia nach Washington D. C. verlegt hatte. Seit 1802 obliegt ihre Verwaltung dem United States Congress Joint Committee on the Library. Es wurden 5000 Dollar für den Erwerb von Büchern zum Gebrauch des Kongresses sowie die Einrichtung passender Räumlichkeiten im neuen Kapitol zur Verfügung gestellt. Die Bibliothek war auf etwa 3000 Bände angewachsen, als sie im August 1814 im Britisch-Amerikanischen Krieg ein Raub der Flammen während des Brandes von Washington wurde. Daraufhin bot Thomas Jefferson dem Kongress seine Privatbibliothek als Ersatz zum Kauf an. Er hatte in 50 Jahren fast 6500 Bücher über Philosophie, Literatur und Wissenschaft in verschiedenen Sprachen zusammengetragen. Diese Vielfalt ging weit über den Rahmen der ursprünglichen Sammlung hinaus. Trotzdem stimmte der Kongress dem Ankauf der Sammlung für einen Preis von 24.000 Dollar zu und legte damit den Grundstein für eine Nationalbibliothek. Jeffersons Überzeugung, dass für die amerikanische Gesetzgebung alle Themen von Wichtigkeit sind, ist auch heute noch das Grundprinzip der Library of Congress.

Am 24. Dezember 1851 zerstörte ein Feuer 35.000 Bücher und andere Einrichtungsgegenstände, darunter ein Originalporträt von Christoph Kolumbus. Später konnte die Bibliothek ihre Bestände als Depositär für den urheberrechtlichen Schutz von Werken wesentlich erweitern. Wer nach dem amerikanischen Urheberrecht sein Werk schützen wollte, musste zwei Exemplare seiner Arbeit gratis an die Bibliothek abgeben. Diese Regelung wurde 1859 dem neu gegründeten Patentbüro übertragen. Diese Tatsache und ein verheerender Brand, der zwei Drittel des damaligen Bestandes vernichtete, brachte die Library of Congress in ernsthafte finanzielle Schwierigkeiten. Ainsworth Rand Spofford gewann 1864 das Copyright Deposit zurück und sicherte der Bibliothek die finanzielle Unterstützung beider Kongressparteien. So konnte sie unter seiner Leitung wesentlich erweitert werden.

1906 wurde durch den Kauf der ca. 80.000 Bände umfassenden Privatbibliothek, die der sibirische Kaufmann, Bücherliebhaber und Sammler Gennadi Wassiljewitsch Judin in Krasnojarsk zusammengetragen hatte, der Grundstein gelegt für die Russische Sammlung der Kongressbibliothek.[1]

Der Bibliothekshaushalt wird noch heute zu großen Teilen vom Kongress gestellt. Zu unterhalten sind auch drei repräsentative Gebäude in Washington D. C.