Sōgenchi-lampi Musō Sosekin suunnittelemassa puutarhassa

Heian-kaudella nykyisen Tenryū-jin paikalla sijaitsi Danrin-jin temppeli, jonka perusti keisari Sagan puoliso Tachibana no Kachiko eli keisarinna Danrin. Se oli Kioton ensimmäinen zentemppeli, ja se lienee valmistunut vuoden 836 tienoilla. Heian-kauden keskivaiheilla temppeli kuitenkin raunioitui. Kamakura-kaudella 1200-luvun puolivälissä vallasta luopunut keisari Go-Saga rakennutti paikalle Kameyama-palatsin (亀山殿, Kameyama-dono), jossa asuivat sittemmin myös muutamat muut keisarit, kuten Kameyama ja Go-Daigo.[1]

Tenryū-ji perustettiin vuonna 1339 munkki Musō Sosekin aloitteesta. Kun Musō kuuli keisari Go-Daigon kuolemasta, hän ehdotti shōgun Ashikaga Takaujille temppelin perustamista keisarin tuonpuoleisen hyvinvoinnin rukoilemiseksi (bodai-ji).[1] Tarkoituksena oli lepytellä keisarin levotonta henkeä (onryō), sillä Takauji oli suistanut Go-Daigon vallasta ja karkottanut hänet Kiotosta epäonnistuneen Kenmu-restauraation jälkeen.[2] Temppeli päätettiin perustaa Kameyama-palatsin paikalle, sillä palatsilla oli voimakas kytkös keisarihuoneeseen. Luvan temppelin rakentamiseen myönsi eläköitynyt keisari Kōgon. Takauji ja Kōgon myönsivät temppelille läänityksiä, mutta ne eivät tuoneet sille tarpeeksi varoja; Musō pyysikin vuonna 1341 Takaujin veljeltä Tadayoshilta lupaa kaupan aloittamiseen Yuan-dynastian Kiinan kanssa. Kaupasta saatavat voitot oli tarkoitus käyttää rakennustöihin. Näitä Kiinaan matkanneita kauppalaivoja kutsuttiin ”Tenryūji-laivoiksi” (Tenryūji-bune).[1][3]

Temppeli valmistui vuonna 1345. Se tunnettiin alun perin nimellä Ryakuō-ji (暦応寺), mutta keisari Kōgon päätti antaa sille uuden nimen Tenryū-ji (’taivaallisen lohikäärmeen temppeli’) vuonna 1341.[1] Tarinan mukaan nimi juontuu Tadayoshin näkemästä unesta, jossa keisari Go-Daigon kultaiseksi lohikäämeeksi muuttunut henki nousi Katsurajoesta.[2] Temppeli nautti Ashikaga-klaanin suojelusta ja se kohosi merkittävään asemaan, lopulta Kioton zentemppeleistä tärkeimmäksi Nanzen-jin jälkeen. Ashikaga-sotilashallinnon taantuessa kuitenkin myös Tenryū-ji kärsi. Sitä tuhosivat lisäksi useat suuret tulipalot: 1300–1400-luvuilla temppeli paloi kuusi kertaa, vuosina 1358, 1367, 1373, 1380, 1447 ja 1468. Erityisesti 1400-luvun palot, joista jälkimmäinen johtui Kiotossa käydystä Ōnin-sodasta, vahingoittivat temppeliä pahoin. Alussa temppelin rakennukset (garan) oli asemoitu tyypillisen zentemppelin tavoin, mutta nykyisin alkuperäisestä suunnitelmasta on jäljellä vain temppelin puutarha.[4][1][3]

1400-luvun tuhojen jälkeen temppeliä ei rakennettu uudelleen, ennen kuin Toyotomi Hideyoshi teki sille lahjoituksen vuonna 1585. Myös Tokugawa Ieyasu antoi temppelille läänityksiä 1600-luvun alussa. Tenryū-ji kärsi kuitenkin jälleen vahinkoja vuoden 1815 tulipalossa, ja kun temppelin rakennustyöt olivat vielä kesken vuonna 1864, se tuhoutui täysin Kinmonin välikohtauksen yhteydessä sytytetyssä palossa. Chōshūn daimiokunnan armeija käytti sitä tukikohtanaan. Meiji-restauraation jälkeen vuonna 1876 siitä tehtiin Rinzai-buddhalaisuuden uuden Tenryūji-haaran päätemppeli, mutta se menetti pian valtaosan omistamastaan maasta valtiolle, ja käsittääkin nykyään vain noin kymmenesosan takavarikkoa edeltäneestä alueesta. Temppelin tärkeimmät rakennukset onnistuttiin rakentamaan uudelleen vuonna 1899, ja uudelleenrakennusta jatkettiin 1900-luvun alkupuolella.[1][3]

Tenryū-jin puutarha suojeltiin valtion muinaisjäännöksenä ja maisemakohteena vuonna 1923. Erityinen maisemakohde (tokubetsumeishō) siitä tehtiin vuonna 1955. Unescon maailmanperintöluetteloon Tenryū-ji valittiin vuonna 1994.[4]