神代の頃に、神倉山の磐座であるゴトビキ岩に熊野速玉大神と熊野夫須美大神が降り立ち、そこで祀られることとなった。

熊野速玉大神は、熊野速玉大社では伊邪那岐神とされ、熊野本宮大社では同じ神名で日本書紀に登場する速玉之男（はやたまのを）とされる[1]。熊野夫須美大神は伊邪那美神とされている。

しかし、社伝によると景行天皇58年に現在地に遷座し、速玉之男神の名から社名をとったという。もともと祀られていた所である神倉山は神倉神社となり、また元宮と呼ばれ、当社は新宮と呼ばれる。

初めは二つの神殿に熊野速玉大神、熊野夫須美大神、家津美御子大神を祀っていたが、平安時代の初めには現在のように十二の社殿が建てられ、神仏習合も進んで熊野十二所権現と呼ばれ、やがて式内社（大）に列せられた。

また、穂積忍麻呂が初めて禰宜に任じられてからは、熊野三党のひとつ・穂積氏（藤白鈴木氏）が代々神職を務めた。

平安時代の末期には鳥羽上皇、後白河法皇、後鳥羽上皇などが幾度も熊野三山に足を運び、大いに賑わっている。

1871年（明治4年）、熊野速玉神社として県社に列格するが、1883年（明治16年）、打ち上げ花火が原因で社殿が全焼してしまった。1915年（大正4年）、官幣大社に昇格する。

1948年（昭和23年）に神社本庁の別表神社に加列されている。1967年（昭和42年）に社殿が再建された。

2004年（平成16年）7月1日、「紀伊山地の霊場と参詣道」の一部としてユネスコの世界遺産に登録された。