Sa construction commence en 1541 sous les ordres de Todar Mal Khatri, le ministre des revenus, Sher Shâh Sûrî ayant ordonné son édification en vue d'empêcher le retour de l'empereur Humâyûn après sa victoire sur celui-ci à la bataille de Kanauj. Le fort est sur l'ancienne route entre le nord (l'Afghanistan) et les plaines du Punjab ; il contrôlait ainsi la route entre Peshawar et Lahore. Sher Shâh Sûrî voulait également réprimer les tribus locales, les Gakhars, alliés de Humâyûn. Les Gakhars répondent à la construction du fort de Rohtas en élevant près du village de Sultanpur des fortifications qui existent encore.

Sher Shâh Sûrî choisit de nommer le fort en l'honneur du célèbre fort de Rohtasgarh dans le district de Shahabad près de Baharkunda, dans le Bihar, qu'il avait capturé du raja de Rohtas, Hari Krishnan Rai, en 1539. Le fort de Rohtasgarh est situé sur la rive nord du Son ; il fut construit par Harish Chandra de la dynastie Solar, qui nomma le fort en l'honneur de son fils Rohitasva.

Sher Shâh Sûrî décède avant l'achèvement du fort. Dix ans plus tard, l'empereur Humâyûn retourne régner sur l'Inde pour quinze années.

Par son caractère militaire, le fort ne fut jamais populaire parmi les Moghols : l'empereur Akbar y resta une seule nuit, ainsi que l'empereur Jahângîr, qui y revint une autre fois quand on le força à retourner à Kaboul.

Les Pachtounes, par contre, utilisèrent beaucoup le fort, comme ennemis des Gakhars. Ils y laissèrent un gouverneur et utilisèrent le fort pour assurer leur relation à leur capitale, Kaboul.