Au cours des fouilles organisées en 1925 par l'anthropologue suisse Eugène Pittard, Perrhé était déjà habitée à l'époque paléolithique. Dans l'Antiquité, la cité était l'une des quatre villes noyaux du royaume de Commagène mentionnées dans les inscriptions, avec Samosate, Marash et Doliche . Elle se situait sur la route reliant Samosate, la capitale, à Melitene, en passant par les montagnes du Taurus.

Grâce à une source abondante, déjà célèbre dans l'Antiquité et qui jaillit aujourd'hui d'une fontaine romaine au centre de la ville, Perrhé était une étape importante pour les voyageurs qui traversaient les montagnes. Sur la carte routière romaine de la fin de l'Antiquité, la Tabula Peutingerina, la ville apparaît comme la deuxième étape sur la route de Samosate, après Comana.

Sous Antiochus IV (r. 38-72 après J.-C.), Perrhé fut refondée en tant que polis d'Antioche sur le Taurus. De cette période date un relief votif de Jupiter Dolichenus découvert dans la nécropole de la ville en 2001 (conservé au Musée archéologique d'Adıyaman).

En 198/200 après J.C., la ville a probablement contribué financièrement à la construction du pont Severan. Une mosaïque au sol trouvée dans la ville indique l'importance du lieu à l'époque chrétienne.

Sous l'Empire byzantin, Perrhé était un évêché.

Au Moyen Âge, la ville a perdu de son importance face à la ville de Hisn-Mansur (Adıyaman moderne).