Al-Yaʿqūbī, dem arabischen Geographen des 9. Jahrhunderts, zufolge wurde ar-Ramla 716 vom Kalifen Sulaimān ibn ʿAbd al-Malik durch Ansiedlung von Bewohnern der Nachbarstadt Ludd (auch: Lydda, Lod) gegründet.

Die Stadt blühte als Hauptstadt vom Dschund Filastin, einem der fünf Militärdistrikte der Provinz asch-Scham (Groß-Syrien) des arabischen Reichs, auf.

Als die Distriktregierung nach Jerusalem umsiedelte, verlor Ramla seine politische Bedeutung, blieb aber eine größere Stadt.

1068 zerstörte ein Erdbeben mit Epizentrum in Wadi Arabah Ramla vollständig und tötete 15.000 bis 25.000 Einwohner. Die Stadt lag vier Jahre verlassen da und konnte ihre alte Bedeutung nicht mehr erreichen.[1]

Die wirtschaftliche Bedeutung der Stadt und ihres unmittelbaren Nachbarn Lydda basiert auf ihrer Lage an der Kreuzung der beiden wichtigsten Straßen Palästinas, der Straße von Syrien nach Ägypten und der Straße von Jerusalem ans Mittelmeer. Nach dem Ersten Kreuzzug wurde Ramla Sitz einer Seigneurie des Königreichs Jerusalem (siehe auch: Vasallen des Königreichs Jerusalem).

1101–1105 wehrten die Kreuzfahrer in den drei Schlachten von Ramla mehrere Rückeroberungsversuche der ägyptischen Fatimiden ab. Die Kreuzfahrer erbauten in Ramla auch eine große Pfarrkirche, die Johannesbasilika.

Zu Beginn des Osmanischen Reiches wurde Ramla als große Stadt beschrieben, die überwiegend in Ruinen liege und kaum noch Einwohner habe. 1548 wurden 528 muslimische und 82 christliche Haushalte gezählt, eine Größenordnung, die sich bis zum Ende des 19. Jahrhunderts kaum veränderte.

Während der britischen Mandatszeit wuchs die Bevölkerung jedoch konstant: 1944 gab es 12.000 Muslime, 3.000 Christen und bis 1948 nur wenige Juden.

Während des Arabisch-Israelischen Kriegs von 1948 war Ramla aufgrund seiner geographischen Lage unweigerlich ein Konfliktpunkt. Am 9. Mai rückte von Be’er Ja’akow kommend die Givʿati-Brigade über Bir Salem vor, während von Ramla her die arabische Armee des heiligen Krieges unter Hassan Salameh voranschritt. Während erstere das eigentliche Landgut Bir Salem einnahm, bezogen Salamehs Kräfte Stellung auf den Hofstellen der arabischen Pächter dort. Ramla blieb so zunächst in arabischer Hand. Ein weiterer Angriff im Rahmen der Operation Dani führte dann aber zur Kapitulation Ramlas am 11./12. Juli 1948. Die arabische Bevölkerung wurde anschließend auf Befehl David Ben-Gurions bis auf 1.000 Personen zumeist christlichen Glaubens oder mit besonderen Beziehungen zu den Israelis vertrieben, insoweit sie vor den Kriegshandlungen nicht bereits geflohen war.

Die israelische Regierung siedelte in der fast menschenleeren Stadt ab November 1948 jüdische Immigranten an, in der Regel europäische Flüchtlinge und Übersiedler, später auch mittellose arabisch-jüdische Flüchtlinge, die Heimat, Hab und Gut in Nordafrika und auf der Arabischen Halbinsel verloren hatten. Bis Februar 1949 hatte die jüdische Bevölkerung die Zahl von 6.000 überschritten. Die wirtschaftliche Situation in Ramla und Lydda (jetzt Ramla und Lod) blieb in den nächsten beiden Jahrzehnten schwierig. 1972 wohnten in der Stadt 34.000 Menschen.

Am 1. Juni 1962 wurde Adolf Eichmann im Ajalon-Gefängnis in Ramla hingerichtet.