Η Σαμαρκάνδη είναι μία από τις αρχαιότερες συνεχώς κατοικούμενες πόλεις στον κόσμο, που ευδοκίμησε εξαιτίας της θέσεώς της πάνω στον κύριο εμπορικό δρόμο μεταξύ Κίνας και Ευρώπης («Δρόμος του μεταξιού»). Σε κάποιες χρονικές περιόδους, η Σαμαρκάνδη ήταν η μεγαλύτερη πόλη της Κεντρικής Ασίας. Ιδρύθηκε περί το 700 π.Χ. και ήταν η πρωτεύουσα της Σογδιανής (χώρας που αποτελούσε τότε σατραπεία της Περσίας των Αχαιμενιδών) όταν την κατέλαβε ο Μέγας Αλέξανδρος, το 329 π.Χ.. Επιτάφιος Πόλη για τον Κλείτο τον Μέλανα τό 328 π.Χ. Παρότι περσόφωνη περιοχή, παρέμεινε εκτός των συνόρων της Περσίας από τους χρόνους του Μ. Αλεξάνδρου μέχρι την κατάκτηση της Περσίας από τους Άραβες. Κατά τη δυναστεία των Αββασιδών, το μυστικό του τρόπου παραγωγής χαρτιού διέρρευσε από δύο Κινέζους αιχμαλώτους της μάχης του Ταλάς το 751 μ.Χ., πράγμα που οδήγησε στην κατασκευή του πρώτου εργαστηρίου χαρτοποιίας του ισλαμικού κόσμου στην Ιστορία, στη Σαμαρκάνδη. Στη συνέχεια, η εφεύρεση του χαρτιού έγινε γνωστή στον υπόλοιπο μουσουλμανικό κόσμο, και από εκεί στην Ευρώπη.

Από τον 6ο μέχρι τον 13ο αιώνα, η πόλη μεγάλωσε και έφθασε να έχει μεγαλύτερο πληθυσμό από ό,τι σήμερα, ενώ περιήλθε διαδοχικά υπό τους Τούρκους, τους Άραβες (που εξισλάμισαν τον πληθυσμό), τους Σαμανίδες Πέρσες, και πάλι υπό τους Καραχανίδες και τους Σελτζούκους Τούρκους, προτού καταληφθεί και λεηλατηθεί από τους Μογγόλους το 1220. Μικρό μόνο μέρος του πληθυσμού επέζησε, και η Σαμαρκάνδη υπέστη τουλάχιστον μία ακόμα λεηλασία από τους Μογγόλους του Χαν Μπαράκ προκειμένου να συλλεγούν χρήματα για πληρωμή στρατεύματος. Χρειάσθηκαν πολλές δεκαετίες για να συνέλθει η πόλη από αυτές τις καταστροφές.

Το 1370 ο Τιμούρ-ι-Λενγκ (= Τιμούρ ο Χωλός), γνωστότερος ως Ταμερλάνος, αποφάσισε να καταστήσει τη Σαμαρκάνδη πρωτεύουσα της αυτοκρατορίας του, η οποία εκτεινόταν από την Ινδία ως την Τουρκία. Τα επόμενα 35 χρόνια έκτισε μια νέα πόλη και την εποίκησε με τεχνίτες από όλα τα μέρη που είχε κατακτήσει. Ο Τιμούρ έτσι κέρδισε σε καλή υστεροφημία ως σοφός και γενναιόδωρος, ενώ η Σαμαρκάνδη έγινε το κέντρο της περιοχής Υπερωξιανής.

Τον 16ο αιώνα οι Σαβανίδες μετακίνησαν την πρωτεύουσά τους στη Μπουχάρα και η Σαμαρκάνδη παρήκμασε. Μετά από μία επίθεση από τον Πέρση βασιλιά Ναντίρ Σαχ, η πόλη σχεδόν ερήμωσε κατά τον 18ο αιώνα.

Η Σαμαρκάνδη καταλήφθηκε από τους Ρώσους μετά από επιτυχή πολιορκία της ακροπόλεώς της από τον συνταγματάρχη Αλεξάντρ Αμπράμοφ το 1868. Μετά από λίγο, η μικρή ρωσική φρουρά εκ 500 ανδρών βρέθηκε να πολιορκείται η ίδια. Οι επιτιθέμενοι, υπό τον Αμπντούλ Μαλίκ Τουρά, τον πρωτότοκο γιο του εμίρη της Μπουχάρας, αποκρούσθηκαν με βαριές απώλειες. Ο Αμπράμοφ, στρατηγός πλέον, έγινε ο πρώτος κυβερνήτης του στρατιωτικού Οκρούγκ που ίδρυσαν οι Ρώσοι κατά μήκος του ποταμού Ζεραβσάν, με τη Σαμαρκάνδη ως το διοικητικό κέντρο. Η πόλη έγινε αργότερα πρωτεύουσα του ομώνυμου «υποκειμένου» («ομπλάστ») του Ρωσικού Τουρκεστάν και η σημασία της αυξήθηκε ακόμα περισσότερο όταν ο πρώτος σιδηρόδρομος, ο «Υπερκασπιακός», έφθασε στην πόλη το 1888. Η Σαμαρκάνδη έγινε πρωτεύουσα της Σοβιετικής Σοσιαλιστικής Δημοκρατίας του Ουζμπεκιστάν το 1925, αλλά το 1930 η πρωτεύουσα μετακινήθηκε στην Τασκένδη.