Il paese ha una storia molto antica. Come in tutta l'area del sud est barese, anche a Polignano sono state rinvenute tracce di presenza umana, risalenti al neolitico, nella frazione di Santa Barbara.

Secondo alcuni studiosi, l'antica città greca di Neapolis potrebbe essere una delle due colonie che, nel IV secolo a.C., Dionigi II di Siracusa fondò sulle coste adriatiche. Come detto, i segni più evidenti della presenza dell'uomo risalgono al Neolitico, nella zona di Santa Barbara (VI - V millennio a.C.), e nell'Ipogeo Manfredi (IV millennio a.C.), uno degli insediamenti più significativi della Puglia centrale.

Indagini archeologiche hanno rivelato l'esistenza di un villaggio risalente all'età del bronzo che, grazie alla sua posizione e agli approdi naturali, divenne un importante scalo portuale. Nel II millennio a.C., l'approdo degli Iapigi spinse gli abitanti dei villaggi a trasferirsi nella zona dell'attuale centro storico. È anche attestata la frequentazione di questi luoghi da parte di mercanti corinzi e attici, soprattutto nell'età del ferro, quando la Terra di Bari assunse la denominazione di Peucezia. Agli inizi del III secolo a.C., la zona di Polignano divenne importante punto strategico per la potenza di Taranto, con cui aveva intessuto rapporti commerciali, come attestato da alcuni pezzi del corredo funerario di una tomba scoperta nell'area del giardino vescovile, fatta indagare dal vescovo, monsignor Mattia Santoro, nel 1785. Il Vescovo rinvenne un sepolcro enorme, integro, contenente oltre allo scheletro del guerriero i resti di un'armatura, un candelabro, un elmo in bronzo e più di 64 tra vasi ed oggetti antichi. Sir William Hamilton, ambasciatore inglese a Napoli visitò il sepolcro denominandolo "Grand Mausolée". I pezzi migliori vennero donati dal Vescovo Santoro a re Ferdinando IV che li collocò nel Real Museo di Capodimonte di cui costituivano "il più prezioso ornamento". In particolare tra i quattro bellissimi Grandi Vasi istoriati a figure rosse, risalenti al IV sec. a.C. e che superavano il metro in altezza, ve ne era uno, denominato Gran Vaso di Capodimonte, più bello e grande degli altri. Su di esso è raffigurata nella parte centrale un'assemblea di divinità: Minerva, Apollo, Artemide ed Eracle su un'amazzonomachia, mentre sul collo vi è una Nike alata su un carro trainato da quattro bellissimi cavalli bianchi, preceduti da Ecate nell'atto di sollevare due torce a far da apristrada nelle tenebre. Questo reperto, tra i più belli mai ritrovati, si conserva oggi presso il Metropolitan Museum di New York. Il percorso di questo Gran Vaso è stato ricostruito dallo studioso Giuseppe Maiellaro nel suo libro L'Assemblea Divina - Le vicende del "Gran Vaso di Capodimonte" da Polignano al Metropolitan. Il Metropolitan Museum di New York nel giugno del 2015 ha fatto propria questa ricerca riconoscendo Polignano come luogo di rinvenimento del Gran Vaso di Capodimonte.

Fiorente centro di traffici, fu per i Romani un'importante statio lungo la via che collegava Roma a Brindisi.

Nel VI secolo, Polignano fu sotto la giurisdizione dell'Impero Bizantino di cui fu adottata la religione ortodossa. Con l'avvento dei Normanni, che dominarono fino al 1194, il prestigio del paese crebbe, grazie anche all'opera dei Benedettini, presenti con due monasteri. La dominazione angioina rese ancora più fitti i rapporti commerciali con altri centri costieri e molti uomini d'affari e mercanti, anche veneziani, elessero Polignano a loro dimora. Nel XVI secolo in seguito all'assedio di Monopoli anche Polignano rientrerà sotto il dominio veneziano per vent'anni.[1] Ancora oggi nel centro storico è presente il palazzo del Doge, dove risiedeva il governatore veneziano. Nel 1530 Polignano viene ceduta da Venezia a Carlo V imperatore di Spagna[2]. Durante la dominazione aragonese, le attività commerciali si svilupparono sotto il controllo di espertissimi mercanti veneziani. Furono erette opere di difesa del paese, ad iniziare dalla costa. Il paese fu più volte visitato da reali: nel 1797, re Ferdinando I delle Due Sicilie, accompagnato da sua moglie e da suo figlio, vi si fermò durante il viaggio per Lecce e, dopo 10 anni anche il re Giuseppe Bonaparte vi fu ricevuto con grandi feste.

Abolita la feudalità, Gioacchino Murat volle visitare il Regno di Napoli, compresa Polignano, per potenziarne le capacità militari.

Lo stemma e il gonfalone sono stati riconosciuti con decreto del capo del governo del 17 ottobre 1935.

Il gonfalone è un drappo di azzurro.