Il piccolo luogo di culto, trasferito nella posizione attuale per lasciare spazio al passaggio dei binari ferroviari, venne edificato nel 1568 dal sacerdote don Gioanbattista De Algerciisi di Taranto e consacrato il 2 aprile del 1570 da Monsignor Bartolomeo IV Sirigo, Vescovo di Castellaneta. 

Le fonti antiche raccontano che la chiesa fosse dotata di sepolture, di un discreto appezzamento di terra, di una fontana (chiamata “Fontana Vecchia” probabilmente per differenziarla da quella ben più grande presente in Piazza Fontana e fatta erigere da Carlo V) e di una stalla. 

La chiesa, già a partire dal 1582, divenne il punto di riferimento e sede della Confraternita della Madonna di Costantinopoli. La forte devozione era legata alla presenza di un dipinto della Vergine, definito di inestimabile valore, che la tradizione voleva fosse giunto direttamente dalla città turca. 

Ben poco si è salvato degli arredi della chiesa più volte abbandonata ed addirittura trasformata in magazzino. Superstite di queste vicende, un bassorilievo in pietra raffigurate la Madonna con Bambino, datato al cinquecento, che oggi si trova all’interno della Basilica Cattedrale di Taranto.