La costruzione della chiesa è comunemente attribuita al 1002-1003, per celebrare la liberazione di Bari dai Saraceni ad opera del doge di Venezia Pietro Orseolo II.

L’edificio, di cui recentemente è stata riscoperta una sottostruttura bizantina, databile al X secolo, è stato in periodo imprecisato adoperato dalla colonia dei Veneziani, residenti a Bari per ragioni prevalentemente commerciali.

La prima menzione documentata risale a una pergamena del 1187: una bolla dell’arcivescovo Rainaldo a favore del vescovo di Cattaro, ove, tra i firmatari, compare un Maione, abbas sancti Marci (abate della chiesa di San Marco). Altri riferimenti si ritrovano fra il XIII e il XV secolo.

In epoca imprecisata si colloca un’epigrafe che ricorda un restauro o un ampliamento della chiesa ad opera di un medico barese di nome Giovanni, attualmente conservata presso il lapidario del Museo Diocesano: Lapsa vetustate domus haec tibi, Marce beate/ Durat in his annis, studio renovata Ioannis,/ Ergo, Pater, cura sibi digna rependere iura,/ Et pro collatis medium coniunge Beatis. A quell’epoca la chiesa conduceva normale attività liturgica, affidata alle cure dell’arcidiacono e dell’arciprete della cattedrale. Alla chiesa era annessa la confraternita detta appunto di San Marco, che però nel 1809 si trasferì in Sant’Agostino.

Vi si insediò poi la confraternita di S. Antonio da Padova, che ancora oggi ne ha cura.