La Cattedrale di San Sabino, definita da Mons. Francesco Cacucci “lo scrigno della fede", è sorta tra il XII e il XIII secolo, probabilmente verso l'ultimo trentennio del 1100, su un più antico luogo di culto, ossia sulle rovine del Duomo distrutto da Gugliemo I detto il Malo (1156); a destra del transetto è possibile osservare tracce del pavimento originario che si estende sotto la navata centrale.
La presenza della Diocesi nella Cattedrale di Bari, infatti, risale al Vescovo Concordio, che fu presente al Concilio Romano del 465. L'antica chiesa episcopale è databile perlomeno al VI secolo. Sotto la navata centrale si trovano i resti di una antica chiesa, risalente ad un periodo precedente al primo millennio. Questa è strutturata in un ambiente a tre navate, con pilastri quadrati, volte a crociera costruite con blocchi di pietra posti a spina di pesce. Inoltre sono state trovate fondazioni che indicano la presenza di un edificio absidato il cui asse doveva essere dispostato leggermente obliquo rispetto a quello dell'attuale cattedrale. Su uno dei mosaici pavimentali un'iscrizione in cui compare il nome del Vescovo Andrea (758 - 761), fa pensare che si trattasse della prima cattedrale distrutta nell'IX - X secolo.
Al posto di questa chiesa sorge la cripta della cattedrale attuale, l'episcopio di Santa Maria, che probabilmente è l'edificio in questione. Nella prima metà dell'XI secolo l'arcivescovo di Bisanzio (1025 - 1035) fece costruire una nuova chiesa terminata poi da Nicola I (1035 - 1061) e Andrea II (1061 - 1068), suoi successori. Questa chiesa fu poi distrutta da Guglielmo il Malo, durante la distuzione dell'intera città (fu risparmiata solo la Basilica di San Nicola) che egli compì nel 1156. L'arcivescovo Rainaldo alla fine del XII secolo iniziò la ricostruzione dell'edificio.
Nella cripta sono conservate le reliquie di San Sabino, vescovo di Canosa, nell'altare maggiore. Nelle absidi minori vi sono due sarcofagi: uno contiene le reliquie di Santa Colomba, di recente restaurate, e l'altro reliquiari vari. Nella sagrestia di destra è collocato un altare con un dipinto raffigurante, probabilmente, San Mauro, ritenuto primo vescovo d Bari.
L'attuale Cattedrale è quindi il risultato di lavori iniziati subito dopo la distruzione operata da Guglielmo il Malo. Consacrata il 4 ottobre 1292, la chiesa si rifà allo stile della Basilica di San Nicola. L'edificio ha poi subito una serie di rifacimenti, demolizioni ed aggiunte a partire dal XVIII secolo. Durante il XVIII secolo la facciata, l'interno delle navate, l'interno della Trulla (l'antico battistero del XII secolo, oggi sacrestia) e la cripta furono rifatte in forme barocche su progetto di Domenico Antonio Vaccaro. L'arredo interno fu invece riportato alle antiche fattezze romaniche negli anni cinquanta del XX secolo.
Stilisticamente, si tratta di un importante esempio di stile romanico pugliese. La semplice facciata è tripartita da lesene e coronata da archietti: nella parte inferiore si aprono tre portali del XI secolo, rimaneggiati nel XVIII. La parte superiore è ornata da monofore, una bifora e un rosone, la cui ghiera è affollata di mostri ed esseri fantastici.
Sui fianchi si aprono profonde arcate sulle quali corrono gallerie esafore (rifatte); all'incrocio dei bracci sorge la cupola, poligonale all'esterno, dal mirabile fregio. Degne di nota sono le due testate del transetto, ornate di rosoni e bifore, come la parte absidale a parete continua, nella quale si apre un superbo finestrone. Sul fianco sinistro sorgono la grande costruzione cilindrica della trulla (antico battistero trasformato in sacrestia nel XVII secolo) e appoggiato al transetto. Poco lontano si erge il campanile con finestre e un'alta cuspide, rifatto con pietre simili alle originali. Sotto un elaborato tiburio, la calotta della cupola presenta chiari motivi moreschi.
Internamente la chiesa, che è stata spogliata di tutte le strutture barocche, si presenta nella sua nuda solennità. Le tre navate sono separate da due teorie di otto colonne ciascuna. I finti matronei e le ampie trifore scandiscono armonicamente lo spazio, che si chiude con il transetto sopraelevato, l'alta cupola e tre absidi, di cui maestosa è quella centrale. Nella navata mediana il pulpito è ricomposto con frammenti originari del XI e XIII secolo, come lo sono pure il ciborio dell'altare e la cattedra episcopale nel presbiterio, cinto da plutei duecenteschi. Nell'abside sinistra esistono tracce di affreschi del Duecento.
Il 21 giugno di ogni anno, giorno del solstizio d’estate, nella Cattedrale si verifica un evento straordinario: il sole che bacia la terra. In questo giorno alle ore 17,10 (ora legale), i raggi del sole provenienti dal rosone centrale con i suoi 18 petali o raggi, posizionato sulla facciata principale, vanno a combaciarsi esattamente sul corrispondente rosone in marmo delle stesse dimensioni, collocato sul pavimento della navata. L’effetto avviene solo una volta l’anno e soltanto in questo giorno. L’eccezionale avvenimento è dovuto al movimento della Terra intorno al sole ed al fatto che il grande tempio sacro è stato costruito con l’abside rivolto verso l’Oriente. Secondo la tradizione, i primi cristiani pregavano indirizzandosi verso il punto in cui sorge il sole. Nel medioevo, infatti, l’uomo aveva uno stretto rapporto con la luce.
La Cripta
Sotto il transetto si estende la cripta, trasformata nel Settecento. Vi si conserva la tavola bizantineggiante della Vergine Odegitria, patrona principale della città insieme a san Nicola. Oltre ad accogliere le spoglie di san Sabino,Titolare della Cattedrale, la chiesa dà ospitalità alle reliquie di santa Colomba, completamente restaurate nel 2005.
Nel palazzo della Curia, adiacente la cattedrale, ha sede il Museo Diocesano, dove si può ammirare l'Exultet, ossia una preziosa pergamena d'ispirazione bizantina, finemente miniata, anteriore al 1050. Le immagini sono capovolte rispetto al testo e quindi rispetto al sacerdote che lo leggeva. In questo modo i fedeli, quando il celebrante srotolava la preghiera pasquale, potevano guardare i sacri disegni. Tra l'altro anche chi non conosceva il latino poteva avere un'idea immediata del racconto.