W podziemniu kolegiaty znajduje się (krypta romańska) oglądać można pozostałości kościoła grodowego, odkryte podczas powojennych badań archeologicznych, ponownie odsłonięte w latach 90 i wyeksponowane. Była to jednonawowa świątynia z apsydą datowana na początek 2 połowy XII wieku. Zachowana jest partia fundamentowa zbudowana z kamieni narzutowych, związanych zaprawą gliniasto-wapienną. Zaprawa w części została wymyta przez powódź w 1997 roku.
Archeolodzy odkryli również fragmenty wcześniejszego kościoła o którym pośrednio pisze Gall Anonim, relacjonując obronę Głogowa w 1109 r. Była to zaś uroczystość św. Bartłomieja apostoła (24 sierpnia), gdy cesarz przebywał rzekę i cały lub w mieście słuchał wówczas mszy świętej. Kościół posiadał od zachodu wieżę (lub kruchtę) - jej relikty kryją się pod wybrzuszeniem podłoża. We wschodniej części krypty zachowane są resztki apsydy.