Un’epigrafe ci ricorda che in epoca romanica (1182) la chiesa fu interessata da una serie di lavori, dei quali in verità non è specificata la natura ma che certamente non furono i lavori di fondazione dell’edificio ecclesiastico; infatti alcuni documenti precedenti questo periodo (il più antico risale al 1125) già ne citano la presenza. Si può perciò ipotizzare che in questo luogo esistesse una chiesa in epoca carolingia e che addirittura la sua fondazione possa essere spostata ai secoli IX e X. D’altra parte la stessa evoluzione storico-architettonica caratterizza tutte le pievi feretrane. Come testimonianza del periodo carolingio troviamo nella pieve un pilastrino decorato con un nastro a treccia.

L’impianto romanico era certamente diverso da quello attuale: le tre absidi della chiesa ci fanno pensare all’antica presenza di tre navate al posto dell’unica navata attuale, ma anche un arco interno a tutto sesto ci rimanda ad un impianto a tre navate, dove l’arco consisteva nel collegamento del coro con le cappelle laterali. La pieve di Carpegna si presenta oggi in perfette condizioni, anche nelle parti annesse del chiostro, e questo grazie ai risultati ottenuti dai recenti restauri.