La chiesa sirmionese conserva materiali di epoche precedenti. L'ultima colonna del portico, alla sinistra di chi entra, è un miliario dedicato nel terzo anno consolare dell'imperatore Giuliano l'Apostata, vissuto nel IV secolo dopo Cristo. Forse era già reimpiegato nella precedente Pieve di S. Martino, sulla quale è sorta nel Quattrocento Santa Maria della Neve.Sul sagrato, inoltre, si trova un cippo romano dedicato a Giove, riusato come cassetta delle elemosine.
