Estas ruinas no son fruto de un falso capricho romántico. Su presencia en el Parque del Retiro se debe al interés del político Antonio Cánovas del Castillo, quien influyó para que las ruinas de la pequeña iglesia de San Pelayo o de San Isidoro, del siglo XI, que se encontraban extramuros de la ciudad de Ávila, se emplazaran para su preservación futura en este parque. Tales ruinas habían sido adquiridas por el Estado en 1884 para adornar los jardines del Museo Arqueológico Nacional; tras la oposición de la Academia de Bellas Artes de San Fernando, el Estado las cedió al Ayuntamiento de Madrid en 1896.

Lo que hoy se puede contemplar son los vestigios de la cabecera semicircular y la portada lateral; la primera se organiza con semicolumnas adosadas de orden gigante, que recorren todo el frente abriéndose en medio arcos de medio punto sobre columnillas con capiteles con motivos vegetales, reducidos los vanos a estilizados tragaluces y predominando así el macizo, tan característico de la arquitectura románica. La portada también es de medio punto, con arco moldurado que descansa en columnas, salvo el extradós y el intradós que lo hacen sobre pilares. El capitel es corrido y tiene también motivos vegetales como decoración.