La construcción y el diseño se deben al emperador Adriano. Su arquitecto favorito, Apolodoro de Damasco, no quedó demasiado impresionado por las habilidades arquitectónicas de su emperador, y se burló del tamaño de las estatuas sedentes dentro de la cella, diciendo que seguro que se golpearían en la cabeza si intentaran levantarse de sus tronos. Esto provocó la ira del emperador, que lo mandó exiliar y luego ejecutar poco después. Comenzada la obra en el año 121, a principios del reinado de Adriano, el edificio no fue inaugurado hasta el 21 de abril de 135[3]·de 137 o 138, día del aniversario de la fundación de Roma, y su decoración fue terminada en 141-143 bajo el reinado de Antonino Pío. Sufrió un incendio en 283 que dañó las cellae y fue restaurado a partir de 308 por el emperador Majencio, que remodeló los ábsides que se ven hoy en día dotándolos de una cubierta abovedada. Esta restauración cambió el diseño original introduciendo exedrae, nichos semicirculares, en la parte trasera de cada cella y pavimentando el suelo con mármoles policromados. Monedas de Maximiano y Majencio representando al templo (la parte consagrada a la diosa Roma) con la leyenda CONSERVATOR VRBIS SVAE (literalmente, «protector o conservador de la ciudad») conmemoraron estos trabajos. Según el historiador de la Antigüedad Amiano Marcelino, el templo estuvo entre los grandes edificios de Roma que asombraron al emperador Constancio II en su visita a la ciudad en 357. También pasó por una restauración en tiempos de Eugenio, un usurpador de breve reinado (392-394) contra Teodosio I, ambos cristianos, pero mientras que el primero toleraba las diferentes corrientes cristianas, el segundo solo permitía la oficial, masacrando a los considerados por él como herejes. Como ocurrió con otros majestuosos edificios de la Roma clásica, el templo fue más tarde objetivo por sus ricos materiales. En 630 el papa Honorio I con el consentimiento del emperador Heraclio, se llevó las tejas doradas en bronce del tejado del templo para adornar el de San Pedro. Se cree que fue destruido por un severo terremoto. En el siglo VIII, el papa Pablo I hizo erigir en la zona del templo en el lado del Foro un oratorio consagrado a los apóstoles Pedro y Pablo, que se convertiría en el siglo IX en la iglesia cristiana de Santa María la Nueva (Santa Maria Nova), por contraponerse a la de Santa María la Antigua que quedaba al otro lado del foro, ya en tiempos del papa León IV alrededor del 850. Un claustro vecino construido en el siglo XII recubre una parte de las ruinas del templo antiguo. El templo sufrió grandes destrucciones en la Edad Media: los mármoles fueron recuperados o transformados en los hornos de cal. Sobrevivió la terraza, una parte de las columnas de granito del peristilo en el que se encontraban y el ábside con casetones que constituía el fondo de la cella. Después de una gran reconstrucción en 1612, la iglesia de Santa María la Nueva fue rebautizada como Santa Francesca Romana, incorporando la cella de Roma como campanario. El grabado de una vedute algo fantasiosa por Giovanni Battista Mercati representa el lugar en 1629. La vasta cantidad de mármol que en el pasado adornó el templo había desaparecido por su uso como materia prima para proyectos constructivos de la Edad Media en adelante. El arqueólogo italiano Rodolfo Amedeo Lanciani menciona su descubrimiento de un horno de cal cerca del templo en su obra The Destruction of Ancient Rome. Actualmente sólo quedan unas pocas columnas en su posición original, mientras que otras han desaparecido y reemplazadas por arbustos de boj.