En 1803 el obispo de Buenos Aires Benito Lué y Riega tomó parte de los territorios de los curatos de La Piedad, Montserrat, San Isidro y Morón para erigir uno nuevo. Ramón Francisco Flores donó una manzana para levantar el edificio de la iglesia parroquial. El expediente fue elevado al Virrey Sobremonte y en 1806 se erigió formalmente el nuevo curato de San José de Flores.

El padre García recaudó fondos para edificar un templo definitivo, consiguiendo donaciones de Ramón Flores y Juan Manuel de Rosas, padrino del templo. Posteriormente, toda la sociedad porteña rivalizó en donaciones. El ingeniero Felipe Senillosa, tomó la dirección de la obra que se inauguró en 1831.

En 1878, el padre Feliciano de Vita encaró la construcción de un nuevo templo ya que su capacidad no alcanzaba para albergar a todos los fieles que allí concurrieran.

En 1879, los arquitectos italianos Benito Panunzi y Emilio Lombardo concluyeron los planos. La construcción fue de los arquitectos Andrés Simonazzi y Tomás Allegrini.

En 1883 fue inaugurada y bendecida por Monseñor Federico Aneiros. El párroco Daniel Figueroa la decoró tal y como se conserva en la actualidad.

En 1956, la imagen de San José, que preside el altar mayor del templo, recibió la coronación pontificia, por especial distinción del papa Pío XII, inaugurando, al mismo tiempo, el camarín de San José y el bautisterio.